Sekolah ini ditubuhkan pada 2 April 1962 yang berasaskan kepada "Sekolah Aneka Jurusan" dan dikenali sebagai Sekolah Menengah Lanjutan Johor Bahru. Pada asalnya, murid-murid sekolah ini telah menumpang di Maktab Sultan Abu Bakar Johor Bahru untuk murid lelaki dan Sekolah !enengah (P) Sultan Ibrahim untuk murid-murid perempuan.
Pada bulan Januari 1964, kompleks sekolah siap dibina dan mula mengunakan aliran bahasa penghantar Bahasa Melayu dan Bahasa Inggeris. Pada tahun 1965, sekolah kemudiannya dikenali sebagai Sekolah Menengah Rendah, mula menerima kelas peralihan , dan pelajar aliran Bahasa Melayu diserapkan ke Sekolah Menengah Sultan Ismail. Tanggal 25 Julai 1968, sekolah ini secara rasminya dinamakan "Sekolah Menengah Aminuddin Baki", sempena nama seorang tokoh pendidikan yang terkemuka dan telah dirasmikan oleh YB. Menteri Pelajaran ketika itu ialah Encik Mohd Khair Johari.
Menjelang Januari 1970, sekolah ini menerima pelajar Tingkatan 4 sebanyak 4 kelas Setahun kemudian, sekolah ini mulai menjadi sekolah penuh daripada Peralihan, Tingkatan 1 hingga Tingkatan 5. Bilangan kelas bertambah lagi apabila pada 22 Januari 1979, Kelas Pendidikan Khas Cacat Pendengaran telah dibuka dengan menerima seramai 6 orang pelajar perintis yang cacat. Dasar Pelajaran KEbangsaan, sekolah ini kemudiannya menjadi Sekolah Menengah Kebangsaan sepenuhnya pada Januari 1980. Pada 19 April 1986, pula, sekolah telah mengadakan Sambutan Jubli Perak yang telah dirasmikan oleh YB Datuk Abdullah Hj Ahmad Badawi, yang merupakan Menteri Pelajaran ketika itu.
Mulai tahun 2005, kelas pendidikan Khas telah dipindahkan ke SMK Taman Sutera yang berhampiran dengan SK Pendidikan Khas Cacat Pendengaran, Sekolah ini mula menawarkan kelas tingkatan 6 Rendah aliran sastera dengan hanya 2 kelas dan STPM pertama yang diduduki oleh pelajar SAB ialah pada tahun 1988. Kini terdapat 8 buah kelas Tingkatan 6 di SAB iaitu 4 kelas 6 Rendah dan 4 kelas 6 Atas.
Kelas rancangan khas Intergrasi telah dimulakan pada tahun 2008. Terdapat 2 kelas tingkatan 1 pada tahun tersebut. Pada masa kini, terdapat 6 kelas iaitu 2 kelas Tingakat 1, 2 kelas Tingkatan 2 dan 2 kelas Tingkatan 3. Tujuan ditubuhkan kelas ini adalah untuk meningkatkan prestasi akademik sekolah ini.. Pada 2 April 2012, genaplah usia sekolah ini 50 Tahun. Pelbagai kemajuan dan perubahan dari segi fizikal, akademik dan kurikulum telah dicapai. Semoga prestasi sekolah ini di dalam pelbagai aspek terus meningkat dari semasa ke semasa selaras dengan kemajuan dan penambahbaikkan dalam sistem pendidikan negara.
