Pada awal berdirinya, Madrasah ini bernama PGAN 6 tahun yang beralamat di Jalan Sisingamangaraja Semarang . Tahun 1984 PGAN 6 tahun berubah menjadi MAN dan MTsN.
Pada tahun pelajaran 1984 Madrasah tersebut menempati lahan di Jl. Kethileng Raya yang sekarang dikenal dengan nama jl. Fatmawati. Di bawah pimpinan Bapak Drs. H. Muhammadi beralih tempat, menempati gedung baru di Desa Sendang Mulyo (Gendong) kelurahan Sendang Mulyo Kecamatan Tembalang hingga sekarang.
Sejak saat itu pergantian pimpinan Madrasah dapat diurutkan sebagai berikut :
1. Periode tahun 1984 – 1988 dipimpin oleh Bapak Drs. H. Muhammadi
2. Periode tahun 1988– 1994 dipimpin oleh Bapak Drs. H. Haryono
3. Periode tahun 1994 – 1997 dipimpin oleh Bapak Drs. H. Muhamad Asyiq
4. Periode tahun 1997 – 2001 dipimpin oleh Bpk. Drs.H. Istichsan
5. Periode tahun 2001 – 2003 dipimpin oleh Bpk. Drs.H. Nasichun
6. Periode tahun 2003 – 2009 dipimpin oleh Bpk. Drs.H. Firdaus Faishol, M.Pd
7. Periode Juli 2009 – 30 Maret 2012 oleh Drs. H. Amirudin Aziz, M.Pd
8. Periode 1 Maret 2012 – 2012 dipimpin oleh Dra.Hj. Noor Mazijah Harun, M.SI
9. Mulai tahun 2012 – 2015 oleh Hj. Hidayatun S.Ag, M.Pd
10. Periode tahun 2017 – 2018 dipimpin oleh Bpk. Drs. H. Mudlofir, MM
11. Periode 2018 – 2021 Dipimpin Oleh Bapak Drs. H. Asroni, M.Ag
12. Periode 2021 – Sekarang Dipimpin Oleh Bapak H. Kasturi, S.Pd.,M.Pd
Terima kasih sudah di persingkat