Perkembangan pendidikan di YKHM selaras dengan kebutuhan masyarakat. Maka tahun 1998 banyak wali santri mengajukan agar didirikan sekolah lanjutan.
Tahun 1998, didirikan unit baru yaitu Madrasah Ibtidaiyah (MI) Al Huda. Tahun petama terisi 10 santri yang semuanya dari TA-HM. Kemudian terus berkembang sampai saat ini, dengan 18 kelas, paralel 3 kelas di setiap jenjang, dengan jumlah santri 487 anak.
Tahun 2014, didirikan unit baru yaitu Madrasah Tsanawiyah (MTs) Al Huda. Tahun pertama menerima 17 santri. 10 diantaranya dari MI AL HUDA. 3 tahun kemudian MTs dilengkapi dengan merintis Ma’had Mar atus shalihah putri Al Huda.