Sejak kecil dikenal sebagai anak yang taat akan agama.
Pada tahun 1945 beliau bertolak ke Kota Kediri untuk mengasah ilmunya di Pondok Lirboyo, Jawa Timur yang pada saat itu di bawah pengasuhan KH Abdul Karim, KH Mahrus Ali dan KH Marzuki.
Selama lima tahun, beliau terus mengasah ilmu agama di Pondok Lirboyo.
Sampai akhirnya, Mbah Moen mendirikan Pondok Pesantren yang sekarang dikenal dengan nama Al-Anwar.
Kemudian sekitar tahun 2008, kembali mendirikan Pondok Pesantren Al-Anwar 2 di Gondan Sarang Rembang, yang kemudian oleh beliau dipasrahkan kepada putranya KH Ubab Maimun.
Pendidikan Mbah Moen
Kedalaman ilmu agama dari orangtua KH. Maimun Zubair itulah merupakan sebuah dasar pendidikan agama yang membentuk KH. Maimun Zubair seperti sekrang ini.
Setelah mengaji dan mendalami ilmu agama dari Ayahnya, kemudian KH. Maimun Zubair meneruskan mondoknya di Lirboyo Kediri di bawah asuhan KH. Mahrus Ali dan KH. Marzuki Dahlan.
Tidak hanya di Indonesia, KH. Maimun Zubair kemudian melanjutkan kelana ilmunya di Makkah Mukarromah pada usia 21 tahun. Ketika melakukan perjalanan ke Mekkah ini, KH. Maimun Zubair ditemani oleh kakeknya sendiri yaitu KH. Ahmad bin Syuaib.