Beliau orang pertama yang diajak oleh Ustadz Abdullah Hinduan mendirikan Ma’had Islam. Beliau tidak sempat mendengar pekik “Merdeka” dan mengajar kurang dari dua tahun di sekolah yang turut ia dirikan. Sulit menggambarkan riwayat hidup dan perjuangan beliau dalam mendirikan Ma’had Islam. Sekalipum sebenarnya menurut penuturan dari banyak sumber, Ustadz kelahiran Pekalongan ini jasanya sangat besar sekali dalam upayanya dalam mendirikan Perguruan Ma’had Islam Pekalongan. Mungkin dikarenakan beliau meninggal dunia di usia muda (34 tahun) itulah hanya sedikit cerita atau murid yang mengnal ayah dari dua anak ini. Beliau termasuk tipe seorang pendidik yang lembut dan santun pada murid-muridnya. penampilan keseharianya sangatlah sederhana tapi rapih untuk ukuran seorang yang berkecukupan. Sejak kecil beliau memang terlahirkan dilingkungan yang boleh dikata sangat kaya pada masa itu.

Sebelum menjadi pengajar di Madrasah Arabiyah Islamiyah (MAI), atas saran dan biaya dari ayahnya, akhirnya Zen muda berangkat ke negeri hadramaut untuk mendalami ilmu fiqih. Sepulang sekolah dari sana, akhirnya beliau memutuskan untuk menjadi pengajar di MAI.

Perkenalannya dengan Abdullah, rekan kerjanya sesama pendidik, diantaranya pernah tercetus ide merubah modal pendidikan dan kurikulum dimana mereka mengajar. Diantaranya adalah merubah dari sistem pendidikan tradisional yang hanya mengajarkan ilmu agama pada anak didiknya, yakni dengan muatan kurikulum pendidikan agama dan pendidikan umum. Sedangkan bahasa pengantar yang dipergunakan adalah bahasa Indonesia. Sementara untuk pelajaran agama dan tentu saja mata pelajaran bahasa arab tetap menggunakan bahasa arab sebagai bahasa pengantar. Tapi entah mengapa, ide cemerlang seperti itu, rupanya tidak berkenan dihati para rekan pengajar dimana mereka mengajar.

Menurut beberapa sumber, pada saat itu , ide model pendidikan macam itu boleh dikata cukup revolusioner, untuk tidak mengatakan “Sekuler”. Maklum saja, memang pada saat itu, hampir semua Islam hanya mengajarkan ilmu-ilmu yang “Berbau Ukhrawi” saja. Dan mereka justru bertanya, ” Buat apa mengajarkan murid-murid kita yang bersifat duniawi? ” Akhirnya, setelah terjadi perdebatan panjang antara mereka berdua dengan rekan sesama pengajar di MAI, ditolaklah ide dari Ustadz Zen bin Yahya dan Ustadz Abdullah Hinduan itu. Bisa jadi yang menolak ide itu tidak melihat arti pentingnya pendidikan umum bagi murid-muridnya di kelak kemudian hari.

Dan sebaliknya, waktulah yang menjawab ketajaman visi dan ide pendidikan modern mereka berdua. Selang tidak lama setelah perdebatan itu, akhirnya mereka berdua dengan mengajak serta muridnya di MAI (Muhammad Assegaf, Basari Ahmad, Muchsin Alatas) dan juga Muhammad Baragbah memutuskan untuk merealisasikan modal pendidikan yang mengajarkan 100% pendidikan agama dan 100% pendidikan atau pengetahuan umum dengan nama Perguruan Ma’had Islam.

Waktu pun terus berdetak, sejak 8 Nopember 1942, suami dari Khodijah binti Abdul Qodir Yahya itu mulai aktif mengajar sesuai dengan keahliannya dibidang ilmu fiqih dan bahasa Arab pada murid-muridnya. Ayah dari Sidah Zen dan Ali Zen ini sangat menikmati profesinya sebagai pengajar di sekolah yang beliau dirikan bersama kawan dan bekas muridnya. Beliau dikenal oleh muridnya tidak hanya sebagai guru yang baik, tapi juga ayah yang sayang pada anak-anaknya. “Sewaktu mengajar, sering diajak menemani ayah ke sekolah, “ kenang putri sulungnya, Sidah Zen. Mungkin, lanjut Sidah Zen, hanya masa indah itulah yang saya ingat bersama ayah. Memang, beliau tidak lama mengajar di Ma’had Islam. Pada saat mengajar, kedua kakaknya Umar bin Abdurrahman bin Yahya dan Husein bin Abdurrahman bin Yahya ditangkap oleh Jepang. Mendengar kabar buruk itu, saat itu juga beliau mulai jatuh sakit-sakitan, hingga akhirnya beliau meninggal dunia pada hari Jum’at, 6 Rabi’ul Tsani 1363 atau 31 Maret 1944. Ustadz yang berkacamata minus ini memang tidak sempat menikmati lebih lama menjadi seorang ayah sekaligus pengajar. Lebih kurang hanya setahun saja ia mengajar, sementara jiwa dan pemikirannya sedang dibutuhkan oleh Ma’had Islam. Jalan hidupnya yang singkat itu, seolah menempatkannya pada lipatan sejarah Ma’had Islam. Sungguh sayang. Tapi mungkin begitulah wujud cinta Allah pada hamba-Nya yang sering datang dalam bahasa yang tidak kita mengerti.