Beliau dikenal seorang zuhud dan wara' yang hidupnya dihabiskan hanya untuk mengajar dan beribadah kepada Allah swt. Tapi, akhirnya ia seperti diperingatkan Allah melalui mimpi yang sangat berarti bagi hidupnya di kemudian hari.
Syekh Ali masih begitu asyik mengajar Adab al-Dunya wa al-Diin, sebuah kitab karya Imam al-Mawardi (wafat tahun 450 H) di hadapan ratusan muridnya. Para murid banyak mencatat penjelasan Syekh Ali di luar kitab ulama besar abad ke 10 Masehi ini. Syekh Ali selalu menambahkan catatan karena ia banyak membaca kitab-kitab langka dan rumit sebagai upaya memperkaya dan menambah perbandingan.
Namun, dari jauh kemudian ia melihat tiga orang berjalan menuju rumahnya. Seorang laki-laki dan di belakangnya ada dua orang wanita dengan mengenakan baju serba hitam. Seorang wanita pendek dan gemuk yang jalannya doyong-doyong dan seorang lagi wanita ramping tinggi dengan langkah yang pasti. "Ah, Nu;man kiranya." gumam Syekh Ali dalam hati. Nu'man adalah salah seorang murid Syekh Ali yang sudah mengasuh sebuah pesantren di desa lain, namun, untuk pengajian karya al-Mawardi yang digelar sepekan du kali, Senin dan Kamis, ia hampir tidak pernah absen. Pengajian ini dimulai sehabis shalat Ashar dan sengaja diakhiri tepat adzan Magrib, lalu buka bersama dari puasa sunah Senin-Kamis.
Hari itu pembahasan jatuh pada pasal amar ma'ruf nahi munkar, kata Syekh Ali, "Ini penting, sebab banyak sebagian orang yang menyatakan diri sanggup dan berani melawan kemungkaran tapi sebenarnya bukan tugas dia. Jika setiap orang diberi hak menumpas kemungkaran, maka kacaulah dunia dan akan terjadi kemungkaran baru yang dibungkus anti kemungkaran. Tugas menghancurkan kemungkaran adalah tugas Negara. Rakyat hanya boleh mendesak negara untuk menumpasnya."
Usai pengajian semua menikmati susu kambing mentah dan kurma terbaik Yaman yang sedikit besar dan pekat dibanding kurma Madinah. Setelah shalat Isya baru mereka makan bersama. Bagi tamu yang jauh tentunya menginap di tempat Syekh Ali itu, semua telah disediakan tempat, laki-laki dan perempuan terpisah.
Ketika shalat Isya selesai, dan Syekh Ali sedang menikmati bubur gandum dengan lahap, sengaja Nu'man menemui beliau sembari berkata, "Syekh, selain kedatangan kami sekeluarga untuk mengaji, kami ingin menawarkan anak kami yang semata wayang itu untuk bisa tuan Syekh sunting sebagai istri. Kami gundah melihat Syekh tak ada yang melayani secara khusus. Biarlah Huda anak saya yang ikut mengaji hari ini yang akan melayani kebutuhan Syekh sehari-hari. Makan minum Syekh bisa teratur dengan baik, sehingga kesehatan Syekh juga terjaga dan masyarakat Yaman akan senang karenanya."
'Aku tak ingin menikah Nu'man. Aku ingin mengabdi secara sempurna kepada Allah dan masyarakat dengan mengajarkan ilmu-ilmu Allah."
"Tapi syekh, kami tak tega melihat Syekh tak ada yang melayani. Anggaplah Huda sebagai budak Syekh yang bisa melayani kehidupan Syekh."
"Anakmu tak serendah itu Nu'man, tapi aku menikmatinya kehidupan seperti ini Nu'man."
"Tapi Syekh, perkenankan permintaan kami, tolong nikahi anak kami sebagai persembahan murid kepada guru yang dihormati dan dicintai."
"Tidurlah anakku dan besok kita berbincang kembali," kata Syekh sambil menutup tirai kamarnya.
Nu'man memilih tidur beratap langit di luar. Udara begitu nyaman. Ia bisa menatap bukit-bukit kukuh yang terang karena cahaya bulan. Alam seolah senyap ditelan kelam malam. Tinggal beberapa murid yang lalu lalang.
Di malam itu Syekh juga terlelap dalam tidurnya. Di malam itu beliau bermimpi menakutkan, seolah-olah kiamat telah tiba. Semua makhluk dihidupkan dan dikumpulkan di Mahsyar. Panas begitu menyengat karena matahari seoalah di atas ubun-ubun dan hamparan pasir di kakinya serupa dengan bara yang menganga. Rasa haus melanda semua orang yang ada. Semua orang terlihat kebingungan mencari air barang seteguk. Setetes air menjadi nikmat yang tiada tara kala itu. Keringat bercucuran namun cepat menguap karena panasnya. Orang tua lupa dengan anaknya dan anak juga lupa orang tuanya, semua mencari keselamatan sendiri-sendiri.
Di saat seperti itu tiba-tiba muncul anak kecil dengan membawa kendi yang berisikan air dingin. Anak-anak kecil itu seperti mencari seseorang. Syekh mencoba memintanya tapi tak dihiraukannya. Tiba-tiba datang seorang wanita diberi minum oleh anak itu sampai hilang dahaganya. Lalu seorang laki-laki diberinya minum pula hingga puas. Anak kecil itu memanggil kdua orang dewasa itu dengan sebutan bapak dan ibu. Berbeda dengan Syekh, ia mencoba merengkuh tangan seorang anak kecil itu. "Aku ingin minum." kata Syekh tak sabar. Anak kecil itu tetap menolak dan menggelengkan kepala. "Ini bukan hakmu. Ini hak orang tuaku," kata anak kecil itu. "Lalu engkau ini siapa, Malaikatkah? tanya Syekh penasaran.
"Aku adalah anak-anak yang tidak menikmati masa baligh. Aku diperintahkan Allah untuk melayani kedua orang tuaku yang aku siksa hatinya dengan kematianku di saat usia lucuku, saat mereka sangat mencintai dan bergembira dengan kehadiranku. Tapi mereka menerima dengan sabar, sehingga pahalanya seperti yang tuan lihat ini.
Syekh Ali terbangun dan sangat kaget, "Subhanalloh, astaghfirullo..h."
Lalu ia teringat Nu'man yang tidur di sebelah rumahnya. Ia beranjak menuju tempat Nu'man yang dengkurannya terdengar nyaring. Syekh Ali membangunkannya, "Nu'man besok usai shalat Subuh nikahkan aku dengan puterimu. Allah mengingatkan aku untuk segera menikah."
"Subhanalloh..., benarkah Syekh."
Jawab Syekh, "Iya."
Nu'man mencium tangan Syekh Ali berkali-kali meski beberapa jam kemudian sang Syekh akan menjadi menantunya.