Beliau dikenal seorang zuhud dan wara' yang hidupnya dihabiskan hanya untuk mengajar dan beribadah kepada Allah swt. Tapi, akhirnya ia seperti diperingatkan Allah melalui mimpi yang sangat berarti bagi hidupnya di kemudian hari.
Syekh Ali masih begitu asyik mengajar Adab al-Dunya wa al-Diin, sebuah kitab karya Imam al-Mawardi (wafat tahun 450 H) di hadapan ratusan muridnya. Para murid banyak mencatat penjelasan Syekh Ali di luar kitab ulama besar abad ke 10 Masehi ini. Syekh Ali selalu menambahkan catatan karena ia banyak membaca kitab-kitab langka dan rumit sebagai upaya memperkaya dan menambah perbandingan.
