277’de (890) bugünkü Afganistan’ın Sicistan bölgesinde harabeleri bulunan Büst’te doğdu. Arap kabilelerinden Temîm’e mensup olduğu için Temîmî nisbesiyle de anılır. İlk öğrenimini Büst ve çevresinde yaptı. Yirmi üç yaşlarında iken tahsil maksadıyla Taşkent’teki İsbîcâb’dan başlayarak Horasan, Mâverâünnehir, Irak, Hicaz, Şam, Mısır ve İskenderiye’ye kadar uzanan bir seyahat gerçekleştirdi; başta hadis olmak üzere fıkıh, Arap dili, kelâm, felsefe, tıp ve ilm-i nücûm alanlarında birçok hocadan faydalandı ve âlî isnadla rivayet imkânı buldu. Basra’da en yaşlı hocası muhaddis, edip ve tarihçi Ebû Halîfe Fazl b. Hubâb el-Cumahî ile Zekeriyyâ es-Sâcî, Mısır’da Nesâî, Musul’da Ebû Ya‘lâ el-Mevsılî, Nesâ’da Hasan b. Süfyân, Harran’da Ebû Arûbe, Buhara’da Büceyrî, Nîşâbur’da Muhammed b. İshak es-Serrâc gibi âlimlerden hadis rivayet etti. Nîşâbur’da kendisinden hadis ve fıkıh dersleri aldığı İbn Huzeyme’nin metodunu benimsedi. Ayrıca Mufaddal b. Muhammed el-Cenedî, Ebü’l-Abbas ed-Degūlî, İbn Ebû Dâvûd, İbn Cevsâ ve İbn Ebû Hâtim’den faydalandı. Dârekutnî, Ebû Abdullah İbn Mende, Hâkim en-Nîsâbûrî, İbn Habîb en-Nîsâbûrî, Muhammed b. Ahmed en-Nûkātî, Abdurrahman b. Muhammed el-İdrîsî, Târîḫu Buḫârâ müellifi olup Guncâr diye anılan Muhammed b. Ahmed el-Buhârî gibi âlimler onun talebeleri arasında yer aldı.
Eserleriyle olduğu kadar takvâsıyla da tanınan İbn Hibbân’ı Sâmânoğulları emîrleri Semerkant, Nesâ ve daha başka yerlere kadı tayin etmişlerdir. Sâmânî Emîri Ebü’l-Muzaffer, Semerkant’ta hadis talebeleri için İbn Hibbân’ın adına bir suffe yaptırmış, İbn Hibbân da burada 330 (941-42) yılına kadar hadis ve fıkıh okutmuştur. 334 (945-46) ve 337’de (948-49) Nîşâbur’da imlâ meclisleri kurarak hadis dersleri vermiş, kendi adına yaptırılan hankahta bazı eserlerini yazdırmıştır. Nîşâbur’daki ilk imlâ meclisinde henüz on üç yaşındaki Hâkim en-Nîsâbûrî’yi müstemlî olarak çalıştırdığı bilinmektedir.
İbni Hibban, Müslüman alim, muhaddis, tarihçi, birçok meşhur eserin yazarı ve "Horasan Şeyhi"dir. İbn Hibban Semerkand'ın Kadı vekilliğini yapmış, Fıkıh, Hadis-i şerif, Astronomi, Tıb, vs. disiplinlerde tecrübe sahibiydi. İslami ilimleri zamanın ünlü bilim adamları ile okumuştur.
İbn Hibbân 21 Şevval 354’te (20 Ekim 965) Büst’te vefat etti ve evinin yakınındaki hadis medresesinde defnedildi.