Ailesi Yemen’in Ezd kabilesine mensup olduğundan Ezdî nisbesiyle de anılır. İlk hadis dersini, 241 (855) yılında Tûs şehrinin velî muhaddisi Muhammed b. Eslem’den aldığını söyler.
Horasan, Cibâl, İsfahan, Fâris, Basra, Bağdat, Kûfe, Medine, Mekke, Mısır, Şam, Cezîre gibi bölgeleri dolaşarak Fellâs, Bündâr lakabıyla bilinen Muhammed b. Beşşâr, Ali b. Haşrem, Hârûn b. İshak, İbn Ebû Hayseme, Ebû Zür‘a er-Râzî ve Zühlî gibi âlimlerden hadis tahsil etti. Bağdat’a yerleşerek ilmî faaliyetlerini burada yürüttü. Başta babası olmak üzere yüzlerce şeyhten hadis yazdığı gibi İbn Hibbân, Hâkim el-Kebîr, İbnü’l-Mukrî el-İsfahânî, Dârekutnî, İbn Şâhin ve Ebû Bekir el-Ebherî gibi âlimlere hadis dersleri verdi. Tefsir, kıraat ve fıkıh sahalarında da yetişmiş olan İbn Ebû Dâvûd’ a devrin sultanı tarafından hadis okutmak üzere mescidde özel kürsü tahsis edildi. 280 (893) yılında Hemedan’ da bölgenin bütün âlimleri kendisinden hadis yazdı. Sicistan’ a (veya İsfahan) gittiğinde yanında hadis kitapları olmadığı halde ezberinden 30.000 hadis yazdırdığı, daha sonra yapılan karşılaştırmalarda sadece üç hadiste yanıldığı (Zehebî, Aʿlâmü’n-nübelâʾ, XIII, 223-224), gözlerini kaybettikten sonra da talebelerine hadisleri ezberinden yazdırdığı, ancak oğlu Ebû Ma‘mer’in, elindeki nüshadan ona hangi hadisi okuyacağını hatırlattığı belirtilmektedir.
Selef akîdesine bağlı zâhid bir âlim olan İbn Ebû Dâvûd 18 Zilhicce 316’da (1 Şubat 929) Bağdat’ın Rusâfe semtinde vefat etti ve Bâbülbustân Kabristanı’na defnedildi.