Adı Abdullah olan İbn Ebi Şeybe 776 (159) yılında Kufe'de doğdu. On dört yaşında Kadı Şerik b. Abdullah'tan ders aldı. Abdullah b. Mübarek, Süfyan b. Uyeyne, Veki b. El-Cerrah gibi büyük muhaddislerden okudu. Kendisinden Buhari, Müslim, Ebu Davud, İbn Mace, İbn Ebi Asım gibi önde gelen muhaddisler hadis aldılar. İbn Ebi Şeybe'nin rivayetleri özellikle Müslim ve İbn Mace'nin eserlerine kaynaklık etmiştir.
İbn Ebi Şeybe'nin olgunluk dönemi Mutezile mezhebinin devlet idaresine hakim olduğu yıllara (813-847) (Abbasiler) rastlamaktadır. İbn Ebi Şeybe 2 Ağustos 849 (8 Muharrem 235) tarihinde vefat etti.