Bağdat'ta doğdu ve orada yaşadı. Ailesi aslen İran'ın Nihâvend şehrine mensup olup cam ticaretiyle uğraştıklarından Kavârirî nisbesiyle tanınmaktaydı. Bizzat Cüneyd-i Bağdadi'de ipek ticaretiyle meşgul olduğundan Hazzâz lakabıyla tanınmıştır. Ailesinin İran'ın Nihâvend şehrinden Irak'ın Bağdat şehrine ne zaman geldiği kesin olarak bilinmesede kendisinin Bağdat şehrinde doğan Alevi meşrepli mutasavvuf olduğu için "Şeyh'ûl Alevi Pîr-i Bağdadi" nisbesiyle anılır.
Çok hürmet ettiğin, kendisinden haya ettiğin, çekindiğin bir zat senin yanındayken hareketlerinde ve sözlerinde nasıl ölçülü, edepli oluyorsan o zat yokken de Allah'ın seni izlediğini, sana senden daha yakın olduğunu bil. Buna göre konuş, buna göre hareket et. Ariflerin sultanı
Cüneyd-i Bağdadi der ki ''Dindarlığını merak eden, yalnız kaldığında ki haline baksın.''
Esasında hiç kimse katiyen yalnız olamaz. İmanı kemale ermiş bir müttaki elbette Allah'ü tealanın kendisini an be an izlediğinin şuurundadır. O'nun görmediği bir yer, işitmediği bir ses, habersiz kaldığı kalbî bir düşünce ne mümkün... O halde her lahza edep sınırlarında yaşamaya gayret edelim.