Mansûr b. Ammâr’ın tasavvufa yönelmesine yolda bulduğu, üzerinde “besmele” yazılı kâğıda saygı göstermesinin sebep olduğu kaydedilmektedir. Aynı yıllarda Bağdat’ta yaşayan Bişr el-Hâfî ile görüşmüş, Ahmed b. Ebü’l-Havârî’nin sohbetlerine katılmıştır.
Vaaz ve sohbetlerinde nefis terbiyesi üzerinde özellikle duran Mansûr b. Ammâr’a göre nefsini bilen kişi riyâzet ve mücâhedeyle, rabbini bilen kişi ise ibadet ve taatle O’nun rızâsını kazanmaya çalışır (Sülemî, s. 136). Nefsin arzularına muhalefet ederek selâmete ulaşan gönül şüphe ve mânevî kirlerden temizlendiği için hikmetin kaynağı olur. Hikmet âriflerin gönlünde tasdik, zâhidlerin gönlünde lutuf, âbidlerin gönlünde ilâhî başarı, müridlerin gönlünde tefekkür ve âlimlerin gönlünde tezekkür olarak ortaya çıkar. Kulun en iyi elbisesi alçak gönüllülük, ârifin en güzel elbisesi takvâdır. Mansûr b. Ammâr’ın bu görüşlerinden hareket eden Muhammed Celâl Şeref onun tasavvuf anlayışının nefis, kalp ve takvâ olarak üç esasa dayandığını söylemektedir (Dirâsât fi’t-taṣavvufi’l-İslâmî, s. 93-113).