Süleyman Rəhimov 1900-cü ilin 22 martında Zəngəzur mahalının (hazırkı Qubadlı rayonu) Əyin kəndində anadan olmuşdur. İbtidai təhsilini ikisinifli rus məktəbində almışdır. İlk təhsilini kənddə almış, sonralar texnikum və ali məktəb bitirmişdir. 1921-ci ildə Xanlıq kəndində yeni açılmış məktəbdə müəllim işləməyə başlamışdır. Şuşada pedaqoji kursda oxuduqdan sonra uzun müddət Zəngəzur mahalının müxtəlif rayonlarında müəllimlik etmişdir.
1928-ci ilin payızında dostu Əli Vəliyevlə Bakıya gələrək Azərbaycan Dövlət Universitetinin tarix fakültəsində təhsil almış, eyni zamanda Qaraşəhərdə ikinövbəli savad kursunda yaşlı fəhlələrə dərs demişdir.
Ədəbi fəaliyyətə 1930-cu ildən başlayan Süleyman Rəhimovun ilk əsəri "Şamo"dur. Bununla belə o 50 il bu əsərinin üzərində işləmiş və ona əlavələr etmişdir. Onun ən tanınmış əsərlərindən biri də "Qara torpaq və sarı qızıl"dır. İndi bu əsər 5-ci sinif ədəbiyyatlarda istifadə olunur.
Süleyman Rəhimov 1939–1940, 1944–1946 və 1954–1958-ci illərdə Azərbaycan Yazıçılar Birliyinin sədri olmuşdur. Azərbaycanın Laçın, Samux, Şahbuz və Noraşen rayonlarında rəhbər partiya işlərində çalışmışdır (1934–1937). Azərbaycan K(b)P Bakı şəhər komitəsində təbliğat üzrə katib (1940–1941), Azərbaycan K(b)P MK-da təbliğat və təşviqat şöbəsinin müdir müavini (1941–1944), Azərbaycan SSR Nazirlər Soveti yanında Mədəni-Maarif İşləri Komitəsinin sədri (1945–1958) vəzifələrində işləmişdir.
1983-cü il oktyabrın 11-də vəfat etmiş, Fəxri xiyabanda dəfn olunmuşdur.