Kahire'de doğan el-Tilmisani 1924 yılında liseden, 1930 yılında hukuk fakültesinden mezun oldu. Hukuk fakültesinden mezun olduğu zaman İngiliz işgaline başkaldıran gençler arasında bulunduğu için hapse atıldı. Hapisten çıktıktan sonra 1933 yılında İhvan-ı Müslimin teşkilatının kurucusu ve ilk lideri Hasan el-Benna'nın yanında ve İhvan-ı Müslimin saflarında yer aldı.
1952 devriminden sonra Mısır'ın yeni lideri Cemal Abdünnasır'ın İhvan-ı Müslimin'e karşı başlattığı kampanyada 1954 yılında tutuklanarak 1971 yılına kadar hapishanede kaldı ve ağır işkence gördü. Sonra Hasan el-Hudeybi'nin yerine İhvan'ı Müslimin lideri seçildi ve vefatına kadar da bu görevi sürdürdü.