Müftü, 4 Temmuz 1974’te Beyrut Amerikan Üniversitesi Amerikan Hastanesinde öldü. Son arzusu, Kudüs'te, doğduğu yere, Herod kapısının dışında, en sevdiği yeri, Haram-ı Şerifi tepeden gören bir yerde, bir müslüman mezarlığına gömülmekti.
İsrail yetkilileri, cesedinin Kudüs'e girmesine izin vermediler.