Jankélévitch, Fransa'ya göç eden Rus Yahudi bir ailenin oğluydu. 1922'de Profesör Bergson başkanlığında Paris'te École normale supérieure'de felsefe okumaya başladı. 1927-1932 yılları arasında Prag'daki Institut Français'de ders verdi ve burada Schelling üzerine doktora yazdı. Lyon'da Lycée du Parc'da ve Toulouse ve Lille de dahil olmak üzere birçok üniversitede ders verdikten sonra 1933'te Fransa'ya döndü. 1941'de Fransız Direnişine katıldı. Savaştan sonra, 1951'de Sorbonne'da 1978 yılına kadar ders verdiği Moral Felsefesinin başkanlığına getirildi.
Düşünün aşırı inceliği, en ufak dereceli tonlamaların büyük önem verildiği eserlerinde açıkça görülür. Platoncu, Neoplatonist ve Yunan Patristik kaynaklarını temelde kuşat olmayan düşüncesini savunan Jankélévitch, Alman felsefi etkisine muhalefet etmiştir.