Kim Jiha, 4 Şubat 1941'de Japon İmparatorluğu'nun Kore'deki Zenranan Eyaletindeki Mokpo'da (şimdiki Güney Jeolla Eyaleti, Güney Kore) Kim Yeongil (김영일 ;金英一) olarak doğdu. Üniversite öğrencisiyken Kim, Nisan 1960'ta Güney Kore Devlet Başkanı Syngman Rhee rejimini deviren Nisan Devrimi gösterilerine katıldı. Mart 1963'te Kim Jiha mahlasıyla Mokpo Edebiyatı dergisinde "Akşam Hikayesi" (Jeonyeok iyagi) şiirini yayınladı. 1964'te Kim, Japonya ile diplomatik ilişkiler kuran normalleşme anlaşmasına karşı düzenlenen gösterilere katıldı ve bu nedenle kısa bir süre tutuklandı. 1966'da Seul Ulusal Üniversitesi'nden Estetik alanında mezun oldu. Resmî edebi çıkışını 1969'da yaptı.
Kim, Park Chung Hee rejimi altında muhalif bir isimdi; hatta Korecede "yeraltı" anlamına gelen Jiha takma adını almıştı.
Kim ilk olarak Mayıs 1970'te Beş Haydut adlı şiiriyle geniş çapta dikkat çekti ve bu şiir Anti-Komünist Yasa kapsamında tutuklanmasına yol açtı, ancak şiir komünizm veya Kuzey Kore hakkında hiçbir şey söylemiyor. Beş Haydut'un başlığı, 1905'te Kore'yi Japon himayesine sokan anlaşmayı imzalayan "Beş Hain"e bir göndermedir. Beş Haydut'ta Kim, yaklaşık "on yıl önce" adını taşıyan haydutların Güney Kore'ye nasıl hakim olduklarını, ülkeyi yağmalamak için yola çıkarken her şeyi açgözlülükle nasıl yiyip bitirdiklerini anlattı. Şiir Mayıs 1970'te yayınlandı ve Park Mayıs 1961'de bir darbeyle iktidara geldi. "Beş haydut"tan biri, büyük bir Japon hayranı olan ve askeri kariyerine II. Dünya Savaşı'nda Japonlar için savaşarak başlayan bir general olarak tanımlanıyor; Generalin karakterinin açıkça Park olması gerekiyordu; Park, Japon militarizmine olan hayranlığını sık sık dile getiriyordu ve adı verilmeyen general gibi II. Dünya Savaşı'nda Japonya için savaşmıştı; bu yüzden şiir hemen yasaklandı ve Kim tutuklandı. Şiirin basıldığı Sasangye dergisinin tüm sayısı tedavülden kaldırıldı.
İlk derlemesi "Sarı Toprak" tan, lirik şiir derlemesi " Yıldızlı Bir Tarlaya Bakmak"a kadar Kim, hem anlatı hem de lirik şiirler, baladlar, taeseol, drama ve düzyazı gibi geniş bir edebi yelpaze sergilemiştir. Eserleri ayrıca Donghak'tan Katolik, Jeungsan, Avatamska, Zen ve Maitraya geleneklerine kadar dini düşünce ve felsefenin tüm yelpazesini kapsar.
Kim'in şiirlerinin çoğu hicivsel toplumsal eleştiriler de sunar. Sarı Toprak ve Yakıcı Susuzluk'ta şair, lirik şiir aracılığıyla topluma sert bir hakarette bulunur. "Beş Haydut" (Ojeok) ve "Temelsiz Söylentiler" gibi baladlarda, iktidardakilerin kötülüklerini ve yolsuzluklarını hicvetmek için pansori ritmini ve zaman zaman belirsiz klasik Çin karakterlerini kullanır. Pansori ritmi, Choi Jeu'nun yaşamını ve ölümünü inceleyen bir anlatı şiir koleksiyonu olan Kuraklık Günlerinde Yağmur Bulutu'nda tekrar mevcuttur. Komşunu Sev, Kim'in önceki eserleriyle karşılaştırıldığında, romantik aşk kavramına daha doğrudan odaklanır ve böylece şairin tematik odağında bir dönüm noktasına işaret eder. Yıldızlı Bir Tarlaya Bakmak ve Merkezin Acısı, lirik içeriklerindeki ve bireyin iç monologunu aktarmadaki niyetlerindeki bu değişen tematik ilgiyi yansıtır. Bu eserler aynı zamanda şairin toplumla ilgili hoşnutsuzluğundan ziyade doğayla bağlantı kurma arzusuna daha bilinçli bir şekilde odaklanarak Romantizmin güçlü bir alt akımını da ortaya koymaktadır.
1980'lerde Kim'in şiiri ve düşüncesi bir başka dönüşüm geçirdi. Dönemin baskın teması olan işçi hareketinin mücadelesinden uzaklaşan şair, hayata dair yeni bir bakış açısı geliştirmeyi başardı.
Altın Taçlı İsa adlı oyununda, Kore'deki en aşağılık dışlanmış sınıf olan bir cüzzamlı, hapsedilmiş İsa ile karşılaşır. İsa, cüzzamlıya kendisini kurtarması gerektiğini söyler. Yoksullara yardım ederek, İsa'nın altın tacı çıkarılacak ve dudakları özgürce konuşabilecektir.
Rejimi işkence kullanarak sahte itiraflar elde etmekle suçladıktan sonra, 1974'te yargılandı ve ölüm cezasına çarptırıldı; ancak kamuoyunun tepkisi üzerine bu ceza müebbet hapse çevrildi ve sonunda serbest bırakıldı. 1974 Halkın Devrimci Partisi davasında hükümeti itiraflar elde etmek için işkence kullanmakla suçlayınca , bir kez daha hapse atıldı ve müebbet cezası yenilendi. Kendisi de işkenceye maruz kaldığım.