Herder, 25 Ağustos 1744 tarihinde Prusya'nın Mohrungen kasabasında doğdu. Bölgesinin ve çağının en önemli üniversitelerinden olan, Alman filozof Kant'ın da görev yapmakta olduğu Königsberg Üniversitesi'ne 1762 yılında girdi. Bununla birlikte Kant'ın klasik idealist görüşlerinden çok Jakob Böhme ve Johann Georg Hamann gibi fikir insanlarından etkilendi. Üniversitedeki eğitiminin ardından Prusya'nın ve Avrupa'nın çeşitli şehirlerinde öğretmenlik yaptığı gezgin bir hayat sürdü. Bu dönemde hem Goethe ile tanışarak yeni Alman edebiyat akımından etkilendi, hem de aynı dönemde entelektüel faaliyetlerde bulunan Christoph Martin Wieland ve Friedrich Schiller gibi isimlerle beraber Weimar'da kurdukları felsefe topluluğunu yönetti. 18 Aralık 1803 tarihinde bu şehirde öldü.