Erzurum Kongresi 23 Temmuz 1919 sabahı saat 11.00'de, eski bir Ermeni okulu olan tek katlı binada açıldı. Kâzım Karabekir'le birlikte toplantıya gelen Mustafa Kemal istifa etmiş olmasına karşın, askeri üniformasını giyip hünkâr yaveri olduğunu gösteren kordonunu takmıştı. Trabzon delegelerinden bir müftü Arapça dualar okudu, kurbanlar kesildi; daha sonra, Kâzım Karabekir ve diğer görevli subaylar binadan ayrılıp aralarında Mustafa Kemal ile Rauf'un (Orbay) da bulunduğu elli altı delegeyi görüşmeler için yalnız bıraktılar.
Bu kongre, Mustafa Kemal'in siyasal demokrasi ile ilk tanışmasıydı.
Delegeler, gerçek taşralı milliyetçi örgütlerden gelmişlerdi ve düşüncelerini açıklamakta ısrarlıydılar. Toplantı açılır açılmaz Ömer Fevzi başkanlık seçiminin ertesi güne bırakılmasını önerdi. Önerisi reddedildi ve gizli yapılan oylamada, büyük bir çoğunlukla Mustafa Kemal başkan seçildi. Delegelere teşekkür eden Mustafa Kemal, Osmanlı belagatinin bütün olanaklarını kullanarak ülkenin bölünmekte olduğunu, İstanbul Hükümetinin güçsüzlüğünü, İtilaf devletleriyle onların kandırdığı insanların entrikalarını anlattı. Yalnızca Anadolu'da dış etkilerden uzakta, ülkenin kaderini elinde tutabilecek ulusal bir yönetimin kurulabileceğini açıkladı. Alternatif bir ulusal hükümet kurulması yönündeki açık çağrının ardından, milletin ve yüce saltanat ve hilafet kurumlarının güvenliği için dualar okundu. Bundan sonra padişaha sadakatlerini bildiren bir telgraf çekildi.