O'nu İkinci TBMM'de yine "Gümüşhâne Meb'usu" olarak görmekteyiz. Bu mecliste hilâfetin ilgasına tek başına karşı koymuş olan Zeki Bey bilâhare Kâzım Karabekir Paşa ve arkadaşlarının kurduğu "Terakkiperver Firka"ya girmiş, bu fırka (parti) mensublarıyla birlikte "İzmir Sûikasdi" dolayısıyla tevkif ve muhâkeme edilen siyâsî şahsiyetlerden biri olmuştur.