Erzurum'da 1941 yılında dünyaya gelen İsmail Köse, İstanbul Hukuk Fakültesini bitirip maiyet memuru oldu. Kaymakamlık yaptığı ilçelerde, milliyetçi muhafazakar kimliğiyle her kesimin takdirini kazandı. 1970’li yılların ikinci yarısında, Erzurum ve Malatya İl Emniyet Müdürlüklerinde bulundu. Sağduyulu tutumlarıyla toplumsal barışın sağlanmasında önemli roller oynadı.

12 Eylül 1980 ihtilali sonrası, parlamenter sisteme geçiş sürecinde, Doğru Yol Partisi (DYP) kurucuları arasında yer aldı. Bu partiden 18-19 ve 20. dönemlerde Erzurum milletvekili seçildi. Genel Başkan Yardımcılıklarında bulundu, TBMM'de İçişleri Komisyonu Başkanlığını sürdürdü.

Kurucusu olduğu DYP’den 1997'de istifa edip “Bundan böyle siyaset mücadelemin kalp merkezinde davamızın adresindeyim” diyerek MHP’ye giren İsmail Köse, bu partiden de 21'inci dönem Erzurum milletvekili seçildi.

3 kasım 2002 seçimlerine kadar MHP'nin aralıksız Grup Başkan Vekillliğini yaptı. Hukuk Fakültesi öğrenciliğinde MTTB’nin milliyetçi ülkücü mücadele kanadının önderlerinden olan Köse, siyasete nokta koyduktan sonra önce İzmir’de, son yıllarında ise İstanbul'da yaşadı. Kendi gibi İstanbul Hukuk Fakültesi mezunu olan eşi Meral Köse'de, başörtüsü mağduriyetinden ötürü diplomasını yıllar sonra alabildi. Renkli kişiliği olan İsmail Köse, MTTB yıllarında Erzurum ve Kars/ Kafkas yöresi folkloruna hakimiyeti ile de bilinirdi.