Yörede Oğuz/Türkmen boylarının isimlerini taşıyan köylerin, (Avşar, Kızık, Eymür, Iğdir, Dodurga, Kargın, Korkut) varlığı Türklerin Anadolu'ya ilk geldikleri zamanlardan beri Zara'da bulunduklarına işaret etmektedir. Şeyh Merzuban Hazretlerinin Zara civarının İslamlaşmasında büyük rol oyandığına inanılır. Anadolu Selçuklu sultanı Alaaddin Keykubat (miladi 1210 civarları) Şeyhe cok ihtimam etmiştir. Anadolu Selçuklularının Moğollar tarafından yıkılmasını kesinleştiren Kösedağ Savaşı Zara'da olmuştur (1243). Moğol hakimiyetinden sonra Zara Eratna ve Türkmen Kadı Burhanettin devletlerinin idaresinde kalmıştır. Yapılan son araştırmalara göre ilçe ve çevresinde ilk olarak neolitik dönemde yerleşildiği sanılmaktadır. Zara- Hafik arasında höyük de yapılan kazıda neolitik dönem özellikleri gösteren çakmak taşından minik uçlar, el değirmeni taşları ve hayvan kemikleri gibi buluntular çıkmıştır. Zara 1888 Devlet salnamesine göre Kanuni Sultan Süleyman'ın 1539 yılında bir fermanla Koçgiri Aşiretinin yerleştirildiği 1836 yılında Koçgiri adıyla nahiye, 1886 yılında kaza olmuştur. O yıllarda Zara'da biri orta öğretim okulu almak üzere 40 öğrencili Rüştiye ile toplam 16 okul bulunmaktaydı.