Türklerin Anadolu'yu vatan edinmeleri genel kanaate göre Malazgirt (1071) zaferinden sonradır. Malazgirt zaferi kazanılınca Alparslan, Karasu ve Çatlı nehirleri vadilerinin fethine Mengücek Ahmet Gazi'yi görevlendirmiştir.
Alparslan'ın komutanlarından olan Mengücek Ahmet Gazi, Erzincan, Kemah, Divriği ve Şebinkarahisar yörelerini hakimiyeti altına aldı. Kemah'ı merkez yaptı. Ahmet Gazi'nin ölümü üzerine (1114) yerine oğlu İshak Bey geçti. Bu beyliği uzun süre yöneten İshak Bey ölünce (1124) yerine Melih Mahmut geçti. İshak Beyin oğulları onu tanımayınca, Mengücek devleti parçalandı. Kemah Melih Mahmut'a Erzincan Davut Şah'a, Divriği'de Süleyman Şah'a düştü. Davut Şah'ın öldürülmesi üzerine (1151) Erzincan'a 13 yıl Süleyman Şah'a sahip olmuş; Davut Şah'ın oğlu Fahrettin Behram Şah (1165) yılında babasının tahtında oturunca, Mengücek Beyliği tekrar güçlenmiştir. Fahrettin Behram Şah, Kılıçarslan'ın damadı olması da göz önünde bulundurulursa, Mengücek Selçuklu münasebeti daha iyi anlaşılır.
Behram Şah zamanında, Erzincan çok ilerlemiş, ticaret ve sanayi gelişmiştir. Zelzeleler sebebi ile o dönem ait eserler maalesef günümüze ulaşmamıştır. Behram Şah 1225 tarihinde Erzincan'da ölmüş, aşağı Urla (Ula) köyünde defnedilmiştir.
Behram Şah ölünce yerine oğlu Davut Şah geçti. 1228 tarihinde Selçuklu sultanı Alaaddin Keykubat Erzincan ve Kemah'ı işgal ederek Mengücek Beyliğine son verdi. Alaaddin Keykubat ile Celalettin Harzem Şah arasında Erzincan yakınlarında, Yassı-Çemen denilen yerde 1230 tarihinde savaş oldu ve Celalettin Harzem Şah yenildi. Alaattin Keykubat'ın ölümü (1237) üzerine, yerine oğlu II. Gıyasettin Keyhüsrev geçti. Onun zamanında devlet Moğolların istilasına uğradı. 1240 tarihinde Erzurum'u işgal eden Moğollar Erzincan'ı geçerek 1243 tarihinde Kösedağ savaşında Anadolu Selçuklu Devletini hezimete uğrattı. Böylece Erzincan ve yöresi İlhanlıların eline geçti. İlhanlılar yöreyi beylerle (Vali) yönettiler. Timur-Taş Bey Mısır'a kaçarken yerine Alaaddin Eretna'yi bıraktı.
Timur-Taş'ın Mısır'a sığınmasından sonra valiliğe gelen Alaaddin Eretna ilhanlı hükümdarı Ebu Sait Bahadır Han'ın ölümü (1335) üzerine İlhanlılarla olan bağını keserek görünüşte Celayırlı Hükümdarı Büyük Şeyh Hasan Han'a bağlı kalarak bağımsızlığını ilan etti.
Bir ara Çoban Oğulları Hükümdarı Küçük Şeyh Hasan, Erzincan ve yöresi kendi beyliğine kattıysa da 1338'de Memluk Sultan Nasreddin Muhammed'in yardımı ile Erzincan ve yöresi Küçük Şeyh Hasan'dan kurtuldu. Erzincan bu beylik döneminde de el değişmiştir. Alaaddin Eratna 1352'de öldükten sonra yerine oğlu Gıyasettin Mehmet getirildi. Çıkan anlaşmazlıklar sonunda Erzincan bağımsız olarak, Burak Bey'e bırakıldı. Sırası ile Ahi Ayna Bey (öl. 1362), Pir Hüseyin (öl. 1379), Mutahhareten Bey yönetimi ele aldı. Mutahhareten döneminde, Kadı Burhanettin Erzincan'a ve yöresine birkaç kez saldırı düzenledi. Bu saldırılar Akkoyunlu Hükümdarı Kutlu Bey'in yardımı ile atlatıldı.
Bu dönemde Erzincan üzerinde Akkoyunlular'ın etkisini görmekteyiz.
Erzincan Emiri Mutahhareten'in Timur'a bağlanması Osmanlı Padişahı Yıldırım Beyazıt'ı kızdırmıştı. Beyazıt da Erzincan'ı muhasara etti.(1401) Fakat çok geçmeden Ankara Savaşı patlak verince, yöre tekrar Timur'un eline geçti.(1402)
Yörede Fatih Sultan Mehmet dönemine kadar Osmanlılar etkili olamadılar. 1419'da 1. Mehmet zamanında Karakoyunlu Beyi Kara Yusuf Erzincan'ı zapt etti Pir Ömer'i vali tayin etti.
1455'de de, Akkoyunlu hükümdarı Uzun Hasan Erzincan'ı aldı. Kaleyi yeniden onardı. Yöre Fatih ile Uzun Hasan arasında çıkan Otlukbeli savaşına kadar (11 Ağustos 1473) Akkoyunların elinden kaldı. Bu savaştan sonra Osmanlıların denetimine geçti.
Kanuni Sultan Süleyman 1534'te Tebriz Seferi, 1540'da İran Seferi sırasında Erzincan'a uğramıştır. Bu seferde Erzincan'a gelen Nakkaş Matrakçı Nasuh Erzincan'ı resmetmiştir.
1534 tarihinde Sivas üzerinden Kanuni Sultan Süleyman’ın ordusu ile beraber Erzincan’a gelen Nakkaş Matrakçı Nasuh yaptığı minyatürde, Erzincan’ı dağlar arasında düz bir şehir olarak göstermiştir.
Şehir surlarla çevrilmiştir. Surların önünde kademeli birer kaide üzerinde kubbeli iki küçük yapı dikkat çekiyor. Şehrin ortasından Fırat nehri geçiyor. Surlar, kale içerisinde iki ve tek minareli camilere, büyük yapılara ve evlere yer verilmiştir.
