Şehrin bu gün bilinen isminin Ortaçağ Ermeni kaynaklarında; Payberd, Bizans kaynaklarında ; Payper , Baberd, Paypert. XXII. Yüzyıl sonlarında bu bölgeden geçen Marko Polo’ nun seyahâtname’ sinde ; Painpurth, Baiburt. Arap kaynaklarında ; Bâbirt, II. Mesud adına 1291’ de basılan bir parada Baypırt. Akkoyunlu

Şehrin bu gün bilinen isminin Ortaçağ Ermeni kaynaklarında; Payberd, Bizans kaynaklarında ; Payper , Baberd, Paypert. XXII. Yüzyıl sonlarında bu bölgeden geçen Marko Polo’ nun seyahâtname’ sinde ; Painpurth, Baiburt. Arap kaynaklarında ; Bâbirt, II. Mesud adına 1291’ de basılan bir parada Baypırt. Akkoyunlu tarihinden bahseden çağdaş eserlerde Pâpirt şeklinde geçen kelimenin son hecesi Berd’ in “yüksek kale” anlamına geldiği bilinmekteyse de ilk hecesine bir mana verilememektedir. 1647 yılında şehri ziyaret eden Evliya Çelebi Bayburt adının zengin manasına gelen “Bay” belde manasına gelen “yurt” gibi iki kelime ile izah eder. Osmanlı dönemine ait kaynaklar ise ismi bu günkü söylenişine uygun olarak Bayburt şeklinde kaydederler.

M.Ö.2 Y.Y. dan itibaren Pontus krallığına bağlı olan Bayburt M.Ö. 40’lı yıllarda Roma hakimiyetine girmiştir. Urartular tarafından yapılan Bayburt Kalesi Roma İmparatoru Justinianus döneminde onarım görmüştür. M.S. 705 yılında Emevilerin eline geçen Bayburt 715 yılında Bizanslılar tarafından geri alınmıştır.850 yılından sonra Türklerle Bizanslılar arasında sürekli savaşlara sahne olan Bayburt, artık Müslüman Türklerin yerleşmeye başladıkları bir yer olmuştur.1048 yılına gelindiğinde bölge artık yoğun Türk nüfusuyla meskundur. 1054 yılında Bayburt Selçuklular tarafından fethedilmiştir. 1081 yılında Bayburt Selçuklu Devletine bağlı olan Saltuk oğullarının ve ardından Mengücek oğullarının egemenliğine girmiştir. Daha sonra Danişmentlilerin , ondan sonra da Bizanslıların eline geçen Bayburt’u Trabzon Valisi Teodor Gabras geri alarak kendi egemenliğini ilan etmiştir. Bayburt Moğol istilasıyla büyük bir yıkıma uğramıştır. 60.000 kadar Türkmen kitlesinin yerleştiği Bayburt Bölgesinden , 1000 kadar Türkmen bölgeye zarar veriyor gerekçesiyle Denizli taraflarına gönderilmişlerdir. Anadolu Selçuklu Sultanı Süleyman Şah’ ın kardeşi Mugusiddin Tuğrul Şah 1200 – 1230 yılları arasında Bayburt kalesini yeniden yaptırırcasına tahkim ettirmiştir.

Bayburt Kalesine Çin-ü Maçün kalesi de denilmektedir. Bunun sebebi kalenin Batı ve Güney dış yüzeylerinde tezyinat olarak mor firüze çinilerin kullanılmış olmasıdır.

Bayburt 14. Y.Y. da Akkoyunlu Devletinin kuruluş ve tarih sahnesine çıkış yeri olmuştur. Akkoyunlu İdaresi 17 Ekim 1514’ te Yavuz Sultan Selim’ in veziri Bıyıklı Mehmet paşa’nın Bayburt’ un fethiyle görevlendirilmesine ve fethin gerçekleşmesine kadar sürmüştür. Fetihten sonra Osmanlılarca Sancak Merkezi yapılmış Erzurum, Tekman ve İspir Bayburt’a bağlanmıştır.Bayburt’ ziyaret eden Evliya Çelebi Fatih’in 3000 Tireliyi Bayburt’ta iskana mecbur ettiğini yazmaktadır.