Şebinkarahisar antik çağda Hitit, Urartu, Pers ve Pontus dönemini yaşamıştır. Şehrin ilk kuruluş yerinin İsola (Güneygören) ya da Bayram çevresinde oldu.
Şehir, 1074’de Mengücek Gazi ile Danişment Gazi tarafından fethedilmiş, Akkoyunlu Beyi Uzun Hasan’ın 1473 Otlukbeli yenilgisinden sonra Osmanlı yönetimine katılmıştır. Osmanlılar zamanında Karahisar-ı Şarki adıyla sancak merkezi olmuş ve şehzadeler şehri haline gelmiştir. Evliya Çelebi’nin şehir hakkında verdiği bilgilerde şehrin adının kale taşlarının siyah olmasından geldiği yazılmaktadır. Giresun’un önemli bir ilçesi olan Şebinkarahisar, eşsiz coğrafi güzelliklere ve zengin bir tarihi geçmişe sahip.
Bizans, Selçuklu ve Osmanlı dönemlerinde tahkimli kalesi ve şap madeni ve tarım ürünleriyle Kelkit havzasının önemli bir yerleşim merkezi olmuştur.
Şebinkarahisar’ın kalbi daha çok Fatih Camiinde atar. Merkezde bulunan yapı şehrin en büyük camisidir. Yüksekçe bir teras üzerinde ve geniş bir dış avlu içerisinde yer alır. Yapılan bütün cephelerde düzgün kesme taş kullanılmış. 1473 yılında Otlukbeli savaşından sonra Fatih Sultan Mehmet tarafından yaptırılmış. Camiinin içi efsunkar bir havayla karşılar sizi.
Osmanlı döneminden kalma camilerden birisi de 1586 yılında Mutasarrıf Topay Mehmet tarafından yaptırılan Kurşunlu Camii’dir. Muhtelif tamirler görmüş, en son 19. yüzyılda yapılan bir tamirle bugünkü görünümüne kavuşmuş. Cami, en son 1968 yılında Vakıflar Genel Müdürlüğü tarafından restore edilmiş.
İlk yapılışı 11. yüzyıla kadar inen Behram paşa Camii Avutmuş mahallesinde yer alır. Kaynaklar, yapıyı Mengüçek Beyi Muzafferüddin’in inşa ettirdiğini kaydeder. Bir tekke yapısını andıran Tamzara camii, zengin barok süslemelerine sahip.
Kale’ye çıkan eski yolun sağında Fatih cami solunda yer alan Taş han Şebinkarahisar İlçe merkezinde Kalenin kuzey eteğinde yer alan tarihi yapılardır. Yerli kara taştan iki katlı, kemerli, tipik Osmanlı Taş han mimarisinde yapılmış olan bu taş han da günümüze kadar sağlam olarak gelememiştir. Büyük ölçüde tahribata uğramış olan Taş han’ın günümüze gelebilen en sağlam tarafı güney tarafıdır. Kuzey cephesi tamamen yıkılmıştır. Girişin iki yanında, iki katlı kemerli mekanlara, tam ortada ise bir avluya yer verilmiştir. Kuzey cephesinde dışarıya dönük beş adet kemerli dükkan kısımları da mevcuttur ki buralar da büyük ölçüde tahrip olmuştur. Bugün sadece doğu taraftaki hanın bir kısmı ayakta kalabilmiştir. Taş Han, 1939 depreminden çok zarar görmüş. Ayakta kalabilen kısımların ve bazı mimari izlerin yardımıyla doğudaki Taşhan’ın Osmanlı devrinin karakteristik izlerini taşıdığını görürsünüz.
11 Ekim 1924 yılında Gazi Mustafa Kemal Atatürk, Erzurum ve çevresinde meydana gelen deprem sonrasında gittiği Erzurum’dan dönerken şehri ziyaret eder ve halka hitaben bir konuşma yapar. Cumhurbaşkanının bu gezisine eşi Latife Hanımın yanısıra Yozgat mebusu Salih Bozok, İstanbul Mebusu ve eski Türk Ocakları Genel Başkanı Hamdullah Suphi, Gaziantep Mebusu Kılıç Ali, Rize Mebusu Rauf, Cumhurbaşkanlığı Başkatibi Tevfik, Başyaver Rusuhi, Muhafiz Birliği Komutanı Binbaşı İsmail Hakkı, Yüzbaşı Muzaffer, Özel Kalem Katibi Memdul ile basın mensupları ve diğer görevliler katılmışlardır. “Ben bu güzel şehri çok beğendim. Bu sevgimin bir nişanesi olarak Karahisar-ı Şarki olan şehrin adının Şebinkarahisar olarak tashihini teklif ediyorum. Şabı başta olmak üzere fatihlerin otağ kurduğu bu toprakların içinde daha neler varsa ele alınmalı ve tarihen olduğu kadar iktisaden de bu şehri ileri götürmek vazifemiz olmalıdır. Sürekli yangınlar görmüşsünüz, memleketiniz bir harabeye dönmüş, fakat esef etmeyin. Şu tek gözlü, mütevazi ocağınızda derin bir samimiyet, geniş ve anlayışlı bir kültür buldum. Kalkınacaksınız, mesut olacaksınız. Türk ocakları modern dekorla ölçülmez. Türkün bu şan ocakları sönmez alevlerle ilelebet tütecektir ve bu harabeler bir gün birer mamureler haline gelecektir. Ayrılırken Türk Ocağı Defterine de şunları yazmıştır. “Türk Ocağı, Türkün has ocağı, varlık ve birlik ocağı, yüksek alevlerle tütsün, muhitine nurlar saçsın, yaşasın ve yaşatsın”.
Ş. Karahisar görüldüğü gibi çeşitli medeniyetlerin zaman içinde yaşadığı çok kültürlü bir ilçemizdir. Bu güzel ilçemiz konumu itibariyle eski kervan yolu güzergâhı üzerinde bulunması nedeni ile ekonomik olarak hayli önemi artmaktadır.
Giresun ve Tirebolu limanlarından karaya çıkan günün mamul maddeler Anadolu’ya bu güzergâhla gidiyor. Satılan mamul maddenin yerine hammadde gene ayni güzergâhı takip ediyordu ve limanlardan Avrupa’ya gidiyordu. Bu göstermektedir Avrupa dünde bu günde gelişmekte olan ülkeleri hep sömürmeye devam ediyor.