M.Ö.2000 yılına kadar uzanan eski bir tarihe sahiptir. İlçenin kuzeyindeki Söğütlü Göze bölgesinde Hititlerin izlerine rastlanır. Gölova, Bizans ve Trabzon Rum Devletlerinin egemenliğinde kalmış, ancak 1461 yılında Fatih Sultan Mehmet Trabzon Rum Devletini yıkınca Osmanlı topraklarına katılmıştır. Gölova’nın eski ismi Ağvanıs’tır ve Evliya Çelebi bu isimle Seyahatnamesinde anlatmıştır. Gölova, baraj yapılmadan önce ilçenin önündeki düzlük ve iki gölden dolayı bu ismi almıştır. Gölün biri kırmızı yosunlar nedeniyle Kanlı Göl, diğeri ise tuzlu suyu yüzünden Çorak Göl olarak adlandırılmıştır. Çorak Göl’de kadınlar eskiden çamaşır yıkardı. Gölova, 1972 yılında belde, 1990 yılında ise ilçe olmuştur. Köse Dağı’ndan Kel Dağı’na, Kızıldağ’dan Çamoluk’a kadar uzanan 30 km uzunluğunda ve 15 km genişliğinde bir alanda yer alır. Doğusunda Refahiye, güneyinde İmranlı, batısında Akıncılar, kuzeyinde Çamoluk ilçeleriyle sınırları vardır. Deniz seviyesinden yüksekliği 1.300 metredir. Toplam alanı 310 km2’dir. Gölova’ya 1978 yılında inşa edilmeye başlanan Gölova Barajı 1986 yılında tamamlanmış ve çevredeki köylerin ve ilçelerin tarlalarını sulamak için kullanılmaktadır.
Gölova’nın havası eskiden karasal iklimdi, ancak son yıllarda mevsimler değiştiği için Karadeniz iklimine dönüşmeye başlamıştır. Gölova’nın ormanları ardıç ağaçlarından oluşur. Gölova Yaylası’nda hayvan beslenir ve yayla turizmi yapılır.