Karliova ilçesi, Dogu Anadolu Bölgesi'nin Yukari Firat Bölümü'nde, Bingöl ilinin kuzeydogusunda, Bingöl ve Seytan Daglari'nin arasindaki ovada kurulmuştur. Güneyinde Serafettin Ve Karaboga Daglari, kuzeyinde Erzurum-Çat, kuzeydogusunda Erzurum-Tekman, güneyinde Bingöl-Solhan, güneydogusunda Mus-Varto, batisinda Bingöl-Kigi ilçeleri ile güneybatisinda Bingöl il merkezi ile çevrilmistir. Karliova ilçesi 41 derece 02 dakika dogu boylami ile 39 derece 21 dakika kuzey enleminin kesistigi noktada yer alir. Karliova 1392 km yüzölçümüne sahip olup Bingöl ilinin % 16,6'sini kapsar. Ilçe Bingöl iline 75 km mesafededir. Ilçenin deniz seviyesinden yüksekligi 1940 metredir.  Daglar ve engebeli araziler büyük bir alan kaplamaktadir. Düzlük alanlar ancak %7,5 civarindadir.