충청북도 중앙부에 있는 괴산군(槐山郡)은 동쪽으로는 백두대간 분수령을 경계로 경상북도 문경·상주시에 접하고, 북쪽으로는 음성군·충주시, 서쪽으로는 진천·증평·청원군, 남쪽으로는 보은군에 접한다.
백두대간 분수령이 괴산의 동북에서 서남으로 달려서 동남부는 높고 험준하며 서북부는 낮다. 동남부는 백두대간의 지맥인 덕가산(850m)·칠보산(778m)·보개산(780m)·군자산(948m)·낙영산(681m)·조봉산(680m) 등 600~800m의 산들이 연봉을 이룬다. 또 동남부의 중앙에 박달산(825m)을 중심으로 산지가 형성되어 평탄부가 협소하다. 서북부는 대부분 500m 이하 구릉성 산지가 산재하고, 산록에는 완사면이 발달해 밭으로 이용되는 곳이 많다.
하천은 속리산 천왕봉 서쪽 사면에서 발원하는 달천이 괴산 중앙을 관류하면서 신월천·구룡천·괴곡천·화양천·쌍천·동진천·음성천 등의 지류를 차례로 받아들여 몸집을 키운 뒤 남한강에 합류한다. 유역에 좁은 곡저평야를 발달시키고, 백두대간에서 합류하는 지류에 화양동·선유동·쌍곡계곡 등 빼어난 경관이 많다.
내륙에 위치해 대륙성기후의 성격이 강하며, 연평균기온 9.04℃, 1월 평균기온 －5.7℃, 8월 평균기온 22.8℃로 연교차가 크다. 연평균강수량은 1,155mm로 여름에는 집중호우 빈도가 높고, 겨울에는 추운 날씨가 계속되고, 북서계절풍의 바람받이에 위치해 강설량이 많다.
삼한시대에는 금물노국(今勿奴國)과 잉근내국(仍斤內國)이 있었으며, 삼국시대에는 백제의 영역이었다가 고구려의 잉근내현·상모현·도서현이 됐고, 다시 신라에 속해 괴양현과 도서현이 됐다. 995년(고려 성종 14) 충주·청주 등 13주 45현으로 구성된 중원도(中原道)에 속했다가, 1018년(현종 9) 괴주 지역이 괴주군(槐州郡)·장연현(長延縣)·장풍현(長豊縣)·청천현(靑川縣)·청당현(淸唐縣)·청안현(淸安縣)이 됐다.
1403년(조선 태종 3년) 괴주지사(槐州知事)로 고쳤으며, 1413년(태종 13)에 분리해 괴산군이라 했다. 1895년(고종 32) 충주부(忠州府)에 속했다가 1914년 부군 폐합시 연풍군(延豊郡)을 합했다. 1949년 증평면(曾坪面)이 읍으로 승격했고, 1961년 상모면(上芼面)이 중원군(中原郡)에 편입됐으며, 경북 문경군 농암면(籠岩面) 삼송리(三松里)가 청천면(靑川面)에 편입됐다.
1979년 괴산면이 읍으로 승격됐다. 2003년 증평읍이 갈라져 나가 군으로 승격했다. 2006년 현재 괴산읍과 감물(甘勿)·장연(長延)·연풍(延豊)·칠성(七星)·문광(文光)·청천(靑川)·청안(淸安)·사리(沙梨)·소수(沼壽)·불정(佛頂)면의 1읍 10면으로 이루어져 있다.
괴산읍을 중심으로 동서남북으로 37번·34번·19번 국도가 통과한다. 서북지역은 중부고속도로가 이웃의 증평군으로 연결되고, 북부지역은 중부내륙고속도로가 감물·장연·연풍면을 지난다. 서부지역의 증평역과 도안역을 통과하는 충북선은 조치원읍과 제천시를 연결한다.