김조근(金祖根)의 자는 백술(伯述)이요 호는 자오(紫塢)이며 본관은 안동(安東)으로 1793년 7월 1일 충주목사로 있던 김지순(金芝淳)의 장남으로 태어났다.
1816년(순조 16) 생원시에 합격하고, 음보로 경주부판관을 거쳤으며 1837년(헌종 3) 승지(承旨)로 승진하였다. 이 때 그의 두째딸이 헌종대왕의 비(妃)로 책봉되자 그는 영흥부원군에 봉해지고, 영돈령부사에 올랐다. 그 후 어영대장·호위대장·주사대장등을 역임하였으며, 당시 풍양조씨 세력과 함께 왕실의 외척으로서 쌍벽을 이루였으며 철종대왕 당시 안동김씨 세도의 기반을 마련하였다.

1844년(헌종 10) 1월 2일 향년 51세에 별세하였으며 후에 영의정으로 추증되고 효간(孝簡)이라는 시호를 내렸다.
묘는 가평군 상면 행현리에 있다.