사법연수원 16기인 김 내정자는 1987년 대구지법 판사로 법조계에 발을 들였다. 그러나 3년 만인 1990년 서울지검 검사로 자리를 옮겨 25년간 현직으로 검찰 조직에 몸담았다.
김 내정자는 대검 중수3과 과장검사로 재직하던 2003년 대검 공적자금비리 합동단속반 반장을 맡았다. 합동단속반은 분식회계로 회삿돈을 빼돌린 김성필 전 성원토건 회장과 김태형(59) 전 한신공영 회장 등 9명을 구속하고 최원석(72) 전 동아건설 회장 등 17명을 불구속해 재판에 넘겼다. 이 과정에서 성원토건과 동아그룹이 은닉한 재산인 634억여원과 160억여원 등 약 931억원을 찾아냈다. 검찰은 예금보험공사로 하여금 국고에 환수하도록 했다.
삼성그룹 비자금 조성 의혹이 불거진 2007년 김 내정자는 다시 한 번 특별수사팀에 발탁됐다. 검찰이 그해 11월 삼성 비자금 사건을 전담할 ‘특별수사·감찰본부(특본)’를 구성하자 인천지검 2차장검사였던 김 내정자는 ‘특본’ 대변인으로 합류했다.
김 내정자는 수원지검장으로 재직하던 2013년 이석기(53) 전 통합진보당 의원 내란음모 사건을 지휘했다. 이 전 의원을 비롯한 일부 통진당 당원은 2013년 5월 전쟁이 임박했다고 판단하고 우리나라 국가 기간시설을 공격하려던 혐의(국가보안법 위반 등)로 구속 기소됐다. 김 내정자는 이 내란음모 사건을 기소한 공을 인정받아 그해 서울중앙지검장으로 영전했다.