"딥페이크 범죄, 골든타임 중요…5분이면 판별 가능하죠"[경찰人]

[이데일리 이영민 기자] “예전에는 수사관이 눈으로 가짜인지 판단할 수 있었지만 AI(인공지능) 때문에 이젠 아니에요. 사이버범죄는 빨리 포착하지 않으면 증거 수집이 어려워서 수사를 도울 프로그램이 필요하다고 생각했습니다.”

김문영 경찰청 사이버범죄수사과 경위(사진=이영민 기자)

얼마 전 대학 동문 여성 수십명을 상대로 음란물을 만들어 유포한 ‘서울대 N번방’ 사건이 발생하면서 딥페이크 관련 디지털 성범죄에 대한 불안을 느끼는 사람들이 많아지고 있다. 30일 이데일리와 만난 김문영 경찰청 사이버범죄수사과 경위는 콘텐츠의 합성 여부를 판별하는 ‘딥페이크 탐지 프로그램’을 개발했다. 그는 이 프로그램이 디지털 성범죄에 즉각 대처에 피해를 최소화할 수 있는 기반을 마련했다고 설명했다.

앞서 경찰청은 지난 3월 김 경위가 개발한 ‘딥페이크 탐지 소프트웨어’를 공개한 바 있다. 이 프로그램은 딥페이크 합성이 의심되는 영상을 시스템에 업로드하면 5~10분 안에 해당 영상이 합성된 가짜인지, 원본 상태의 진짜인지 판별한다. 경찰은 결과보고서를 디지털 성범죄 수사에 활용하고, 유관기관과 결과를 공유해 허위 영상의 삭제·차단을 돕고 있다.

김 경위가 이 프로그램을 개발한 배경에는 ‘소라넷 사건’ 피해자와의 기억이 결정적 역할을 했다. 2013년 경찰로 입직한 그는 이듬해 ‘소라넷’에 올라온 자신의 영상 삭제를 요청하는 30대 여성을 만났다. 김 경위는 “그분의 몸에 반점이 있어서 불법영상 속 인물이 특정될 수 있는 상황이었다”며 “사이트를 수사하려면 영장을 신청하기 위해 모든 범행을 캡처하고, 범죄사실을 증명해야 하는데 절차가 많고 소요되는 시간이 길어 답답했다”고 당시를 회상했다.

여기에 지난 2022년 등장한 챗 GPT(Chat-GPT)가 출시된 뒤 생성형 AI의 시대가 본격화하면서 이 프로그램의 개발 필요성을 절실하게 느꼈다. 당시에 합성물을 판독하는 해외 프로그램이 있었지만 서양인에 맞게 학습돼 국내에 적용하기 어려웠던 탓이다.

이 문제를 해결하기 위해 그는 지난해 2월부터 개발에 착수했고 해당 프로그램에 5400명의 데이터 520만점 등 한국인 관련 데이터를 학습시켰다. 그 결과 프로그램을 완성할 수 있었다. 이렇게 개발된 프로그램은 지난 3월 공개 이후 두 달간 불법 합성물 39건을 탐지해냈다.

그는 “현재 탐지율이 80% 수준인데 정확도를 높여서 미래에 발생할 범죄에 빠르게 대응하고 싶다”고 말했다. 또 “사이버수사는 국제 공조가 잘 되고 있다”며 “일부 범인들은 해외에 있으면 안 잡힐 것이라고 생각하지만 시간의 차이가 있을 뿐 모두 잡힌다”고 자신했다.

김 경위는 디지털 성범죄의 골든타임의 중요성도 강조했다. 그는 “디지털 성범죄는 피해영상물이 인터넷에 유포되는 순간 기하급수적으로 확산하기 때문에 촬영을 못 하게 해야 하고 촬영된다 하더라도 불법콘텐츠가 유포되거나 삭제(증거 훼손)되지 않도록 골든타임을 확보하는 것이 중요하다”고 했다.