|
딥페이크 이용 범죄는 인공지능(AI) 기술의 급격한 발달 이후 위험성이 커지고 있다. 특히 제22대 총선을 앞두고 딥페이크 영상을 이용한 허위정보 유포 또는 여론조작에 대한 우려가 심화되고 있다.
개정 공직선거법 제82조의8는 선거일 전 90일부터 선거일까지 딥페이크 영상 등을 이용한 선거운동을 금지했으며, 경찰도 이러한 범죄에 대한 엄정 대응 기조를 밝힌 바 있다.
기존에 만들어진 딥페이크 탐지 모델은 해외에서 제작돼 서양인 위주의 데이터로 구성된 것이 대부분이었다. 따라서 한국인을 대상으로 합성된 영상에 대해서는 탐지율이 떨어지는 문제점이 있었다.
해당 소프트웨어의 진위 여부 탐지율은 약 80%에 달한다. 탐지율이 100%가 아닌 점을 감안하여 증거자료보다는 수사 방향을 설정하는 자료로 활용할 방침이다.
아울러 딥페이크와 관련한 새로운 기술이 끊임없이 개발·전파되고 있는 만큼, 딥페이크 영상 선거범죄에 대해서는 학계, 기업 등 인공지능(AI) 전문가로 구성된 민간 자문위원의 교차 검증을 거쳐 오탐지 가능성도 최소화할 예정이다.
경찰 관계자는 “딥페이크 이용 여부가 의심될 경우 ‘딥페이크 탐지 소프트웨어’를 통한 분석을 거쳐 빠르게 결과를 확인한 후, 적극적인 수사를 진행해나갈 수 있을 것으로 기대하고 있다”며 “향후 더욱 정확한 탐지가 이루어지도록 해당 소프트웨어를 고도화할 것이며, 선거범죄·합성성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다”고 밝혔다.