‘AI 딥페이크 영상 워터마크 의무화법’ 발의

[이데일리 김현아 기자]

미드저니(Midjourney)가 만든 도널드 트럼프 전 미국 대통령의 가짜 체포 사진. 엘리엇 히긴스 트위터

김승수 의원(국민의힘)이 지난 22일, 딥페이크 영상, 음향 등 인공지능(AI) 기술을 이용하여 만든 거짓 정보에 대한 대책으로 “정보통신망 이용촉진 및 정보보호 등에 관한 법률” 일부개정법률안을 대표발의했다.

개정안의 주요내용은 다음과 같다. 정보통신망을 통해 공개되는 딥페이크 영상(음향·화상 포함)에 대한 워터마크 표시를 의무화하고, 이를 지키지 않을 시 1천만원 이하의 과태료를 부과하며 해당 영상을 삭제할 수 있도록 하는 내용이 포함됐다.

이번 개정안은 최근 인공지능 기술의 급격한 발전과 활발한 활용에 따라 온라인 상에서 AI 기술을 이용한 거짓 정보가 빈번하게 유통되어 혼란을 초래하고 있을 뿐만 아니라, 개인의 얼굴과 음성이 성적 허위영상물, 금융사기 등에 악용되고 있는 문제에 대한 대책으로 마련됐다.

현재, “성폭력처벌법” 제14조의2에 따라 딥페이크 성적 허위영상물에 대한 차단·삭제 조치를 시행하고 있는 방송통신심의위원회의 처리 건수는 2020년 473건에서 2023년 11월까지 5,996건으로 급증하고 있다.

이와 관련하여, 국내에서는 지난 12월 20일에는 선거운동 관련 딥페이크 영상 게시 시 가상 정보라는 사실을 표시하도록 하는 “공직선거법” 개정안이 국회를 통과했다.

유럽연합은 지난 12월 8일에 AI로 생성한 콘텐츠에 워터마크를 의무화하는 법안을 마련했다. 미국에서는 구글, 마이크로소프트, 오픈 AI 등 주요 AI 기업들이 워터마크 사용을 공식화하고 의회 차원의 법안 제정이 추진 중이다.

김승수 의원은 “인공지능 기술의 발전과 함께 이를 악용하는 범죄와 피해사례가 계속해서 증가하고 있다”며 “인공지능 기술을 활용한 거짓 영상에 대한 식별표시를 의무화함으로써 건전한 인공지능 기술 활용 문화의 정착과 피해 감소에 큰 도움이 될 것으로 기대한다”고 밝혔다.