"딥페이크 문제 해결, 정부 규제가 촉매제 될 것"

[마이애미=이데일리 김혜미 기자] “딥페이크 문제가 계속 나오는 상황에서 정보 변조 여부를 탐지할 수 있는 알고리즘 도입 논의가 상당히 많습니다. 이런 알고리즘이 좀더 많이 채택됨으로써 인공지능(AI) 기술을 악용하는 사람들의 행동이 저지될 것으로 기대합니다.”

앤디 파슨스 어도비 CAI 총괄이 14일(현지시간) 공동 인터뷰 질의에 답하고 있다.(사진=어도비 맥스 2024 공동취재단)

앤디 파슨스 어도비 콘텐츠 진위 이니셔티브(CAI) 총괄은 14일(현지시간) 아시아 기자들과의 공동 인터뷰에서 디지털 정보 생성과 관련한 오·남용 대책을 묻자 이같이 답했다. 그는 어도비에서 CAI 관련 업무를 총괄하고 있으며 포토샵 등의 앱에 CAI가 잘 접목될 수 있게 하는 책임을 맡고 있다.

생성형 AI의 급속한 발달은 창의적인 콘텐츠 수요 확대로 이어지고 있다. 어도비가 최근 실시한 조사에서는 향후 2년간 창의적인 작업이 2배 확대되고, 콘텐츠 수요는 5배 늘어날 것이며 관련 일자리도 2배 증가할 것으로 예상됐다. 동시에 딥페이크 등 디지털 정보 오·남용 문제도 전세계적인 골칫덩이가 되고 있다.

이에 빅테크는 물론이고 소셜미디어와 하드웨어 업체들과의 협력이 중요해지고 있다. 파슨스 총괄은 CAI 공동 창립 이후 5년 만에 캐논과 소니, 라이카 등 시장점유율 90% 이상을 차지하는 카메라 업체들과 시민사회, 비영리단체 등 3700곳 이상이 회원사로 참여하고 있다고 강조했다. 이들은 투명성과 디지털 콘텐츠 라벨링을 위한 포괄적인 솔루션 개발을 위한 C2PA에 협력하고 있으며 많은 기업들이 C2PA 기술 표준을 채택하고 있다.

다만 파슨스 총괄은 각국 정부 차원의 노력이 필요하다는 점을 지적했다. 기업들의 노력 만으로는 디지털 콘텐츠의 투명성 확보가 어렵다는 것이다. 그는 “영국 등 각국 정부의 움직임이 나타나는 상황에서 규제가 꼭 필요하다고 보긴 어렵지만, 정부가 가이드라인을 포함한 규제를 도입한다면 콘텐츠 악용을 막는 촉매제로서의 역할을 하게 될 것”이라면서 “더 많은 사람들이 잘못된 정보 생성과 유포에 대한 문제점을 인지하게 될 것”이라고 설명했다.

여기에는 입법 제안에 콘텐츠 출처를 표기하도록 하는 방안도 포함된다. 파슨스 총괄은 최근 블로그에 게재한 글에서 “정책 입안자들 사이에서의 인식을 계속 높여야 한다. AI 개발자가 도구에 출처를 구축하고, 플랫폼이 이를 운반하고 표시하는 것을 포함해 입법 제안에 출처 요구 사항이 포함돼야 한다”고 언급한 바 있다.