AI가 만드는 민심왜곡…선거판 흔든다

[이데일리 김유성 기자] 지난달 대통령실은 발칵 뒤집혔다. ‘윤석열의 양심고백’이라는 영상이 유튜브와 틱톡 등 영상 기반 소셜미디어에 유포됐기 때문이다. 윤 대통령이 자신의 실정을 스스로 고백한다는 취지의 영상은 곧 가짜라는 게 밝혀졌다. 윤 대통령의 모습과 목소리를 짜깁기해 만든 가짜영상이었다.

올해는 전 세계 76개국에서 선거가 치러지는 ‘슈퍼선거의 해’이다. 각국 선거전에서 딥페이크를 통한 가짜뉴스가 기승을 부리고 있다. 또한 인공지능(AI) 알고리즘으로 인한 확증편향 역시 민심 양극화에 영향을 미치고 있다. 공정한 선거관리를 해야 하는 우리나라를 포함해 세계 각국이 AI 관리를 놓고 고심에 빠졌다.

[이데일리 김정훈 기자]

4일 정치권에 따르면 대통령실과 정부는 선거를 앞두고 딥페이크 영상 등 가짜뉴스에 대한 강력 대응 방침을 밝혔다. 중앙선거관리위원회는 ‘허위사실비방 AI 딥페이크 특별대응 모니터링반’을 운영하고 있고 방송통신심의위원회도 대책 마련에 나섰다.

최근 등장하는 딥페이크는 기술 발달로 해당 인물의 사진와 음성 자료만 있으면 실제와 거의 차이가 없는 영상을 만들 수 있다. 마음만 먹으면 가짜뉴스를 손쉽게 유포할 수 있다는 것이다. 또 가짜영상 유포를 막을 길도 여의치 않다. 유튜브와 네이버 등 기존 플랫폼에서 딥페이크 영상에 식별 표시를 하도록 하고 있지만 모든 소셜 미디어를 통제하는 것이 불가능해서다.

또 다른 문제는 인공지능(AI) 알고리즘에 따른 확증편향 문제이다. 이용자 성향에 따라 편향된 콘텐츠가 추천되다 보니 ‘나와 생각이 다른 사람들의 의견’을 듣기 힘들어졌다.

방송통신위원회 상임위원을 지냈던 고삼석 동국대학교 AI융합대학 석좌교수는 “AI기술 발달에 따른 부작용이 예측했던 것보다 훨씬 더 크게 나타나고 있다. 이 문제를 해결하지 않으면 사회통합을 저해하게 되고 국력 낭비 요인이 될 수 있다”며 “그렇다고 규제로 해결될 수 있는 일이 아닌 만큼 정부와 기업, 시민사회 간 자정 노력을 위한 사회적 합의가 필요하다”고 조언했다.