[데스크칼럼]AI는 죄가 없다

[이데일리 김혜미 ICT부장] 어느 날 직장에서 업무 중에 휴대전화가 울린다. 눈은 컴퓨터 화면을 향한 채 손만 움직여 가까스로 전화를 받는다. 어머니의 목소리가 들려온다. “ㅇㅇ야, 지금 은행에 갈 수가 없어서 그러는데 내가 부르는 계좌번호로 100만원만 입금해줘. 만나서 현금으로 줄게.” 급히 번호를 받아적고는 서둘러 100만원을 입금했다. 그런데 불현듯 뭔가 이상하다. 어머니에게 전화하니 “응? 그게 무슨 소리니. 너에게 전화한 적이 없는데.”

인공지능(AI) 딥페이크 음성으로 스팸 전화가 걸려온다면 어떨까. AI 딥페이크 음성은 우리가 흔히 생각하듯 전자음 티가 팍팍 나는 그런 목소리가 아니다. 우리 가족, 내 친구, 직장동료, 주변의 누구로도 둔갑할 수 있다. 이미 1년 6개월 전 미국 CNN은 취재기자가 자신의 딥페이크 음성으로 가족과 아무런 문제없이 통화하는 장면을 보도한 바 있다.

인하대 딥페이크방 사건을 계기로 우리 사회가 AI 불법 합성물 딥페이크로 들끓고 있다. 나도 모르는 새 사회관계망서비스(SNS)에 게재된 내 사진이 누군가의 나체와 합성돼 온라인을 떠돌고, 그로 인해 협박으로까지 이어지는 일이 이미 수년 전부터 자행되다 이제야 발견된 것이다. 하나 둘 자신의 SNS 계정을 삭제하고 카카오톡 프로필 사진을 공란으로 비우거나 꽃으로 대체하는 모습도 나타난다.

AI가 감쪽같이 누군가의 모습이나 목소리로 둔갑하고, 허위사실을 정말 그럴싸한 정보로 우리를 속일 수 있다는 사실은 진작부터 경고돼왔던 터였다.

올초 미국에선 팝가수 테일러 스위프트의 얼굴을 합성한 딥페이크 성착취물이나 조 바이든 미국 대통령의 딥페이크 음성 등이 등장해 충격을 줬다. 어쩌면 오래 전 카카오톡에 버락 오바마 전 미국 대통령의 “카카오톡”이라는 알림음이 등장했을 때 지금의 상황을 예견했어야 하는지도 모른다. 예전엔 어설펐던 합성물에 AI가 더해지면서 더 정교해지고 식별하기 어려워졌다.

AI의 발달에 따른 우려는 비단 딥페이크 합성물만의 문제는 아니다. 생성형AI는 데이터 학습에 따른 결과를 내놓는데, 데이터의 원천이 어디에서 제공된 것인가에서부터 얼마나 학습했는지 등에 따라 결과가 정확하지 않거나 중립적이지 않을 수 있다는 지적도 꾸준히 나왔다. 구글의 새 검색 서비스 ‘AI 오버뷰’가 버락 오바마 미국 대통령을 두고 미국 최초의 무슬림 대통령이라는 답을 내놓은 것이 바로 그 방증이다.

하지만 모든 기술이 그렇듯 AI도 양면성을 갖는다.

올초 삼성전자의 스마트폰 공개 행사에서 갤럭시 AI가 등장했을 때 많은 사람들은 ‘이제 더 이상 외국어 공부할 필요 없겠다’며 반겼다. 비용이 많이 드는 영화나 게임 제작에 있어서도 AI를 활용하니 단 며칠 만에 몇백만원 정도의 비용으로 작품이 완성됐다. 누가 사용하느냐에 따라 사회에 긍정적 일수도, 부정적 일수도 있음이 다시 한번 확인되는 시점이다. 기술이 스스로 주인이 아니기 때문이다.

정부 차원의 규제 강화가 공언된 상황에서 AI와 함께 살아가야 한다는 점을 감안하면 결국 미디어 이용자들이 온라인 콘텐츠를 비판적으로 바라보는 능력, 즉 미디어 리터러시는 더욱 중요해질 것이다. 아직 정체성과 사회의식이 확립되지 않은 청소년들에 대한 윤리교육도 필요하지만, 디지털 기기에 대한 이해도와 접근성이 떨어지는 노년층의 디지털 리터러시는 미리 대비하지 않는다면 앞으로 더 많은 피해를 불러오게 될 것이다. 지금의 스팸전화와는 비교도 되지 않을 수준으로 말이다.