챗GPT 창시자 “AI 감시 국제기구 필요”…韓 AI 출처 표시법 발의

[이데일리 김현아 기자]

샘 올트먼 오픈AI 최고경영자(CEO) (사진=AFP)

22일(현지시간) 미국 국방부(펜타곤) 근처에서 대형 폭발이 발생했다는 가짜 사진이 트위터에 게재돼 혼란을 야기했다. 소셜미디어(SNS)를 통해 빠른 속도로 퍼지면서 한때 미 증시가 하락하기도 했다. 가짜 사진은 인공지능(AI)이 만든 것으로 확인됐다. 사진=CNN방송

초지능 가능성..IAEA 같은 국제 감시기구 필요

인공지능(AI)이 인간의 능력을 넘어서는 ‘초지능(superintelligence)’과 AI기술을 활용한 가짜뉴스에 대한 경고가 커지는 가운데, 생성형 AI의 원조격인 챗GPT를 개발한 오픈AI의 샘 올트먼(38) 최고경영자(CEO)가 22일(현지시간) “AI의 잠재적 위험을 통제하고 부작용을 막기 위해 (핵물질을 감시하는) 국제원자력기구(IAEA) 같은 국제기구가 필요하다”고 밝혔다.

올트먼 대표와 그레그 브로크먼 회장 겸 공동창업자, 일리야 수츠케버 수석과학자 등 오픈AI 경영진들은 이날 자사 블로그에 ‘초지능(superintelligence) 거버넌스’라는 제목의 글을 올려 “더 번영하는 미래에 도달하려면 위험을 관리해야 한다”며 “세계 주요국 정부가 주도하는 프로젝트나 AI 역량의 연간 성장률을 제한하는 집단적 합의 등이 필요하다”고 제안했다.

생성형 AI는 이대로 두면 초지능 수준으로 발전하는데 10년도 채 걸리지 않을 것으로 봤다.

이들은 “잠재적인 장단점을 모두 고려할 때, 초지능은 인류가 그간 맞서온 다른 기술보다 더 강력할 것”이라며 “실존적 위험 가능성을 고려하면 단순히 대응하는 차원에 머무를 수 없다”고 전 세계적인 감시 조치의 필요성을 주장했다. 원자력이나 생명공학과 마찬가지로 생성형AI도 위험할 수 있으니, 국제원자력기구(IAEA)같은 국제적인 감시 감독 기구를 설립하자는 것이다.

전문가들이 보는 AI의 위험성은 인간의 능력을 넘어서 인간을 지배하는 초지능의 가능성만은 아니다. AI를 활용한 음성 및 사진 합성 기술이 발전하면서 가짜 뉴스에 대한 두려움도 커지고 있다.

실제로 같은 날 미국 국방부(펜타곤) 근처에서 대형 폭발이 발생했다는 가짜 사진이 트위터에 게재돼 혼란을 야기했다. 소셜미디어(SNS)를 통해 빠른 속도로 퍼지면서 한때 미 증시가 하락하기도 했다. 하지만, 이 사진은 AI가 만든 것으로 확인됐다.



한국서도 AI로 만든 콘텐츠 출처표시법 발의

한국에서도 AI를 악용한 가짜뉴스 사진 유포 등에 대비한 법안이 발의됐다.

국회 문화체육관광위원회 소속 이상헌 의원(더불어민주당)은 지난 22일, 인공지능을 이용하여 제작된 콘텐츠라는 사실을 표시하게 하는 「 콘텐츠산업 진흥법 일부개정법률안 」 을 대표 발의했다 .

챗GPT, 미드저니 등의 생성형 AI 기술이 빠른 속도로 발전하면서, 이에 대한 적절한 규제가 필요하다고 본 것이다. 최근 SNS에선 프란치스코 교황이 명품 패딩을 입고 산책하는 모습의 사진이 화제가 됐지만 이는 AI를 이용해 만든 허위 이미지로 밝혀졌고, 지난 13일 트럼프 전 미국 대통령은 자신의 SNS 계정에 CNN 앵커가 바이든 대통령을 비난하는 영상을 올린 것으로 알려졌지만, 역시 AI가 만든 가짜 영상이었다 .

이 법안은 텍스트 , 이미지 , 음악 등의 콘텐츠가 인공지능 기술을 이용하여 만들어진다면 해당 콘텐 츠가 인공지능 기술을 이용하여 제작된 콘텐츠라는 사실을 표시하도록 하는 내용을 담았다 .개정안이 통과되면 사용자들이 진위여부를 알 수 있게 되어 허위 정보로인한 사회적 혼란이 방지될 것으로 보인다 .

이상헌 의원은 “ EU에서는 인공지능이 만든 콘텐츠에 표기를 의무화하는 규제안이 검토되고 있으며 , 미국에서도 AI로 만든 정치 광고영상과 사진에 출처를 의무적으로 표기하도록 하는 법안이 발의돼 있는 상황”이라며, “ 우리나라도 AI 오 · 남용을 막기 위한 관리 방안을 마련하여 규범적 틀을 확립해야 한다”고 입법 취지를 밝혔다 .

법안에선 ‘콘텐츠제작자는 대통령령으로 정하는 인공지능 기술을 이용하여 콘텐츠를 제작한 경우에는 해당 콘텐츠가 인공지능 기술을 이용하여 제작된 콘텐츠라는 사실을 표시해야 한다’고 돼 있고, 표시의 내용과 방법은 대통령령으로 정하도록 돼 있다. 공포이후 1년이 지난 날부터 시행한다고 돼 있다.