"챗GPT가 깨어 있다"…일론 머스크는 왜 이런 말을?[궁금한AI]

일론 머스크가 자신의 트위터에 게재한 그림

[이데일리 함정선 기자] “AI가 깨어있도록, 즉 거짓말을 하도록 훈련하는 것은 치명적입니다.”

실리콘밸리의 ‘빅마우스’ 일론 머스크가 인공지능(AI) 챗봇인 ‘챗GPT’에 대해 비판한 말입니다. 챗GPT를 개발한 오픈AI를 공동설립했던 일론 머스크가 최근 들어 잇따라 챗GPT에 대해 안 좋은 소리를 하는 것이야 그가 오픈AI와 오래 전 인연을 끊었으니 이해할 수 있지만, 문제는 ‘깨어있다’는 단어입니다. 대체 AI가 깨어있다는 게 무슨 소리일까요.

또한 머스크는 자신의 트위터에 깨어 있는 AI(woke AI)로 이름 붙은 고질라와 폐쇄적 AI(closed AI)의 이름을 단 킹콩이 서로 싸우는 그림과 기반 AI(based AI) 이름표를 단 개 한 마리가 이들을 혼쭐내려는 그림도 올렸습니다.

대충 보니 ‘깨어 있는 AI와 폐쇄적 AI가 현재 갈등하고 있는데, 이걸 기반 AI로 물리치겠다’는 뜻으로 읽히는 그림이네요. 물론 머스크는 이 같은 AI 개발에도 돌입할 것이라는 외신의 보도들이 이어졌습니다.

깨어 있는 AI는 무엇?…머스크 “거짓말 하도록 훈련한 챗GPT”

미국에서는 머스크가 시작한 이 깨어 있는 AI와 폐쇄적 AI 논란으로 해석이 분분합니다. 대체 깨어 있는 AI며 폐쇄적 AI, 그리고 기반 AI가 무엇이기 때문일까요.

미국의 언론이나 전문가 등도 깨어 있는 AI를 두고 여러 해석을 내놓고 있습니다. 사실 깨어 있다는 것은 주관적인 판단이다 보니 해석이 다양할 수밖에 없겠죠.

머스크가 준 힌트를 보면, 그가 말한 깨어 있는 AI는 인종차별이나 성차별, 또 정치적 문제와 같은 논란이 생길 발언을 하지 못하도록 안정장치를 해둔 챗GPT에 대한 비판으로 보입니다.

오픈AI는 챗GPT가 성차별적인 말이나 폭력적인 물음 등에 대답하지 않도록 미리 훈련을 시킨 것으로 알려져 있으니까요.

미국 언론에서는 깨어 있는 AI라는 뜻이 챗GPT의 진보적인, 좌편향적인 모습을 비판하기 위해 머스크와 보수 언론이 만들어낸 단어라는 평가도 내놓습니다.

이 때문에 몬트리올 AI 윤리 연구소의 설립자인 아비섹 굽타(Abhishek Gupta)는 머스크에게 “정보가 부족하다”며 “챗GPT의 편향성은 의식적인 것이 아니라 최악의 상황에서 사람들을 보호하기 위한 안전장치”라고 말하기도 했습니다.

폐쇄형 AI는 MS의 영향력 아래?…기반 AI가 대안 될까

그럼 대체 폐쇄형 AI는 또 무엇일까요. 이건 말 그대로 소스 코드를 공개하지 않는 AI 모델을 의미한다고 합니다. 전문가들에 따르면 AI 생태계에서는 많은 AI 모델이 오픈 소스로 공개됩니다. 더 빠른 발전을 위해서라고 하네요.

헌데 머스크는 챗GPT가 그렇지 않다고 비판합니다. 그는 트위터에 “오픈AI가 원래 오픈소스로 구글에 대항하기 위해 만들어 졌지만 마이크로소프트(MS)가 효과적으로 통제하는 폐쇄형 소스, 수익 회사가 됐다”고 비난하기도 했거든요. 즉, 오픈AI가 MS의 막대한 투자를 받으면서 챗GPT를 폐쇄적 AI로 만들었다는 뜻으로 보입니다.

머스크에 따르면 챗GPT는 폐쇄적인 AI이며 동시에 거짓말을 하도록 깨어 있는 AI로 정의할 수 있을 듯 합니다. 어려운 용어가 쓰였지만, 챗GPT가 오픈AI나 MS의 통제 아래에 있다는 얘기로 이해할 수 있지 않을까요.

그렇다면 머스크가 대안으로 개발하겠다는 기반 AI는 또 뭘까요. 기반, 즉 편견 없이 진실에 기반한다는 뜻인데요. 챗GPT처럼 미리 훈련하지 않은, 성차별이든 폭력이든 안전장치를 하지 않은 AI를 뜻합니다.

헌데 전문가들은 이것이 위험한 일이라고 경고해왔는데 괜찮을까요. 사실 AI는 빅데이터를 기반으로 학습하는데, 인터넷에 퍼져 있는 데이터의 신뢰성이나 편향성 등은 어떻게 해결하려는 걸까요.

한편에서는 머스크가 AI를 개발한 후 트위터에 접목하는 것이 아니냐는 얘기가 나오기도 합니다. 하지만 이건 과연 괜찮을까요.

지난 2016년 MS가 출시한 챗봇 ‘테이’가 트위터 발언을 학습하더니 하루도 안 돼 인종차별적인 말들을 쏟아냈던 사례를 생각하면, 고개를 갸웃할 수밖에 없습니다.

생성AI는 분명 우리 삶을 크게 바꿔놓을 것이 분명하지만, 편향성이나 윤리 등 문제가 가장 큰 걸림돌임에도 틀림이 없어 보입니다.

챗GPT의 성공 이후 국내에서도 네이버와 카카오, SK텔레콤 등이 성격은 약간씩 다르지만 어쨌든 AI를 손쉽게 이용할 서비스를 곧 내놓겠다고 했습니다. 챗GPT가 겪고 있는 편향성 논란과 문제, 우리는 과연 어떻게 받아들이고 풀어나갈 수 있을지 궁금하네요.