챗GPT, 내 정보도 학습했을까[궁금한AI]

[이데일리 함정선 기자] 챗GPT를 쓰면 쓸수록 걱정이 된다고 말하는 사람들이 있습니다. 다양한 사안을 챗GPT에 묻다 보니 자칫 내 정보가 챗GPT를 통해 유출되지는 않을지 하는 걱정입니다.

이 때문에 삼성전자나 쿠팡 같은 기업들은 사내에서 챗GPT를 사용하는 것을 금지하기도 했죠. 또, 챗GPT를 사용하려 하면 ‘정보가 유출될 수 있다’라는 경고문이 뜨도록 하는 회사들도 늘어나고 있다고 합니다. 미국에서도 아마존 등이 이미 챗GPT에 정보를 입력하지 말라고 직원들에게 경고한 바 있고요.

이는 초거대 AI인 GPT가 웹에 있는 정보를 학습했지만, 어떤 정보를 학습했는지를 오픈AI가 정확하게 밝히지 않고 있기 때문인데요. 오픈AI의 최고경영자(CEO)인 샘 알트먼이 최근 GPT가 사용자 정보를 어떻게 학습하고 있는지에 대해 입을 열었습니다.

결론은 오픈AI가 ‘한동안’ 유로 고객의 데이터로 GPT를 학습시키지는 않았다는 겁니다.

한 언론과 인터뷰에서 샘 알트먼은 고객들이 자신의 정보로 AI가 학습하지를 원하지 않기 때문에 계획을 변경했다고 밝혔는데요. 이 때문에 지난 3월1일에 조용히 약관도 바꿨다고 하네요.

문제는 샘 알트먼이 앞으로 사용자들의 정보를 학습하지 않겠다고 한 것도 유료 고객에게만 해당한다고 합니다. 업데이트한 약관에 보면 API(응용 프로그램 인터페이스) 이외의 서비스에서 콘텐츠를 사용할 수 있다,고 돼 있기 때문입니다.

이는 유료로 API를 사용하는 고객이 아닌, 챗GPT를 이용하는 사용자들의 정보는 학습할 수 있다는 뜻이기도 합니다. 그러니까 정보 유출이 고민이라면 돈을 내고 GPT의 API를 사용하라는 말도 되겠네요.

앞으로의 정보 유출이야 걱정이 없다고 해도 샘 알트먼의 언급을 잘 살펴보면 그간은 GPT가 사용자 데이터로 학습하긴 했나 봅니다. 그는 분명히 ‘한동안’이라는 단어를 썼거든요.

GPT와 같은 AI에 대한 우려가 커질 수록 오픈AI의 CEO인 샘 알트먼의 해명과 언급도 늘어나고 있는 것이라는 분석도 나옵니다. 미국에서는 생성형AI의 규제가 본격화했죠. 백악관이 직접 나서 말입니다.

우리 정부도 AI를 통한 정보유출 등을 심각하게 바라보고 있기는 합니다. 다만, 우리의 경우 아직 한국어 서비스가 본격화하지 않아 규제나 논의 등에는 시간이 걸릴 수도 있을 듯 합니다.

개인정보위원회는 우선 오픈AI의 GPT가 우리 국민의 개인정보를 얼마나 학습했는지를 파악 중이라고 하는데요. 다만, 오픈AI에 질의를 한 번 보내면 답변 받는 데만 며칠 이상의 시간이 걸리고 그 답변마저도 충분치 않다는 얘기가 나옵니다.

단순한 서비스를 넘어 여러 분야에서 우리 직업까지 대체할 것으로 우려되는 생성형AI. 우리의 정보를 어디까지 허용해야 할까요. 미국에서는 영화와 드라마 등 엔터테인먼트 업계에서 생성형AI를 사용하지 말아야 한다는 목소리가 커지고 있다네요. 미국 작가 협회는 영화 스튜디오 등과 협상이 결렬된 후 파업도 시작했죠.

AI가 발전하면 할수록 인간의 고민도 더 늘어날 것으로 보입니다.