‘실제 사람과 대화하는 느낌’…오픈AI “사용자가 AI에 감정적 의존 우려”

[이데일리 김성진 기자] 생성형 인공지능(AI) 서비스가 사용자들을 감정적으로 AI에 의존케 할 수 있다는 우려가 나왔다. AI서비스가 음성모드를 제공하면서 사용자들이 실제 사람과 대화하는 듯한 경험을 느낄 수 있게 되면서다.

9일(현지시간) CNN 등 외신에 따르면 오픈AI는 음성 지원이 가능한 새 인공지능(AI) 모델 ‘GPT-4o’와 관련해 내놓은 보고서에서 “사용자들이 챗GPT와 음성 모드로 대화하면서 공유된 유대감을 표현하는 현상이 관찰됐다”고 했다.

GPT-4o는 오픈AI가 지난 5월 공개한 최신 인공지능 모델이다. 딱딱한 기계음이 아닌 자연스러운 사람 목소리를 내고 사용자와 실시간 음성 대화가 가능한 게 GPT-4o의 특징이다.

오픈AI는 “사용자가 AI와 사회적 관계를 형성하면서 다른 사람과의 상호작용에 대한 필요성을 줄일 수 있다”면서도 “다만, 이는 외로운 개인에 잠재적으로 도움을 줄 수 있지만 다른 사람과의 건강한 관계에도 영향을 미칠 수 있다”고 밝혔다.

GPT-4o의 음성 모드는 답변 중 사용자가 언제든지 개입이 가능하다. 이러한 기능 때문에 사용자는 실제 사람과 상호작용한다는 느낌을 더 강하게 받을 수 있다는 것이다.

오픈AI는 사람이 AI서비스에 의존하는 것을 방지하기 위한 연구를 계속하겠다고 밝혔다. 오픈AI는 보고서에서 “AI를 ‘안전하게’ 만들기 위해 최선을 다하고 있으며 사용자의 잠재적인 ‘감정적 의존’에 대해 지속해서 연구할 계획”이라고 했다.

GPT-4o의 음성 모드는 첫 공개 당시 인간이 AI 비서와 사랑에 빠지는 내용의 2013년 개봉작 영화 ‘허’(Her) 속 AI가 현실이 됐다는 평가를 받으며 주목을 받았다.

(사진=AP.)