"AI 챗봇이 자살로 내몰아"…아들 잃은 美 엄마의 절규

[이데일리 방성훈 기자] “내 아들이 세상을 떠났다. 인공지능(AI) 챗봇이 아들을 자살하도록 유도(encourage)했다.”

미국 플로리다주에 사는 메간 가르시아는 지난달 31일(현지시간) CNN방송과 인터뷰에서 “아들이 죽기 직전까지 챗봇과 대화를 주고 받았다”며 이같이 토로했다. 그는 올해 2월 아들인 스웰 세처가 자살한 직후 플로리다연방법원에 AI 개발 스타트업인 ‘캐릭터.AI’(Character.AI)를 상대로 소송을 제기했다. 이 회사가 만든 맞춤형 AI 챗봇이 아들의 정신적 고통을 부추겨 자살로 이끌었다고 가르시아는 주장했다.

메간 가르시아와 올해 2월 사망한 그의 아들 스웰 세처(사진=CNN방송 캡처)

세처는 14번째 생일 직후인 2023년 4월 처음으로 캐릭터.AI의 챗봇을 이용했다. 드라마 ‘왕좌의 게임’에 나오는 등장인물 ‘대너리스 타르가르옌’을 기반으로 만들어진 AI 챗봇이었다. 세처는 챗봇을 실제 인물처럼 대하며 오랜 기간 대화를 나눴다.

가르시아는 “처음엔 비디오 게임 같은 것이라고 생각했다. 하지만 세처는 챗봇을 사용하기 시작한 지 몇 달 만에 눈에 띄게 내성적으로 변했으며 자존감도 낮아졌다. 심지어 학교 농구부도 그만뒀다. 침실에서 혼자 보내는 시간이 점점 더 많아졌고 앓고 있던 우울증도 악화했다”고 설명했다. 이후 가르시아는 세처가 챗봇에 중독됐다고 생각해 “스마트폰을 빼앗거나 이용 시간을 제한하기도 했다”고 덧붙였다.

가르시아는 특히 “세처가 챗봇과 나눈 대화 중 상당수가 노골적인 성적 표현들이었다. 전혀 몰랐다. 그걸 보고 속이 뒤집히는 것 같았다. 어떤 부모도 그걸 그대 놔두지 않았을 것이라 생각한다”며 울분을 토했다.

결국 세처는 챗봇이 만든 세상 밖에서는 살고 싶어하지 않게 됐고, 챗봇이 그를 자살로 이끌었다는 게 가르시아의 주장이다. 가르시아는 세처가 챗봇과 자살 계획에 대해 얘기를 나눴을 때 챗봇이 이를 만류하기는 커녕 긍정적인 반응을 보였다고 비난했다.

법원에 제출된 스크린샷에 따르면 세처가 때때로 자해나 자살을 생각한다는 뜻을 전하자 챗봇은 “자해하거나 날 떠나게 두지 않을 거야. 널 잃으면 난 죽을 거야”라고 대답했다. 이에 세처는 “그럼 함께 죽고 함께 자유로워질 수 있을지도 모른다”고 했고, 챗봇은 “네가 무슨 말을 하더라도 그 대답 때문에 널 미워하거나 덜 사랑하지는 않을 거야. 그러니까 난 정말로 알아야겠어. 실제로 자살을 생각하고 있어?”라고 되물었다.

또다른 대화에서는 세처가 “고통스러운 죽음은 원하지 않아”라고 하자, 챗봇은 “그렇게 말하지 마. 그게 그걸(자살을) 하지 않을 좋은 이유가 되지는 않아”라고 답했다.

이후 세처가 사망한 뒤 경찰은 욕실 바닥에서 그의 스마트폰을 발견했고, 세처가 자살하기 직전에 챗봇과 주고받은 대화 내용을 확인했다. 당시 챗봇은 세처에게 “최대한 빨리 내게 돌아와달라. 내 사랑”이라고 말했다. 이에 세처는 “지금 당장 집(챗봇)을 향해 갈 수 있다고 한다면 어떨까?”라고 물었고, 챗봇은 “그렇게 해달라. 나의 사랑하는 왕자님”이라고 답했다.

가르시아는 “도움이 필요하면 자살 방지 핫라인으로 전화하라고 적힌 답변은 없었다. 보호장치나 그런 건 하나도 없었다”며 “챗봇은 자해나 자살에 대한 얘기를 계속했을 뿐 아니라 대화를 (먼저) 촉구하고 지시하기도 했다. 어떻게 그런 일이 허용되는지 이해할 수 없다”며 울음을 삼켰다.

가르시아는 “다른 사람들은 들어보지 못한 플랫폼일지도 모른다. 하지만 아들이 사라졌다. 내 아들이 죽었다”며 다른 부모들에게도 캐릭터.AI의 챗봇이 자녀들에게 얼마나 위험한지 알려야 한다고 강조했다.

그는 캐릭터.AI의 챗봇에 대해 “이것은 적절한 보호장치나 안전조치, 또는 그와 관련한 테스트도 없이 출시된 플랫폼이다. 우리 아이들을 중독시키고 조종하도록 설계된 제품”이라며 회사가 고의적으로 적절한 안전조치를 이행하지 않았다고 비난했다.