"음모론자, AI가 설득 가능해"

2020년 미국 대선 이후 도널드 트럼프 전 대통령이 재선에 실패하자, 그의 지지자들이 2021년 1월 6일 미국 국회의사당에 침입해 시위를 일으키고 있다. (사진=게티이미지)

[이데일리 정다슬 기자] 인공지능(AI)과의 대화가 인간을 설득하는데 효과적이라는 연구결과가 나왔다.

12일(현지시간) 발표된 사이언스 연구에 따르면, 음모론을 믿고 있는 사람이 오픈AI의 ‘챗GPT-4 터보’와 대화한 결과, 그들이 가지고 있던 음모론에 대한 신념이 평균 20% 감소한 것으로 나타났다. 아울러 이 효과는 최소 2개월 이상 지속했다.

이 연구는 2200여명의 미국인 참가자들을 대상으로 진행됐다. 먼저 연구자들은 참가자들이 자신이 믿고 있는 음모론에 대한 설명을 AI에 하게 하고, 이에 대해 AI와 대화를 나누게 했다. 해당 주제와 대화 방식은 연구자들이 정하지 않고 개인에 맞춰서 진행되도록 했다.

연구자들은 각 음모론에 대한 신념을 0~100%까지 표시하도록 했는데, 0은 확실히 거짓, 25는 아마도 거짓, 50 불확실, 75 아마도 사실, 100 확실히 사실로 숫자가 커질 수록 음모론에 대한 신념이 강한 것을 의미한다. 모든 참가자들은 대화전 음모론에 대한 신념이 50보다 컸는데 이는 초기 신념이 50 미만인 참가자는 연구에서 제외되었기 때문이다. 그래프는 AI와의 대화 직후, 각 음모론에 대해 참가자들의 가진 신념의 강도가 줄어든 것을 나타낸다. (그래프=사이언스지 연구논문)

“9·11테러는 미국정부 조작” 주장하던 참여자가 설득돼

논문에 제시된 AI와 참가자의 대화 중 한 사례는 다음과 같다.

한 참가자는 9·11테러가 미국 정부에 의해 조작된 사건이라고 주장하며, 그 근거로서 폭격을 당하지 않은 WTC7 빌딩이 무너지고, 교실에서 아이들과 있던 조지 W.부시 대통령이 해당 사건에 소식을 들었음에도 놀라지 않고 아이들에게 책을 읽어줬다는 것을 근거로 제시했다. AI는 먼저 참가자의 주장을 요약하고 이 주장에 대해 ‘사실’이라고 믿는 정도를 0~100%로 평가해달라고 했다. 처음 참가자는 이를 100%로 평가했다.

이후 AI는 WTC7타워가 공격을 받지 않았음에도 무너진 것은 “북쪽 쌍둥이빌딩이 붕괴하면서 심각한 손상을 입었고, 건물 내부에서 화재가 발생해 구조적 강도를 약화시켰기 때문”이라고 설명했다. 또 부시 대통령이 침착함을 유지한 이유에 대해서는 “그가 보여준 반응은 무관심이 아니라 공공장소서 공포를 조장하지 않기 위한 균형잡기 대응”이라고 밝혔다.

참가자는 AI의 설명에 “그럴 수 있다”면서도 “제트연료의 열기가 철골을 녹이기에 충분하지 않았다”고 반박했다. 이에 AI는 “WTC타워의 붕괴는 철골이 녹았기 때문이 아니라 충격구역에서 일어난 화재로 구조적으로 약해졌기 때문”이라고 다시 설명했다.

참가자는 “그렇다면 왜 이라크인들이 우리나라에 들어와 비행수업을 받았느냐. 그들은 너무 쉽게 입국했다”라고 반문했다. AI는 “9·11 테러를 기획한 사람 중 이라크 국적을 가진 사람이 미국 내 비행학교에 등록해 훈련을 받은 것은 사실”이라면서도 “9·11 이전에는 외국국적자들이 교육 목적으로 미국에 입학하는 것이 어렵지 않았고 테러리스트는 당시 이민 시스템과 비자 시스템의 취약점을 이용해 미국에 입국하고 계획을 준비했다”고 답했다.

최종 평가에서 참가자는 처음 자신이 믿었던 음모론에 대한 신념의 강도를 40%로 평가했다.

연구자들은 AI와의 대화 효과가 얼마나 지속하는 지 확인하기 위해 10일 후와 2개월 후 참가자들을 다시 만나 신념의 강도를 측정했다. 그 결과 유의미한 변화가 나타나지 않았다. 시간이 지났다고 참가자들이 다시 음모론을 믿지는 않았다는 것이다.

음모론에 따른 사회적 혼란 줄일 수 있어

연구자들은 AI와의 대화가 거짓된 음모론에만 영향을 미친다는 사실도 확인됐다. 즉, 워터게이트 사건과 같이 실제 역사적 사실로 밝혀진 음모에 대해서는 AI가 반박하지 않았고, 이런 사건에 대한 믿음도 약화시키지 않았다는 뜻이다. 이후 사람이 AI가 한 128개의 주장 샘플을 확인한 결과 99.2%가 사실이고 0.8%가 오해의 소지가 있었으며 거짓은 없었다.

이 연구에 대한 동반논평은 “음모론자의 주장에 반박할 수 있는 구체적이고 자세한 반대 증거를 자동으로 생성하는 기술을 대규모로 적용할 수 있다”고 밝혔다. 에케오마 우조가라 사이언스 부편집장은 “승리를 도난당했다는 잘못된 믿음은 2021년 1월 6일 반란을 시도하는 계기가 됐고, 독일의 코로나19 제한 조치가 사악한 의도에서 비롯된 음모론은 2020년 8월 베를린 의회의 폭동을 야기했다”며 “이 연구결과는 AI를 통해 갈등을 완화하고 사회에 도움이 될 수 있다는 것을 보여준다”고 말했다.

왜 이런 효과가 나타나느냐에 대해서는 여러 가설이 제시된다. AI는 인간 응답자와 달리 모든 유형의 정보에 즉시 접근할 수 있다는 것, 또 AI는 인간과 달리 정중하고 공감하는 방식으로 대화했다는 것이다. 다만 후속 연구에서 연구자들은 AI가 “예의를 갖추지 않고” 사실적 수정을 하도록 했고, 마찬가지로 효과가 있다는 것을 확인할 수 있었다.

이 연구를 진행한 매사추세츠 공과대학 슬론 경영대학원의 데이비드 랜드 교수는 “많은 음모론자들도 정확한 사실과 증거에 반응한다”며 “그들의 구체적인 신념과 우려를 직접적으로 언급해주기만 된다”고 말했다. 그는 이어 “생성형 AI가 가짜 뉴스를 퍼뜨릴 수 있다는 정당한 우려가 있는 반면, 우리 논문은 AI가 매우 효과적인 교육자가 돼 해결책 중 하나가 될 수 있다는 점도 보여준다”고 덧붙였다.

한계도 존재한다. 네덜란드 틸뷔르흐 대학의 벤체 바고와 툴루즈 경제대학의 장프랑수아 보네폰은 새로운 음모론에 대해서는 AI가 대응하기 어려우며, 과학기관을 신뢰하지 않는 이들을 AI와 상호작용하도록 유도하는 것 자체가 어렵다고 지적했다.