AI를 행정에 이용할 때 주의 점은?…“기계사용 반드시 밝혀야”

[이데일리 김현아 기자]

제리 카플란 스탠퍼드대 교수가 지난 14일부터 15일까지 수원컨벤션센터에서 열린 경기도와 경기콘텐츠진흥원 주최 ‘인공지능과 확장된 문화기술의 세계’를 주제로 열린 ‘2023년 문화기술 콘퍼런스’에서 챗GPT 같은 생성형 인공지능을 행정에 접목했을 때 주의점 등에 대해 강연하고 있다. 사진=경기도 제공

장 가브리엘 가나시아 소르본느 대학 교수. 고등과학원 제공

챗GPT 같은 생성형 인공지능(AI)를 행정에 접목할 때 주의할 점은 뭘까. 굳이 민원실에 전화를 걸지 않아도 채팅창에 글로 물으면 적절한 답변을 내놓는 생성형AI를 행정에 적용하려는 움직임이 일고 있다.

경기도만 해도 지난 3월 21일 ‘경기지피티(GPT) 추진 계획’을 발표했다. AI 상담원이 주 1회 서비스 대상 노인의 휴대전화로 전화를 걸어 자연스런 대화를 나누는 ‘경기도 인공지능 노인말벗서비스’, 발달장애인에게 예술 창작에 기회를 제공하는 ‘인공지능 창작단’, 2026년까지 인공지능에 기반해 도민 상담업무를 처리하는 120경기도콜센터의 단계적 구축을 추진하고 있다.

그런데 AI를 행정에 이용하는 것은 두려운 일이기도 하다. 바로 생성형AI라면 100% 해결하기 어려운 ‘환각(hallucination)’때문이다. 생성형 AI는 뱃속의 내용물을 확률적으로 토해내는 것이어서, 현재 기술 수준으론 100% 완벽한 답변은 불가능하다. 그러면 행정 같은 공공서비스 적용시 어떻게 해야할 까.

기계에 모든 걸 맡기지 말아야, 두려워 할 필요는 없어

지난 14일부터 15일까지 수원컨벤션센터에서 열린 경기도와 경기콘텐츠진흥원 주최 ‘인공지능과 확장된 문화기술의 세계’를 주제로 열린 ‘2023년 문화기술 콘퍼런스’에서는 이 같은 문제에 대한 글로벌 석학들의 조언이 이어졌다.

행사에 참석한 장 가브리엘 가나시아(Jean-Gabriel Ganascia) 소르본느 대학 교수는 경기도의 인공지능 도정 활용에 대해 “우선 기계를 사용해서 행정을 하고 있다는 것을 반드시 밝혀야 한다. 개인정보 침해를 조심해야 하고, 오답을 마치 정답처럼 말하는 환각(Hallucination) 문제를 경계해야 한다”며 “기계가 자동으로 무엇을 계속 생성하더라도 모든 것을 맡기지 말고, 대응 인력을 제대로 활용해야 한다”고 조언했다.

그러면서 “생성형 인공지능을 두려워하기보다 이용할 수 있어야 한다”며 “인공지능은 생성형 인공지능에 국한되지 않으며, (경기도의 문화기술 콘퍼런스에서 다루는) 문화산업 곳곳에 활용할 수도 있다”고 덧붙였다.

장 가브리엘 가나시아 교수는 유럽 AI 윤리 연구의 거두다. 그는 한국에 2017년 소개된 ‘특이점의 신화: 인공지능을 두려워해야 하는가’ 외에도 ‘영혼을 가진 기계’, ‘인공지능’, ‘인공지능: 프로그래밍된 지배를 향해’, ‘인지과학’ 등 다수의 저서를 냈다.

제리 카플란(Jerry Kaplan) 스탠퍼드대 교수도 “예전에는 인간만이 범용 지능을 보유하고 있었다면 이제는 그렇지 않다는 불편한 사실을 받아들여야 한다”며 “인간보다 지능적인 생성형 인공지능은 독자적인 목표나 열망이 없다는 한계가 있지만, 이를 활용해 더 적은 노력으로 생산성을 높이는 방법을 배움으로써 위기가 아닌 기회로 받아들이면 좋겠다”고 강조했다.

지난 14일부터 15일까지 수원컨벤션센터에서 열린 경기도와 경기콘텐츠진흥원 주최 ‘인공지능과 확장된 문화기술의 세계’를 주제로 열린 ‘2023년 문화기술 콘퍼런스’. 사진=경기도 제공

AI시대 인재는 자신만의 철학과 창의성

오후 기조세션에서는 국내 생성형 인공지능 최전선에 있는 대기업들의 발표와 대담이 이어졌다.

네이버클라우드 윤영진 인공지능 비즈니스 리더는 “거대언어모델(LLM) 생성형 인공지능가 활발해지고 있지만 생성형 인공지능의 가치는 점차 일반화될 것”이라며 “이를 활용해 새로운 서비스를 만드는 사람들의 역할이 중요하다”고 밝혔다.

LG 인공지능 연구원의 김승환 비전랩장은 “인공지능은 단방향의 기술이 아니라 인공지능을 통해 생성된 결과물을 작가와 상호작용하며 함께 완성해나가는 양방향적 기술이라고 할 수 있다”며 “4차 산업혁명과 디지털전환에 생성형 인공지능가 큰 역할을 할 것”이라고 말했다.

한국마이크로소프트 이건복 애저 개발자리드는 “인공지능이 인간의 창조성을 낮추거나 단순하게 만들기보다는 기존의 기술과 결합하면서 인간의 창의성을 폭발시키고 기존에 없던 창작물들이 나올 것이라 예측한다”면서 “이러한 생성형 인공지능 활성화를 위해서는 도출된 데이터를 공유·관리하고 안전하게 사용할 수 있는 문화적 변화를 병행해야 한다고”고 피력했다.

또한 3사의 전문가들은 ‘어떤 스타트업과 함께 일하고 싶은가’ 또는 ‘인공지능 시대 기업이 원하는 인재의 역량은 무엇인가’라는 질문에, 공통적으로 ‘자신만의 철학’과 ‘창의성’을 꼽았다.

이번 행사에는 관련 산업 종사자 및 학생 등 총 1천506명(현장 참석자 375명, 온라인 참여자 1천131명)이 참여했다.