편향적인 AI…"해법은 인간과의 연결성" [2024 콘텐츠유니버스]

지난달 30일 경기도 고양시 일산 킨텍스 제2전시장에서 열린 ‘2024 콘텐츠유니버스 코리아’ 행사장에서 장동선 궁금한뇌연구소 대표가 ‘AI 리터러시 : AI의 미래에 뇌가 받게 되는 영향’을 주제로 강연하고 있다. (이데일리 노진환 기자)

[이데일리 이민하 기자] “AI가 세상의 기준이 되어선 안 됩니다. 어디까지나 인간이 주인이 돼야 합니다.”

유튜브 구독자 43만 명을 보유한 뇌과학자 장동선 궁금한뇌연구소 대표는 30일 ‘2024 콘텐츠유니버스 코리아’에서 “인간과 AI의 경계가 모호해지는 지금이 AI 리터러시(문해력)가 가장 중요한 시점”이라고 강조했다. 이날 장 대표는 ‘AI 리터러시: AI의 미래에 뇌가 받게 되는 영향’을 주제로 둘째 날 전문가 릴레이 강연의 포문을 열었다.

장 대표는 AI가 제공하는 정보의 편향성에 대해 경고했다. 딥러닝의 결과인 AI의 정보는 기존 데이터에 기반할 수밖에 없어 그 내용이 한쪽으로 치우칠 수 있기 때문이다. 기존 학습 테이터의 양 차이에 따라 AI가 인식하는 평균값이 달라질 수 있다는 얘기다.

그는 “흑인 의사가 백인 아이를 치료하는 장면을 AI가 잘 보여주지 않는 것은 인터넷에 그런 이미지가 적기 때문”이라며 “AI가 제공하는 정보를 비판적으로 받아들이지 않는다면 온라인에 만연한 차별과 혐오를 그대로 체화하게 된다”고 지적했다. 이어 장 대표는 이러한 문제가 고착할 경우 인간의 뇌가 AI의 틀 안에 갇히는 문제가 발생할 수 있다고 봤다. AI 기술에 대한 무조건적인 맹신은 자칫 단절되고 고립된 사회를 만들 수 있다고도 우려했다.

장 대표는 AI의 편향성을 극복할 수 있는 해법 중 하나로 ‘리터러시’를 꼽았다. AI 기술의 장단점을 제대로 이해하고 어떻게 활용할 것인지, 어떤 부분을 조심해야 하는지 명확한 기준과 방향을 설정해야 한다는 것이다.

그는 “기술 활용에 앞서 특장점에 대한 정확한 이해가 필요한 것은 AI도 결국 인간과 인간의 연결을 위한 도구이기 때문”이라며 “AI 시대에도 인간의 최대 능력치는 개인이 아닌 사회라는 테두리와 시스템 안에서 더 크게 발휘될 수 있다는 점을 명심해야 한다”고 강조했다.