방통위, AI 이용자 보호법 제정 추진…"최소한의 규제는 필요"

[이데일리 임유경 기자] 방송통신위원회가 인공지능(AI) 기술 확산에 맞춰 산업 발전과 이용자 보호가 균형을 이룰 수 있도록 ‘AI 이용자보호법’ 및 ‘생성형 AI 이용자 보호 가이드라인’을 만든다.

방통위는 14일 이 같은 내용이 담긴 2025년도 업무계획을 발표했다.

방통위는 ‘AI 이용자보호 종합계획’을 수립할 방침이며, 그 일환으로 이용자 보호를 위한 필요 최소한의 관리체계로서 ‘생성형 AI 이용자보호 가이드라인’과 ‘AI 이용자보호법’ 제정을 추진한다.

김태규 방송통신위원장직무대행이 13일 정부서울청사에서 열린 ‘2025년 주요현안 해법회의’ 사전 합동브리핑에사 발언하고 있다.(사진=방통위)

생성형 AI 이용자보호 가이드라인에는 서비스 설명가능성을 보장하고, 필터링·신고 등 기술적·관리적 조치 등의 구체적 방법 제시하도록 하는 내용이 포함된다.

이와 관련해 방통위 관계자는 “사용자가 생성형 AI 서비스를 이용할 때 어떤 데이터가 활용돼 이 같은 결과물이 생성된 것인지 등 기본적인 서비스의 구동 방식을 인지할 수 있도록 보장하는 내용이 담길 예정”이라고 설명했다. 또 “불법적인 콘텐츠는 아니지만 혐오적, 성차별적, 성희롱적인 결과물이 생성되지 않도록 최소한의 필터링 장치를 마련하고 사용자가 신고할 수 있는 체계도 갖춰야 한다는 내용도 담길 것”이라고 전했다.

AI 이용자보호법은 지난해 국회를 통과한 ‘AI 기본법’을 이용자 보호 측면에서 보완하기 위해 추진되는 제정법으로, AI 유형별 차등규제, 이용자보호업무평가, 분쟁조정제도 등 규정이 담길 예정이다. 방통위 관계자는 “사용자가 AI 서비스를 이용하는 과정에서 권익이 충분히 보장되는지를 평가해 제도화하고, 사용자가 AI 서비스 이용 시 어떤 피해를 입었을 때 소송을 하지 않아도 분쟁조정을 통해 해결할 수 있도록 분쟁조정기구의 두는 근거도 마련할 방침”이라고 설명했다.

아울러 방통위는 생성형 AI로 인한 위험요소를 신고·검증하고 이를 공유할 수 있는 이용자 참여형 포털을 구축·운영한다.

김태규 방통위원장 직무대행은 “AI 산업은 규제보다 진흥이 더 우선시돼야 하는 것은 맞지만 최소한의 이용자 가이드라인이나 피해자 보호조치 없이 산업 진흥만 강조되는 경우에는 상상하지 못할 피해가 생겨날 수 있다”면서 “방통위 AI 이용자보호 종합대책은 그러한 선에서 최소한의 규제를 마련하기 위한 것”이라고 설명했다.