카카오, AI로 뉴스 욕설 댓글 3분의 1로 줄였다

[이데일리 김국배 기자] 카카오(035720)는 포털 다음 뉴스 댓글 서비스 등에 인공지능(AI) 기반 댓글 필터링 기능 ‘세이프봇’을 적용한 결과 욕설·비속어가 포함된 댓글이 3분의 1 수준으로 줄었다고 14일 밝혔다.

세이프봇은 욕설과 비속어를 음표로 치환하는데, 월평균 음표 처리된 댓글 수가 세이프봇을 적용하기 전인 2020년 하반기 대비 2021년 53.7%, 2022년 63.8% 감소한 것이다. 전체 댓글 중 이용자가 신고한 욕설 댓글 비중도 2020년 하반기 4.2%에서 올해는 2.4%로 줄었다. 이용자 신고로 삭제된 욕설 댓글 역시 작년 73.6%, 올해 91.7%로 줄어들었다. 회사 측은 “세이프봇의 능동적 조치로 댓글 문화가 점차 성숙해진 결과”라고 분석했다.

2017년 ‘욕설 음표 치환 기능’을 적용한 카카오는 이 기능을 고도화해 2020년 12월 시범 적용한 뒤 지난해 12월부터 본격 도입했다. 현재 포털 다음과 카카오톡 뷰 탭 뉴스 댓글 서비스에 적용 중이다. 카카오는 내년 증오 발언을 판별하는 학습 데이터를 구축해 내년 상반기 세이프봇에 적용할 계획이다.

김종한 카카오 다음사업개발실장은 “카카오의 AI 기술이 온라인 공론장인 뉴스 댓글 서비스의 건강성을 높인 것으로 분석된다”며 “앞으로도 이용자가 안전하고 쾌적하게 서비스를 이용할 수 있도록 관련 기술을 고도화할 것”이라고 말했다.