“아프리카TV가 유해정보 온상?…실시간 AI필터링 통해 잡죠”

문준석 아프리카TV 유저커뮤니케이션팀장이 판교 아프리카TV 사무실 앞에서 포즈를 취하고 있다. (사진=아프리카TV)

[이데일리 김정유 기자] “유튜브와 트위치요? 유해정보 필터링 시스템 면에선 아프리카TV가 더 낫다고 자부합니다. 인공지능(AI) 필터링 기술부터 모니터링, 신고, 사후관리까지 이어지는 체계적인 시스템이 우리의 강점이죠.”

25일 판교 아프리카TV(067160) 사무실에서 만난 문준석 유저커뮤니케이션팀장은 “동종 플랫폼 중에서 우리 같이 24시간 콘텐츠 모니터링과 실시간 신고 대응을 하는 곳은 없다. AI 필터링 기술로 최대 97%까지 유해정보를 걸러낼 수 있다”며 이같이 강조했다.

아프리카TV는 국내 대표 라이브 스트리밍 플랫폼 업체다. 2006년부터 본격적으로 인터넷 방송 사업을 시작해 시장을 일궜다. 해외에선 유튜브와 트위치, 국내에선 하쿠나라이브 등이 동종 플랫폼으로 속한다.

일반인들이 직접 진행하는 인터넷 방송인만큼, 다소 자극적인 콘텐츠들이 많은 것도 사실이다. 일각에선 불법 광고, 선정적인 소재로 여전히 부정적인 시선으로 바라보기도 한다. 이는 아프리카TV가 유해정보 대응에 적극적으로 나선 이유이기도 하다.

아프리카TV는 ‘클린아티’라는 이름으로 유해정보를 거르고 있다. 60여 명의 인력을 통한 직접적인 모니터링과 AI 기술을 활용한 필터링 기술을 적절히 조합했다. 눈에 띄는 건 아프리카TV가 자체 개발한 AI 필터링 기술 ‘태권A’와 ‘태권S’다. ‘태권A’는 채팅에, ‘태권S’는 음란물 필터링에 초점이 맞춰져 있다.

문 팀장은 “수백만 건의 학습을 진행한 ‘태권S’는 자체적으로 음란물임을 인식하면 바로 운영자 관리 시스템에 알림을 주고, 썸네일도 확인할 수 있게 해준다”며 “예컨대 화면에서 살색이 차지하는 비중, 일부 신체의 범주가 많이 등장하는 경우 등을 집중적으로 본다. 이후 운영자가 직접 음란방송인지 여부를 확인하고 제재를 가하는 방식으로 이뤄진다”고 했다.

이어 “채팅을 걸러내는 ‘태권A’의 경우엔 과거 불법광고 등이 판을 쳤던 채팅방서 큰 역할을 해줬다”며 “불법광고 문구 등을 지속적으로 합습시켜 걸러낼 수 있는 키워드를 늘렸고, 이젠 채팅에 이어 방송채널 게시판 글까지 영역을 확장해 적용 중”이라고 덧붙였다.

현재 아프리카TV의 AI 필터링 기술의 정확도는 최대 97% 수준이다. 하루에 열리는 방송만 5000여건, 채팅 수만 해도 2000만건에 달하는 만큼 100% 다 걸러내는 건 쉽지 않다고 했다.

문 팀장은 “AI 필터링 기술을 점점 고도화시켜 영역을 더 확대하고, 학습능력과 정확도를 더 높여나갈 계획”이라고 밝혔다.

이 같은 기술로 아프리카TV의 유해정보 적발 건수도 지난해 260여건에서 올 상반기 60여건으로 줄었다. 10년 전만 해도 불법토토 광고 등으로 인한 고객 신고 및 문의가 고객센터 접수의 50%를 차지했지만 현재는 10%가 채 되지 않는다.

윤동환 아프리카TV 유저상담팀장은 “올해 초 방송통신위원회가 국내외 라이브 스트리밍 플랫폼의 유해정보 대응 현황을 조사한 적이 있었는데 오히려 방통위 쪽에서 ‘왜 이렇게 타이트하게 하느냐’며 역으로 묻기도 했다”며 “국내외 다른 플랫폼을 봐도 실시간 모니터링 인력이 우리 만큼 있는 곳이 없다”고 강조했다.

아프리카TV는 △24시간 모니터링 인력 △이용자들의 실시간 신고 체계 △AI 필터링 기술 △고객센터 사후 조치 △사전경고 등 크게 5가지를 내세우고 있다. 이 5개 시스템의 체계적인 흐름과 경찰과의 연계 등이 아프리카TV의 강점이다. 문 팀장은 “이런 체계적인 대응 체계는 유튜브, 트위치보다 우리가 더 우위에 있다고 자신한다”고 자평했다.

이 같은 대응은 BJ들을 위한 정책이기도 하다. 실제 과거 아프리카TV에서 활동하던 모 BJ가 올해 유튜브로 옮긴 이후 삶을 마감하는 사건이 있었다. 해당 BJ는 과거 아프리카TV에서도 안 좋은 선택을 했던 적이 있었는데, 당시 아프리카TV는 이를 선제로 감지해 심리치료를 지원하기도 했다.

윤 팀장은 “여러 상황에 처할 수 있는 BJ들을 위해서도 적극적인 실시간 대응이 필요하다”며 “우리가 사명감을 갖고 이 업무를 하는 이유”라고 말했다.

아프리카TV ‘태권S’가 방송 콘텐츠의 선정성 여부를 실시간으로 분석하는 모습. (사진=아프리카TV)