SKT, 유해 콘텐츠 자동 필터링 시스템 개발

[이데일리 박지환기자] SK텔레콤(017670)은 12일 필링크(064800)와 공동으로 UCC 등에서 자동으로 음란물을 판별, 이를 차단하는 필터링 시스템을 개발하고 본격 가동한다고 밝혔다.

동영상이나 사진의 유해성을 자동으로 판별·검수할 수 있는 ‘유해 콘텐츠 필터링 시스템’은 13일부터 UCC 공유 사이트 아이스박스(I’s Box)를 통해 국내 최초로 가동된다.

UCC나 동영상·사진 등을 공유하는 대부분의 사이트에서는 인력에 전적으로 의존하는 수동 모니터링 시스템을 가동하고 있다. 때문에 이번 시스템 개발로 비용이 크게 절감될 것으로 기대된다.

이번에 개발된 ‘유해 콘텐츠 필터링 시스템’은 UCC 사이트의 사용자가 유·무선을 통해 등록하는 최초 단계에서부터 자동으로 해당 콘텐츠의 내용을 단위별로 구분하여 특정 영역을 추출한 후, 색상·질감·패턴 알고리즘 분석을 통해 콘텐츠의 음란성 여부를 자동으로 검사한다.

또 유해·무해·유보’ 등 3가지로 판정을 내리면서 무해한 콘텐츠만 등록될 수 있게 된다.

특히, 이 시스템은 유해성 판단의 정확성을 높이기 위해 ‘신체 부위별 패턴 분석’을 추가적으로 진행하는 동시에 ‘저화질 영상 알고리즘 분석’을 별도로 진행한다.

또 이 시스템에는 학습 알고리즘이 적용돼 음란 동영상 샘플로부터 추출한 패턴을 시스템에 입력하면, 유사한 패턴을 가지는 동영상을 원천 차단할 수 있다.

때문에 등록하는 콘텐츠가 방대해질수록 유해성 판단 패턴 역시 많아져 정확성이 높고, 저비용 고효율의 콘텐츠 검수가 가능하게 된다.

홍성철 C&I기술원장은 “음란 콘텐츠를 자동으로 검수하는 기능이 인터넷 사이트에 최초로 적용되는 사례인 만큼 앞선 기술로 고객 보호에도 앞장서며, 기업의 사회적 책임을 다하겠다.”고 밝혔다.

한편 SK텔레콤은 ‘유해 콘텐츠 필터링 시스템’에 적용된 ‘동영상 유통 환경에서 유해 동영상의 다단계 차단 시스템 및 방법’ 및 ‘동영상 부분 선별 시스템 및 방법’ 등 2건에 대해 특허 출원중이다.

▶ 관련기사 ◀
☞SKT, 감성 커뮤니케이션 서비스 'Q메시지' 출시
☞더위 먹은 코스피, 1550선 하회..악재의 귀환
☞SKT, T링 서비스 허용..동의없이 제공엔 과징금