|
WSJ과 에델슨 교수는 사용자 연령을 13세로 설정한 새 계정을 만들어 인스타그램의 동영상 스트리밍 서비스인 릴스를 시청했다.
이 실험에서 인스타그램은 처음부터 여성이 매혹적인 춤을 추거나 가슴을 강조하는 자세를 취하는 등 다소 선정적인 콘텐츠가 포함된 다양한 동영상을 제공했다. 만약 사용자가 이러한 선정적인 동영상을 끝까지 시청하면 릴스는 더 자극적인 콘텐츠를 추천했다. 인스타그램의 릴스 알고리즘은 부분적으로 사용자가 다른 동영상보다 오래 머무르는 동영상을 기반으로 사용자의 관심사를 감지하고 유사한 콘텐츠를 추천하는 방식으로 작동한다.
성인 콘텐츠를 생산하는 계정의 영상은 가입 후 3분 만에 피드에 뜨기 시작했고, 릴스를 시청한 지 20분 정도가 지나자 성적인 콘텐츠에 대한 프로모션까지 받게 됐다. 일부는 게시물에 참여한 사용자에게 누드 사진을 보내주겠다는 제안을 하기도 했다. 여러차례 실험 중 또 다른 실험에선 계정이 생성된 지 30분 만에 항문성교에 관한 동영상이 연이어 제공되기도 했다.
메타는 지난 1월 청소년 계정에 성적인 내용의 콘텐츠가 등장하는 데 대한 비판이 일자 성적으로 민감한 콘텐츠에 대한 필터링을 강화하겠다고 밝혔지만, 이번 실험 결과 관련 문제가 제대로 시정되지 않은 것으로 파악된 것이다.
이에 인스타그램 소유주인 메타는 이 실험 결과가 청소년의 전반적인 경험을 대표하지 않는다고 일축했다.
앤디 스톤 메타 대변인은 “이번 실험은 10대들이 인스타그램을 사용하는 현실과 일치하지 않는 인위적인 실험이었다”며 “미성년자에게 부적절한 콘텐츠를 추천하는 것을 방지하기 위한 회사의 노력이 계속되고 있다”고 말했다.
이러한 문제는 과거 메타가 내부적으로 수행한 테스트에서도 발견됐다고 WSJ은 지적했다.
2022년 메타의 내부 보고서에는 10대 인스타그램 사용자들이 30대와 비교해 성적인 콘텐츠를 3배, 폭력적인 콘텐츠는 1.7배, 괴롭히는 콘텐츠는 4.1배 더 노출이 됐다고 밝혔다.
해당 보고서는 미성년자에 부적절한 콘텐츠가 제공되는 것을 방지하는 가장 효과적인 방법은 청소년에게는 완전히 분리된 별도의 추천 시스템을 구축할 필요가 있다고 제안했다. 그러나 메타는 내부의 제안을 추진하지 않았다고 전해졌다.