사기성 광고 기승에…구글, '1분마다 1만개' 불법광고 삭제

[이데일리 한광범 기자] 딥페이크를 활용한 유명인 사칭 광고가 최근 기승을 부리고 있는 가운데, 구글이 지난해 사기성 광고 등 악성 광고를 1분에 1만건 이상 삭제한 것으로 나타났다. 거대언어모델(LLM) 적용을 통해 악성 광고 탐지·차단을 고도화하고 있는 구글은 선거의 해인 올해 광고를 통한 허위정보 확산을 위해 다양한 정책을 마련했다.

구글. (사진=REUTERS)

구글은 27일 구글 플랫폼 악용을 방지하기 위한 지난해 노력과 성과를 담은 ‘2023 광고 안전 보고서(Ads Safety Report)’를 발표했다. 이번 보고서에 따르면 구글이 지난해 정책 위반을 이유로 삭제나 차단한 광고는 ‘55억건 이상’으로 매 1분마다 1만건 이상을 삭제하는 수준이었다. 이 같은 수치는 2022년도 삭제·차단건수 ‘52억건 이상’으로 늘어난 수치다.

지난해 삭제·차단한 광고 중 기만적이거나 사칭 사기성 내용을 담고 있던 광고는 2억650만개였다. 멀웨어 확산 등 광고 네트워크 남용 방지 정책을 위반해 삭제·차단된 광고는 10억개 이상이었으며, 금융 서비스 정책을 위반한 광고는 2억7340만개였다. 삭제·차단되지 않았더라도 일부 사용자에게만 노출되도록 조치된 광고도 69억개 이상이었다.

단순 광고에 대한 제재에 그치지 않고, 광고주 계정이나 게시자에 대한 제재도 강화됐다. 정책 위반을 이유로 정지한 광고주 계정은 1270만개로 전년(670만개) 대비 2배 가까이 늘었다. 또 광고 게재를 차단하거나 제한한 퍼블리셔 페이지는 21억개 이상으로 전년(15억개 이상) 대비 크게 증가했다. 또 광범위한 수준의 조치가 취해진 퍼블리셔 사이트도 39만5000여개로 전년(14만3000여개) 대비 3배 가까이 늘었다.

구글의 이 같은 불법광고 탐지 고도화에는 생성형 인공지능(AI)과 LLM 기술 활용 확대가 영향을 끼쳤다. 특히 지난해 처음 악성 광고 탐지에 LLM을 도입한 구글은 이를 통해 지난해에만 불법 금융서비스 광고, 성적 콘텐츠, 허위광고나 도박 관련 광고 총 4500만개를 삭제했다.

악성광고 탐지시 LLM 추론 기능, 머신러닝 한계 극복

구글은 LLM이 정상적인 콘텐츠와 미세한 사기성 콘텐츠 사이의 뉘앙스를 보다 정확하게 포착할 수 있으며, LLM의 고급 추론 기능을 통해 복잡한 정책들을 더욱 큰 규모로 집행할 수 있다고 설명했다. 기존에도 AI 기반 머신러닝을 악성 광고 탐지·차단에 활용했지만 학습을 위해 매우 많은 수의 위반 콘텐츠 사례가 필요하다는 단점이 있었다. 이와 달리 LLM의 경우 고급 추론 기능을 통해 단점을 극복했다는 설명이다.

구글 2023 광고 안전 보고서 표지. (구글 제공)

실제 지난해 조치를 취했던 광고 노출 페이지 약 21억개 중 머신러닝과 LLM을 통해 탐지·유형화해 조치를 취한 비중이 3분의 2에 달했다. 지난해 출시한 범용 AI모델 제미나이를 적극 활용할 예정인 만큼 향후엔 더욱 정교하고 신속한 집행이 이뤄질 수 있는 시스템이 마련됐다고 설명했다.

던컨 레녹스 구글 광고 안전 및 정보보호 부문 부사장은 “악성 이용자들이 (불법 광고를) 시도할 때마다 LLM을 통해 빠르게 파악·차단이 가능할 수 있게 됐다”며 “금융산업의 트렌드가 빠르게 바뀌다 보니 합법과 허위를 판단하기 어려워지고 있어 LLM이 더 중요한 역할을 하고 있고, 앞으로 더 발전할 것”이라고 강조했다.

구글은 이번 보고서를 통해 최근 급격히 늘고 있는 스캠(Scam, 사기) 광고에 빠르게 대응하기 위해 광고 정책을 업데이트하고, 탐지 기술 고도화하고 있다고 전했다. 생성형 AI 기술을 악용한 딥페이크 광고가 더욱 고도화되고 있는 것에 대응해 이들 광고의 탐지·차단에도 더 고도화된 기술을 활용하고 있다.

특히 지난해 하반기부터 우후죽순 생겨나고 있는 유명인 사칭 광고에 대응하기 위해 전담팀을 구성해 대응하고 있다. 악성 광고주의 행동 패턴을 정확히 파악하고 자동화된 집행 모델을 훈련시켜 유사 광고를 탐지한 후 대규모로 광고 삭제 조치에 나서고 있는 것이다. 또 관련 계정도 신속히 정지하고 있다.

선거 광고 위해선 신원확인·자금출처 명백히 해야

지난해 11월엔 ‘잘 알려지지 않은’ 광고주나 ‘신뢰할 만한 과거 내역이 없는’ 광고주에 대해서는 ‘광고주 파악 기간(get-to-know-you period)’을 적용해 광고주의 도달 범위를 제한하는 정책을 새로 도입했다. 광고주 파악기간 동안 광고주와 광고주 추천 브랜드 간 관계가 불분명한 경우엔 광고 노출을 제한한다.

(구글 제공)

올해는 한국 국회의원 총선거, 미국 대선 등 전 세계적으로 주요 선거가 열리는 해인만큼 구글은 광고를 통한 가짜뉴스 차단에 나선다. 구글은 광고주가 선거광고를 해당 지역이나 국가에 할 수 있는 자격이 있는지에 대한 검증을 진행한다. 또 자금 출처에 대해서도 공개하도록 했다.

이 같은 인증과 신원확인이 완료돼야만 선거 광고 게재가 가능하다. 구글은 지난해 5000개 이상의 신규 선거 광고주에 대한 검증을 실시해 검증을 통과하지 못했거나 검증을 완료하지 않은 광고주의 선거광고 730만건 이상을 삭제했다.

생성형 AI 시대 도래로 딥페이크를 활용한 선거 광고에 대해선 엄격한 규제를 도입해 놓은 상태다. 설령 속이려는 의도가 없는 광고라도 하더라도 사람들이 진짜인지 아닌지 추측을 자아내지 않도록 해야 한다는 원칙 하에 지난해 합성 콘텐츠 포함 선거 광고에 대한 공개 요건을 테크 기업 중 최초로 도입했다.

던컨 레녹스 부사장은 “구글은 민주적 절차에 대한 산뢰나 참여를 저해할 수 있는, 선거에 대한 명백한 허위 주장을 조장하는 광고에 대한 정책 집행을 지속적으로 시행해 왔다”며 “지난해 65만개 퍼블리셔 페이지에서 광고 게재를 차단했고, 신뢰할 수 없는 주장 정책을 위반한 3000만개 이상의 광고를 삭제했다”고 밝혔다.

사기성 광고가 지속적으로 진화함에 따라 구글은 지난해에만 광고 및 퍼블리셔 정책을 31회 개정해 빠르게 대응해 왔다. 올해도 정책과 탐지기술 고도화 등에 대한 지속적 업데이트를 통해 대응력을 높일 예정이라고 전했다.