AI 필터링 시스템 자랑한 배민·당근마켓 ‘망신’

AI필터링 시스템 자랑한 배민당근 망신 [그래픽=이데일리 김정훈 기자]

[이데일리 김보경 기자]“인공지능(AI)기술을 활용한 리뷰 검수 기능으로 올 상반기에만 약 7만 건의 리뷰 조작 의심 사례를 적발했다.”(배달의민족)

“2017년부터 실시간 AI 검수를 진행해 거래 금지 품목 게시글을 노출되지 않도록 하고 있다.”(당근마켓)

최근 온 국민의 공분을 산 ‘덮죽’과 ‘신생아 거래’ 사건. 배달 애플리케이션(앱) 1위 배달의민족(배민)과 1000만 명이 사용하는 중고거래 앱 당근마켓이 자랑하던 AI가 제기능을 하지 못했다. 거래 금지 품목을 걸러내지 못했고, 리뷰 조작 정황에 대한 파악도 전혀 되지 않으면서 플랫폼의 신뢰도를 높이기 위한 기술적 보완이 필요하다는 지적이 나온다.

덮죽 사건은 방송에 나온 경북 포항의 한 식당 메뉴를 베낀 프랜차이즈 업체가 비난을 받고 결국 사과문을 올리며 사업을 접겠다고 발표해 일단락이 된 사건이다. 짧은 기간이지만 배달전문업체로 운영했기 때문에 매장도 없는 이 ‘덮죽덮죽’이라는 프랜차이즈를 소비자들은 배달 앱 배민에서만 찾아볼 수 있었다.

동일한 아이디로 작성된 리뷰 (사진=배달의민족 캡처)

리뷰 조작 의혹 제기 후 사라진 리뷰 (사진= 배달의민족 캡처)

매장 주소도 숍인숍 리뷰 조작도 몰랐던 배민

표절 논란과 프랜차이즈 대표의 사과문이 나오는 그 당시에도 배민에는 음식이 맛있다는 리뷰가 달려있었다. 이후 덮죽덮죽 강남구청점 사업자 주소지가 ‘족발의 달인’ 강남구청점과 같고 대표도 같은 것으로 알려졌다. 그리고 누리꾼들에 의해 두 업체에 동일한 아이디로 리뷰가 반복적으로 작성된 사실이 알려졌다. 이후 양 업체에 함께 리뷰를 올린 아이디의 리뷰가 삭제됐다. 게시자에 의해 리뷰가 삭제됐다는 흔적과 리뷰에 대한 사장님의 답글만 남은 이상한 모양새였다.

이데일리는 취재를 위해 해당 점포를 찾았지만 사업자 주소지에 해당 점포는 없었다. 대체 어디서 만들어진 음식이 배달이 되고 맛있다는 리뷰가 달리는 것인지. 배민에 문의했다.

배민에서도 해당 업체에서 실제로 음식이 나오는 주소를 찾는데 시간이 걸렸다. 배민에 등록된 주소는 매장 주소가 아니라 사업자 등록상의 주소였기 때문. 실제 배달 건을 추적해 근처의 다른 매장에서 두 프랜차이즈가 숍인숍(shop in shop) 형태로 배달이 나가고 있음을 확인했다.

배민은 사업자 주소만 등록하면 되기 때문에 매장이 어디에 있는지 확인이 안 돼도 문제가 없으며, 이런 식으로 운영하는 매장들이 꽤 된다고 답했다. 소비자들은 배민이라는 플랫폼을 믿고 음식을 시키지만, 배민에는 음식이 만들어지는 장소도 없이 허위 리뷰만 달려 있었던 셈이다.

배민은 지난해 리뷰 검수 전담 조직을 신설하고, AI 기술을 활용한 리뷰 검수 기능을 도입해 올 상반기에만 약 7만 건의 의심 사례를 적발했다고 밝힌 바 있다. 리뷰 자동 탐지 시스템으로 주문 대비 리뷰 작성률이 지나치게 높거나 단기간에 리뷰가 급증한 음식점을 골라낸 후 검수 전담 인력이 직접 리뷰를 세밀하게 살피는 방법이다. 하지만 덮죽덮죽처럼 사업 초기, 숍인숍 형태로 영업하는 곳의 리뷰 조작은 걸러내지 못한 한계점을 드러냈다.

(사진=당근마켓 캡처)

◇당근마켓 “AI도 이런 일은 처음이라…”

당근마켓도 마찬가지다. ‘36주 된 신생아를 20만 원에 입양 보낸다’는 내용의 글이 버젓이 게시됐다. 이용자들의 신고가 들어가면서 해당 글은 8분 만에 내려졌지만 이 과정에서 당근마켓의 AI 필터링 기술은 전혀 작동하지 않았다.

당근마켓은 반려동물이나 주류, 가품(짝퉁) 등 거래 금지 품목을 AI 모니터링 시스템으로 걸러내고 있다고 밝힌 바 있다. 거래 금지 품목에 대해 키워드로도 걸러내고 AI가 이미지를 분석해 확인한다는 것. 또 이용자들의 신고로도 대응하고 이런 결과가 쌓여 필터링이 더욱 강화된다고 설명했다.

하지만 이번 사건은 AI가 전혀 학습하지 못한 케이스였다. 신생아를 거래하겠다는 것이 처음이라 AI가 인지하지 못했고, ‘아기’, ‘36주’는 아기용품 판매 등에서 흔히 쓰는 단어이기 때문에 키워드 필터링이 되지 못했다는 것. 당근마켓 관계자는 “이런 경우에 대한 대응 강도를 높이기 위해 내부 기술팀 등에서 논의하고 있다”고 말했다.