네이버와 KAIST, 대형언어모델로 추천 기술 42% 향상

[이데일리 김현아 기자] KAIST(총장 이광형)와 네이버가 공동으로 연구한 대형언어모델(LLM) 기반 추천 시스템이 주목받고 있다. 이번 연구는 기존 추천 시스템의 한계를 극복하며, 42% 향상된 성능을 보였다.

박찬영 KAIST 산업및시스템공학과 교수

김세인 박사과정

강홍석 학사과정

KAIST 산업및시스템공학과 박찬영 교수 연구팀은 17일 네이버와 협력하여 사용자의 소비 이력과 상품 텍스트 정보를 활용한 대형언어모델 기반 추천 시스템을 개발했다고 발표했다.

이 시스템은 기존 방법에 비해 학습 속도가 253%, 추론 속도가 171% 향상되었으며, 평균 12%의 성능 향상을 이뤘다. 특히, 사용자의 소비 이력이 제한된 퓨샷(Few-shot) 상품 추천에서는 평균 20%, 다중-도메인(Cross-domain) 상품 추천에서는 42%의 성능 향상을 보였다.

기존 연구 기반 추천

기술의 차별점

기존 대형언어모델을 활용한 추천 기술은 사용자가 소비한 상품 이름들을 텍스트 형태로 나열해 대형언어모델에 주입하는 방식이었다.

협업 필터링 기반 추천 시스템(CF-RecSys)은 소셜 미디어와 전자 상거래 플랫폼에서 사용자의 경험을 향상시키는데 지속적으로 큰 성과를 보이고 있다. 그러나, CF-RecSys는 사용자와 상품 간의 상호작용 정보가 적은 콜드 시나리오에서는 적절한 추천을 하는데 어려움을 겪고 있다.

이를 해결하기 위해 최근 연구들은 사전에 학습된 모달리티 인코더나 대형 언어 모델(LLMs)을 기반으로 사용자와 상품의 모달리티 정보(예: 상품에 관한 텍스트나 이미지)를 활용하는 것에 초점을 맞추고 있다.

유사 사용자, 유사 상품을 이용한 추천 방식

협업 필터링 기반 지식 주입해 정확한 상품 추천

이러한 연구들은 콜드 시나리오에서는 효과적이지만, 협업 필터링 기반 지식이 부족하여 특정 상황에서는 전통적인 협업 필터링 모델보다 성능이 떨어지는 것으로 나타났다. 이에 따라, 전반적인 모든 상황에서 추천을 잘 할 수 있는 모델을 연구 개발하는 것이 중요하다.

이에 반해, KAIST 연구팀은 상품 제목과 설명뿐 아니라 협업 필터링 기반 지식을 대형언어모델에 주입해 정확한 상품 추천을 가능하게 했다. 이 기술은 대형언어모델의 추가 학습 없이도 높은 추천 성능을 유지한다.

박찬영 연구팀에서 개발한 모델의 개요

상품을 사용자들에게 추천하는 과정에서 상품의 제목과 설명뿐만 아니라 상품과 사용자 사이의 상호작용 정보도 중요한 역할을 한다.

예를 들어, 특정 사용자 A가 체크무늬 옷을 많이 구매했고, 사용자 B가 체크무늬 옷과 청바지를 많이 구매했을 때, 사용자 A에게 청바지를 추천하는 방식이 있다. 이러한 사용자-상품 상호작용 정보는 추천 문제를 학습하지 않은 대형언어모델이 추출할 수 없다.

따라서, 사전에 학습된 전통적인 협업 필터링 모델을 기반으로 사용자-상품 상호작용 정보를 추출하고 이를 대형언어모델에 추가적인 학습 없이 전달하는 방식을 설계했다.

그 결과, 기존 연구에 비해 학습 속도는 253%, 추론 속도는 171%, 상품 추천 성능은 평균 12% 향상됐다. 또한, 사용자의 선호 장르를 맞추는 별개의 문제에서도 기존 연구보다 뛰어난 성과를 보였다.

이번 연구는 데이터마이닝 분야 최고권위 국제학술대회 ‘KDD 2024’에서 발표될 예정이다.

김동현 박사 (네이버)

양민철 박사(네이버)

추가 학습없이 추천 분야 확장

본 연구는 대형언어모델에 대한 추가적인 학습 없이 추천 분야로 확장할 수 있는 기술이다. 추천 과정에서 중요한 사용자-상품 상호작용 정보를 대형언어모델에 효과적으로 전달하여 추천 성능을 향상시킬 수 있으며, 새로 생성되는 상품이나 신규 사용자들에 대해서도 강건하게 성능을 유지할 수 있다.

연구를 지도한 박찬영 교수는 “이번 기술은 대화형 추천 시스템이나 개인화 상품 정보 생성 등 다양한 고도화된 추천 서비스를 등장시킬 수 있을 것”이라며, “이미지, 텍스트, 사용자-상품 상호작용 정보를 모두 사용하는 멀티모달 추천 방법론으로 발전할 수 있을 것”이라고 전했다.

KAIST 산업및시스템공학과 김세인 박사과정 학생과 KAIST 전산학부 강홍석 학사과정(졸업) 학생이 공동 제1 저자로, 네이버의 김동현 박사와 양민철 박사가 공동 저자로 참여했다. 이번 연구는 네이버 및 과학기술정보통신부의 재원으로 한국연구재단의 지원을 받아 수행됐다.