KAIST, 기업 의사결정 문제 거대언어모델로 해결

[이데일리 강민구 기자] 지난 수십 년간 전문 데이터 분석팀이 비싼 상용 데이터베이스 솔루션을 이용해 기업의사결정을 지원해야 했다. 그런 가운데 국내 연구진이 기업 내외부 문제를 거대언어모델로 풀어낼 가능성을 제시했다.

김민수 KAIST 전산학부 교수.(사진=KAIST)

한국과학기술원(KAIST)은 김민수 전산학부 교수 연구팀이 의사결정 문제, 기업 데이터베이스, 비즈니스 규칙 집합이 주어졌을 때 거대언어모델을 이용해 의사결정에 필요한 정보를 데이터베이스로부터 찾고, 비즈니스 규칙에 부합하는 최적의 의사결정을 도출할 수 있는 기술을 개발했다고 19일 밝혔다.

거대언어모델은 방대한 데이터를 학습했기 때문에 학습에 사용된 적이 없는 데이터를 바탕으로 답변할 때나 오래전 데이터를 바탕으로 답변하는 등 문제점들이 지적됐다.

이런 문제들을 해결하기 위해 거대언어모델이 학습된 내용만으로 답변하는 것 대신, 데이터베이스를 검색해 답변을 생성하는 검색 증강 생성 기술이 각광받는다.

특히 사용자의 질문이 복잡하면 다양한 검색 결과를 바탕으로 추가 정보를 다시 검색해 적절한 답변을 생성할 때까지 반복하는 반복적 RAG(IterativeRAG)라는 기술이 개발됐다.

연구팀은 기업 의사결정 문제가 GPT-3.5 터보에서 반복적 RAG 기술을 사용하더라도 정답률이 10% 미만에 이르는 고난도 문제임을 확인하고, 이를 해결하기 위해 반복적 RAG 기술을 한층 더 발전시킨 계획 RAG(PlanRAG)라는 기술을 개발했다.

계획 RAG(PlanRAG)는 기존 RAG 기술들과 달리 의사결정 문제, 데이터베이스, 비즈니스 규칙을 바탕으로 어떤 데이터 분석이 필요한지에 대한 거시적 차원의 계획을 먼저 만든뒤 그 계획에 따라 반복적 RAG를 이용해 미시적 차원의 분석을 한다.

기업의 의사결정권자가 어떤 데이터 분석이 필요한지 계획을 세우면 그 계획에 따라 데이터 분석팀이 데이터베이스 솔루션들을 이용해 분석하는 형태와 유사하다.

김민수 교수는 “기업 의사결정 성능을 평가할 수 있는 의사결정 질의응답 벤치마크를 새로 만들고, 해당 벤치마크에서 GPT-4.0을 사용할 때 기존 RAG에 비해 계획 RAG가 의사결정 정답률을 최대 32.5% 개선했다”며 “기업들이 복잡한 비즈니스 상황에서 최적의 의사결정을 사람이 아닌 거대언어모델을 이용해 내리는데 적용되길 기대한다”고 말했다.

연구 결과는 자연어처리 분야 국제 학회인 ‘북미컴퓨터언어학학회(NAACL)’ 에 지난 17일자로 발표됐다.

계획 RAG 대표 이미지.(자료=KAIST)