KAIST, 기업 의사결정 거대언어모델 해결 가능성 제시

계획 RAG 대표 이미지. ⓒKAIST

한국과학기술원(KAIST)은 기업 의사결정을 거대언어모델로 해결할 수 있는 기술을 개발했다고 19일 밝혔다.

KAIST에 따르면 김민수 전산학부 교수 연구팀이 의사결정 문제, 기업 데이터베이스, 비즈니스 규칙 집합 세 가지가 주어졌을 때 거대언어모델을 이용해 의사결정에 필요한 정보를 데이터베이스로부터 찾고, 비즈니스 규칙에 부합하는 최적의 의사결정을 도출할 수 있는 기술(PlanRAG)을 개발했다. 이는 기존 최신 기술 대비 고난도 기업 의사결정 문제 정답률을 최대 32.5% 개선하는 것으로 분석됐다.

연구팀은 기업 의사결정 문제가 GPT-3.5 터보에서 반복적 RAG(IterativeRAG) 기술을 사용하더라도 정답률이 10% 미만에 이르는 고난도 문제임을 보이고, 이를 해결하기 위해 반복적 RAG 기술을 한층 더 발전시킨 계획 RAG라는 기술을 개발했다.

계획 RAG(PlanRAG)는 기존 RAG 기술들과 다르게 주어진 의사결정 문제, 데이터베이스, 비즈니스 규칙을 바탕으로 어떤 데이터 분석이 필요한지에 대한 거시적 차원의 계획을 먼저 생성한 후, 그 계획에 따라 반복적 RAG를 이용해 미시적 차원의 분석을 수행한다.

이는 기업 의사결정권자가 어떤 데이터 분석이 필요한지 계획을 세우면, 그 계획에 따라 데이터 분석팀이 데이터베이스 솔루션들을 이용해 분석하는 형태와 유사하다.

다만 이러한 과정을 모두 사람이 아닌 거대언어모델이 수행하는 것이 커다란 차이점이다. 계획 RAG 기술은 계획에 따른 데이터 분석 결과로 적절한 답변을 도출하지 못하면, 다시 계획을 수립하고 데이터 분석을 수행하는 과정을 반복한다.

김민수 교수는 “지금까지 거대언어모델 기반으로 의사결정 문제를 푼 연구가 없었던 관계로, 기업 의사결정 성능을 평가할 수 있는 의사결정 질의응답(DQA) 벤치마크를 새롭게 만들었다”며 “해당 벤치마크에서 GPT-4.0을 사용할 때 종래 반복적 RAG에 비해 계획 RAG가 의사결정 정답률을 최대 32.5% 개선됐다. 이를 통해 기업들이 복잡한 비즈니스 상황에서 최적의 의사결정을 사람이 아닌 거대언어모델을 이용 내리는데 적용되기를 기대한다”고 말했다.