LLM이란 인터넷 등에서 수집된 방대한 자료를 사람이 이해할 수 있는 문장으로 바꾸어 사용자가 쉽게 이해할 수 있도록 정보를 제공하는 딥러닝 AI 모델이다. 현재 범용적으로 사용되고 있는 ‘챗 GPT’ 역시 LLM 기반 서비스다.
‘K-금융 특화 AI’는 메타의 거대 언어모델(LLama 3)를 기반으로 한국어 학습 능력은 물론 다양한 금융 지식 정보까지 탑재하고 있다. 현재까지 국내에서 공개된 대부분의 LLM은 80억개 수준의 파라미터를 갖추고 있지만 ‘K-금융 특화 AI’는 200억개의 파라미터를 활용할 수 있어 타 LLM 대비 한발 앞선 기술이 적용됐다.
‘K-금융 특화 AI’의 정확도는 91%를 기록해 범용 AI 대비 높은 정확도를 기록해 한국 금융에 대한 LLM 지식 수준을 한단계 더 끌어올렸다. 이는 한국은행 등 다양한 국책기관과 금융기관의 검증된 데이터만을 활용했기 때문인 것으로 분석된다.
특히 지난 7월 초 AI 모델 허브 플랫폼인 ‘Hugging Face’를 통해 ‘K-금융 특화 AI’의 LLM 모델과 2만여개의 금융지식 학습 데이터를 무상으로 공개했다. ‘K-금융 특화 AI’의 지속적인 고도화 작업을 통해 금융 AX 분야 발전에 이바지함은 물론, BC카드에 카드 운영을 맡기고 있는 금융사들을 위한 맞춤형 ‘금융 GPT’ 등을 통해 차별화된 서비스를 지속 제공해 나갈 계획이다.
강대일 BC카드 상무는 “글로벌 AI 시장에서도 경쟁할 수 있는 한국산 금융 지식 모델을 선보일 수 있게 되어 의미가 남다르다”면서 “앞으로도 KT의 AI 기술력을 적극 활용해 국내 여러 산업 분야에서 다양한 시너지를 낼 수 있도록 지속적으로 협업해 나갈 계획”이라고 전했다.