KISTI, 생성형 언어 모델 KONI 개발

[이데일리 강민구 기자] 한국과학기술정보연구원(KISTI)은 20일 과학기술데이터에 특화되고, 출연연, 공공기관에서 활용하기 쉬운 생성형 거대 언어 모델(LLM)인 KONI(KISTI Open Natural Intelligence, 한글명 고니) 13b를 개발했다고 이날 밝혔다.

생성형 언어 모델 KONI(고니) 심볼.(자료=KISTI)

ChatGPT와 같은 LLM 기술은 다양한 사용자의 질의에 대해 답변을 할 수 있다는 장점이 있어 작년 11월 출시부터 관심을 받았다. 국내에서도 네이버, KT, LG AI 연구원 같은 대기업들을 중심으로 여러 LLM들이 개발됐다.

하지만, 민감 정보나 보안 등의 문제를 중요시하는 출연연, 공공기관이나 비용 문제로 도입을 망설이던 중소기업은 이들을 활용하는데 문제점을 보여왔다. 이러한 문제점을 해결하기 위해 KISTI는 보안이나 정보 유출에 안전하면서도, 기존 LLM이 갖는 환각 현상을 최소화하고, 과학기술·산업 분야에 특화된 모델 개발이 쉬운 KONI를 개발했다.

KONI는 LLM에서 일반적으로 발생하는 환각 현상을 최소화하기 위해 기존 정보 서비스 시스템이 보유한 데이터를 답변 제공에 활용하는 검색 증강 생성 기술(RAG)을 적용하기 쉽게 개발됐다.

또한, PEFT(Parameteric Efficient Fine Tuning) 기법을 도입해 파인 튜닝 시 요구되는 전산 비용을 줄이면서도 다양한 분야의 LLM 수요에 빠르게 대응하기 위한 LLM 모델을 개발했다.

KISTI는 앞으로 출연연, 공공기관, 중소기업에 대한 LLM 지원을 할 예정이다. 모델 성능도 현재 130억개 파라미터 수준의 모델 크기를 늘리고, 학습 데이터도 추가로 확보해 계속 향상시킬 계획이다.

김재수 원장은 “이번 KONI 13b 개발을 통해 KISTI는 다양한 과학기술·산업 분야의 LLM 수요에 대응하고, 외부 기관들과 협력 체계를 구축하고, 사용자 피드백 등을 반영해 KONI 모델의 성능을 계속 개선할 예정”이라고 했다.

김 원장은 “국가과학기술데이터 서비스 분야에서도 KONI 13b를 통해 기존 과학기술정보 유통, 분석 체계를 개선해 대중과 전문과학자 모두 활용할 수 있는 공학박사 수준의 AI 정보 서비스 체계를 구축해 나가겠다”며 “향후 AI를 통해 가설을 세우고 과학적 발견까지 지원해 실제 연구에서도 활용하도록 확대할 예정”이라고 했다.