"KT AI ‘믿음’ 맞춤형 상품 가능 ...컨설팅 중요한 시기”[ECF 23]

[이데일리 전선형 기자] “과거 AI(인공지능)를 제공할 때는 파운데이션 모델(사이즈)이 중요하다고 생각했다. 하지만 이제는 각 회사마다 자신의 모델을 갖고 싶어하고, 커스터마이징(맞춤제작)하고 싶어한다. 이같은 요구를 맞춰야 하는 게 앞으로 AI 제공 기업이 할 일이다”

배순민 KT융합기술원 AI2XL 연구소장(상무)은 21일 서울 여의도 FKI타워 컨퍼런스센터에서 열린 ‘제10회 이데일리 IT컨버전스 포럼’에 연사로 참여해 이같이 말했다. 앞으로 AI사이즈 경쟁보다는 AI컨설팅 경쟁이 중요해졌다는 의미다.

배 소장은 “지난 1년간 많은 AI를 필요로 하는 기업(파트너)들을 많이 만났는데, 나만의 모델 갖고 싶어하는 곳, AI를 커스터마이징하고 싶어하는 곳, AI 전문가가 없어 아쉬워하는 곳, 비용에 신경쓰는 곳 등으로 압축됐다”며 “이에 KT는 AI 서비스에 파트너들의 의견을 최대한 반영하려 하고 있다”고 말했다.

[이데일리 이영훈 기자] 배순민 KT 융합기술원 연구소장이 21일 서울 여의도 FKI타워 컨퍼런스센터 그랜드볼룸에서 열린 ‘제10회 이데일리 IT 컨버전스 포럼’에서 발표하고 있다. ‘생성형 AI가 미래를 만든다’ 주제로 열린 ‘제10회 이데일리 IT 컨버전스 포럼’은 하루가 다르게 발전하는 생성형 AI가 가져올 미래의 모습을 공유하기 위해 마련됐다.

KT는 초거대AI ‘믿음’을 출시했다. 믿음은 AI성능을 보여주는 지표인 매개변수(파라미터)를 기준으로 수억개 파라미터 규모의 ‘베이직’, 수십억개 규모의 ‘스탠다드’, 수백억개 규모의 ‘프리미엄’, 2000억개 규모의 ‘엑스퍼트’ 모델로 등 4가지로 출시했다. 각 기업들의 원하는 AI서비스 내용이 각기 다른 만큼, 기업들이 원하는 모습으로 AI서비스를 제공하기 위함이다. 예를 들어 작은 점포나 프렌차이즈에서는 통화내용을 저장하고 요약하고 싶을 때 ‘KT통화비서’라는 서비스로 제공이 가능하다. 통화를 녹음하고 중요 내용을 중심으로 요약해주는 서비스다.

배 소장은 “KT의 100번 고객센터는 만족도 1위인데, 현재 여기서 ‘통화비서’ 서비스를 활용하고 있다”며 “상담원들이 총 8시간을 일하면 4시간은 전화를 하고, 4시간은 이를 요약하는 시간으로 사용하는데 이 서비스를 통해 요약이 저절로 되니 엔터키 하나로 끝나게 돼 업무 효율화가 이뤄지게 됐다”고 말했다.

또한 KT는 믿음의 신뢰성을 높이기 위해 노력했다. 보통 AI는 인터넷에 올라온 문서들로 트레이닝(훈련) 하지만, 기업 특성에 맞는 정보 제공을 위해 클로즈드 도메인 날리지(Closed Domain Knowledge, 기업 특성 정보)’를 통해 훈련을 하는 것이다. AI개발에 난제로 꼽히는 ‘환각 현상’ 해결에도 공을 들였다. 도식화되고 복잡한 문서를 정확히 이해하도록 돕는 ‘도큐먼트 AI(데이터 추출)’, 목표 도메인과 문서에 최적화된 정보를 찾는 ‘서치 AI(검색 최적화)’, 원문에 근거한 응답만 생성하도록 강화학습을 적용한 ‘팩트가드 AI(답변검증)’를 적용해, 답변의 신뢰성을 높였다. KT는 이를 통해 환각 현상을 최대 70％ 줄였다.

AI풀스택으로 구축하면서 효율화를 추진, 경쟁사 대비 저렴하게 서비스를 제공한다는 점도 믿음의 경쟁력이다. 리벨리온의 AI 반도체를 활용해 전력 효율을 6배 높이고 추론 비용은 50% 절감했다.

특히 KT는 초거대 AI를 활용하고 학습하고자 하는 모든 기업에게 믿음의 파운데이션 모델을 개방하고 있다. 이를 위해 ‘KT 믿음 스튜디오(KT Mi:dm Studio)’라는 전용 포털을 오픈해 고객에게 편리한 개발 환경을 제공하는 것이다.

배 소장은 “KT가 중요하게 생각하는 건 AI생태계”라며 “대기업이 잘되는 것도 중요하지만, 모든 곳에서 AI가 적용되기를 원하는 마음에 7B(70억 파라미터)모델을 오픈했다”고 말했다. 10월 말 기준, 한국어 리더보드에서 KT의 믿음은 1위를 유지하고 있다.

이어 “AI를 본업에 활용하고 싶어하는 파트너사들이 많아졌다”며 “많은 스타트업과 협업을 맺고 전문성, 안전성(보안) 등을 통해 시장을 확장시켜 나갈 예정”이라고 전했다.