21일 네이버클라우드가 개최한 ‘하이퍼클로바X 레퍼런스’ 세미나에서는 오픈AI, 구글 등 빅테크 기업들의 거대언어모델(LLM)과 다른 하이퍼클로바X의 장점이 소개됐다. 고객사들은 하이퍼클로바X의 저렴한 토큰 비용, 한국 문화를 잘 이해하는 점, 그리고 LLM이 학습하지 않은 내용을 알려주는 검색증강생성(RAG) 기능이 훨씬 쓰기 편하다고 평가했다. 이러한 이유로 하이퍼클로바X는 현재 11개 산업, 2156개 기업에서 이미 도입했거나 도입을 준비 중이다.
|
토큰 압축률 좋아 비용 줄어
넥서스AI 신홍기 AI랩 매니저는 법무법인 대륙아주의 인공지능(AI) 법률 Q&A 서비스 ‘AI 대륙아주’에서 LLM으로 ‘하이퍼클로바X’를 도입한 이유에 대해 “높은 토큰 압축률과 한국 문화에 대한 이해 때문”이라고 밝혔다. 판결문의 경우 평균 4400자 정도인데, 하이퍼클로바X는 2234토큰, 오픈AI의 GPT-3.5와 4는 3683토큰이 필요해 하이퍼클로바X가 1.6배에서 2.1배 더 높은 압축률을 보인다는 설명이다.
폴라리스오피스의 이해석 부사장도 “저희는 멀티LLM을 사용하면서 AI 글쓰기, 이력서 및 자기소개서 초안 작성(AI 템플릿)에 하이퍼클로바X를 도입했는데, 한국의 사실을 잘 알고 가격이 저렴하며 기술 지원도 잘 되어 있었다”고 언급했다. 예를 들어 ‘홍대 맛집 10곳을 추천해줘’라고 하면 하이퍼클로바X는 다른 LLM과 달리 실제 데이터를 기반으로 정확한 정보를 제공한다고 설명했다. 그는 “폴라리스 오피스를 사용하는 2000만 명의 한국인들에게 서비스를 제공하는 데 하이퍼클로바X를 사용하는데 비용이 약 87배 저렴했다”고 덧붙였다.
RAG 활용 도움…자연스런 응답
기업들이 ‘하이퍼클로바X’를 사용한 이유 중 하나는 AI가 학습하지 않은 내용을 참고해 답변할 수 있는 검색증강생성(RAG)의 편의성이다. 기업들이 업무에 AI를 도입하려면 내부 문서를 모두 LLM에 학습시키기 어려운데, 이를 해결하기 위해 파인튜닝(미세조정) 외에도 서류보관함에서 답변을 찾는 것처럼 RAG 기능을 활용해야 하며, 이때 필요한 것이 임베딩 도구다.
현대백화점 계열 의류 제조사인 한섬에서 패션 트렌드 AI 리포트를 만든 현대IT&E의 노시진 팀장은 “클로바스튜디오의 AI 임베딩 도구를 사용했을 때 성과가 오픈AI의 임베딩 도구보다 좋았다”면서 “실제 업무에 쓰려면 LLM 자체 성능보다 RAG 성능이 중요하다”고 말했다. 사증, 복수와 단수, 초대장 같은 의류계에서 쓰는 용어를 이해하는 데 ‘하이퍼클로바X’의 클로바스튜디오가 유용했다는 의미다.
이미지 등 멀티모달 테스트중
네이버클라우드는 이날 ‘하이퍼클로바X’의 업그레이드 계획과 클로바X를 기반으로 한 기업 업무 생산성 향상 솔루션인 ‘커넥트X’도 언급했다. 하정우 네이버클라우드 AI 이노베이션 센터장은 “하이퍼클로바X의 이미지에 대한 부분과 멀티모달 기능은 사내 베타 테스트 중이고, 데이터 분석기능 고도화도 진행하고 있다”고 밝혔다.
이소은 네이버클라우드 리더는 사내에서 사용중인 ‘커넥트X’의 사례를 설명하며 “LLM을 기업에 접목해보니 문서의 포맷과 구조, 권한과 보안 체계가 달라 RAG에 대한 요구가 컸다”면서도 “그런데 현재 RAG는 기술의 한계로 아쉬움이 있다. 그래서 사용자의 요청에 대해 어떤 프로세스로 탐색할지 스스로 사고하고 설계하고 여러 단계의 브라우징을 자동 수행하는 ‘오토브라우징’ 기술을 개발 중이다. 기존 RAG로 대응이 어려웠던 업무를 수행하며 정보 탐색 능력이 훨씬 향상될 것”이라고 언급했다.