뉴스 검색결과 229건
- AI멀티엔진 썼더니 비용↓ 속도↑…SKT 텔코LLM, 6월 출격
- [이데일리 김현아 기자]SK텔레콤이 통신 서비스를 잘 이해하는 똑똑한 ‘텔코LLM’을 이르면 오는 6월 선보인다.‘텔코LLM’은 GPT-4, 클로드3, A.X 같은 여러 개의 파운데이션 모델(LLM)에 통신사의 서비스나 상품, 멤버십 혜택, 고객 상담 패턴 등 방대한 양의 데이터를 학습시켜 미세조정(파인튜닝)해 만든다. 일단 한국향 서비스를 내놓은 뒤, 글로벌 텔코 AI 얼라이언스(GTAA)에 참가한 4개 통신사와 협력해 글로벌향으로 확대한다는 계획이다. SKT는 여러 LLM을 썼더니 품질과 속도가 좋아지고 비용은 줄일 수 있었다고 소개했다.[이데일리 김일환 기자]텔코LLM 구축 과정에릭 데이비스는 SKT AI Tech Collaboration 담당(부사장)바뀐 멤버십 제도 이해 못하는 범용엔진, 똑똑한 텔코LLM오픈AI의 GPT-4나 앤트로픽의 클로드3 같은 범용 LLM은 통신사의 최근 바뀐 멤버십 제도를 알지 못한다. 5G 프라임요금제 같은 통신 전문용어도 답하지 못한다. 고객이 상담봇으로 ‘영화 혜택이 올해 달라진 점이 있나요?’라고 물으면 적절한 답을 할 수 없다. LLM은 학습시점까지의 데이터로만 답하기 때문이다. 하지만 ‘텔코LLM’은 다르다. 통신 요금제 종류, 공시지원금·선택약정 등 통신 전문 용어, AI 윤리 등을 학습해 적절한 답을 할 수 있다. ‘학습데이터 구축→범용 LLM에 학습시켜 파인튜닝→휴먼 피드백 기반 강화학습(RLHF·사람이 개입해 점수를 매긴 뒤 강화학습시키는 것)→텔코 LLM 모델평가’를 반복하면서 정확성을 높인 덕분이다.에릭 데이비스 SKT AI Tech Collaboration 담당(부사장)은 “파인튜닝을 통해 텔코LLM의 성능이 GPT-4 기준으로 35% 향상됐다”고 소개했다. 오픈AI도 지난 5일 기업의 특정 도메인에 맞춰 AI 모델을 학습시키고 최적화할 수 있는 커스텀 모델을 공개하면서 “SKT와 협력하여 GPT-4를 파인튜닝하고 한국어로 된 통신 관련 대화의 성능을 향상시켰다”고 밝혔다.SKT는 기업들이 생성형 AI를 쉽게 활용할 수 있도록 ‘인텔리전스 플랫폼’도 공개했다. 이는 멀티 LLM부터 멀티모달, 오케스트레이션, 검색 증강 생성(RAG·LLM이 응답하기 전에 외부의 신뢰할 수 있는 지식 데이터를 참조하는 방식)까지 다양한 기능을 포함한 일종의 ‘기업용 AI 개발 및 운용 패키지’다. 멀티 LLM의 추론 비용 최적화 방법멀티엔진이 비용도 줄인다는데…어떻게?SKT는 GPT-4(오픈AI), 클로드3(앤트로픽), A.X(SKT)뿐 아니라 제미나이(구글)의 범용 LLM도 도입을 검토하고 있다. 여러개의 엔진을 쓴다는 것인데, 이를테면 한 줄 요약은 GPT-4, 상담 요약은 A.X, 고객 감정은 클로드3를 쓰는 식이다. 1개 엔진(범용 LLM)으로는 다양한 서비스와 문제를 해결하기 어렵다는 생각인데, SKT는 속도와 품질 향상은 물론 연동비도 줄어든다고 했다.여러 엔진을 쓰면 LLM 서버까지 갔다오는 시간이 줄어 속도는 개선될 수 있지만, 연동비(토큰 입출력 비용)는 올라가지 않을까 하는 의문이 있다.이에 대해 정민영 SKT AI플랫폼 담당(부사장)은 “멀티LLM을 쓰니 적게 입력해도 좋은 답변을 얻을 수 있어 속도가 향상된다”면서 “모든 LLM을 돌려 실시간 결정하는 게 아니라 개발팀에서 이 엔진이 우수할 것이라고 판단하면 평가를 거쳐 태스크(작업)별로 모델을 사용해 비용을 관리한다”고 답했다. 작업마다 엔진 여러 개를 동시에 돌리는게 아니라 속도와 품질, 비용간 균형을 맞춘다는 의미다.인텔리전스 플랫폼 개념도정민영 SKT AI플랫폼 담당(부사장) 겸 글로벌 AI플랫폼 코퍼레이션 코리아 CTOSKT AI 글로벌 진출 투트랙한편 SKT의 인공지능(AI) 글로벌 진출 전략은 두가지 방향에서 진행되고 있다.우선 ‘텔코LLM’의 글로벌화다. 일단 한국 시장에 맞는 서비스를 시작한 뒤, 글로벌 텔코 AI 얼라이언스(GTAA)로 확산한다. GTAA는 △SK텔레콤 △도이치텔레콤 △이앤(e&)△싱텔 △소프트뱅크 5개사가 참여했다. 지난 2월 글로벌 텔코 LLM 개발을 위한 합작사 설립을 발표했다. 각 통신사의 데이터를 모아 파인튜닝하게 된다. 전세계 통신사들은 유사한 기술 기준와 용어를 쓰기에 글로벌로 확장이 가능하다고 보고 있다. 에릭 데이비스 부사장이 관여하고 있다.두번 째는 개인형 AI 비서(PAA) 사업이다. SKT 자회사인 ‘글로벌 AI 플랫폼’과 ‘글로벌 AI 플랫폼 코퍼레이션 코리아’를 통해서다. 정석근 최고AI글로벌책임자(CAGO)가 한국법인 대표이사(CEO)를 맡고 있다. 정민영 부사장은 “글로벌 시장에 개인형 AI비서를 론칭하기 위해 법인을 만들었고, 한국법인에서는 주로 개발을 한다. 저도 CTO로 활동 중이다”라고 전했다.
- 벤처투자 통해 본 삼성의 미래…AI 스타트업 또 투자
- [이데일리 김정남 기자] 삼성전자가 인공지능(AI) 드라이브 전략에 맞춰 관련 스타트업에 대한 투자를 늘리고 있다. 삼성전자 자회사인 벤처캐피털(VC) 삼성넥스트는 AI 서비스 스타트업 ‘유니파이’(UnifyAI)에 투자했다. 29일 삼성전자(005930)에 따르면 삼성넥스트는 데이터 엔지니어링 등 AI 구현을 위해 필요한 모든 요소를 통합해 서비스하는 스타트업인 유니파이에 최근 투자했다.삼성넥스트는 삼성전자의 미래 먹거리를 발굴하는 주요 전진 기지다. 과거 삼성글로벌이노베이션센터(GIC)를 중심으로 산재한 투자육성 기구를 통합한 VC 자회사다. 삼성의 자체 연구개발(R&D)만으로는 부족한 부분을 펀드 조성 생태계를 통해 메우고 있는 것이다. 이를 통해 스타트업은 성장에 필요한 모험자본을, 삼성전자는 경영상 전략적인 이익을 각각 가져가는 식이다. 삼성넥스트 수장은 실리콘밸리 VC업계에서 가장 성공한 한인 투자자로 꼽히는 데이비드 리 부사장이다.삼성전자의 벤처캐피털(VC) 자회사인 삼성넥스트를 이끌고 있는 데이비드 리 부사장. (출처=삼성넥스트)유니파이는 통합 인터페이스, 표준 API(application programming interface·운영체제와 응용 프로그램 사이의 통신에 쓰이는 언어 혹은 메시지 형식), 동적 라우팅(dynamic routing·트래픽 폭주시 그때의 상황에 따라 스스로 우회 회로를 설정하는 방법) 등 공급자간 거대언어모델(LLM) 테스트·배포를 효율적으로 해주는 AI 서비스 회사다. 또 랭체인, 라마인덱스 같은 모두 LLM 검색 엔진과 통합해 기업들의 비용 절감에 유리하다. 삼성전자 관계자는 “AI 모델 최적화에 대한 유니파이의 접근이 (AI 관련) 산업을 재구성하고 개발을 단순화할 것으로 본다”며 “큰 잠재력을 갖고 있다”고 했다.삼성넥스트가 AI 스타트업 투자를 진행한 것은 이번이 처음이 아니다. ‘브리아’(Bria), ‘사하라’(Sahara), ‘아포리아’(Aporia), ‘대시봇’(Dashbot), ‘데이터젠’(Datagen) 등에 잇따라 투자해 왔다. AI, 핀테크, 헬스케어 등 주요 투자 분야 중에서도 가장 비중이 높다. 최근 이스라엘 비주얼 생성형 AI 스타트업인 브리아에 대한 2400만달러(약 331억원) 투자는 인텔 캐피털 등이 주도한 딜에 참여하는 형식으로 이뤄졌다.한종희 삼성전자 부회장은 올해 CES 2024에서 5대 미래 기술 중 AI를 가장 먼저 거론하며 “성장동력을 발굴하기 위한 중소 인수합병(M&A)과 벤처 투자를 지속하고 있다”고 말했다. 삼성넥스트의 투자 지도에서 향후 삼성전자의 M&A 힌트까지 찾을 수 있다는 해석이 가능하다.
- 현대차·기아, 中빅테크 ‘바이두’와 협업 강화..커넥티드카 공략 속도
- [이데일리 박민 기자] 현대자동차와 기아가 중국 빅테크업체 바이두와 손잡고 중국 커넥티드카 시장 공략에 나선다.현대차·기아는 지난 27일 중국 베이징 요세미티 호텔에서 송창현 현대차 AVP(미래차플랫폼) 본부장 사장, 왕윈펑 바이두 IDG 총괄·바이두그룹 부총재 등 양사 관계자가 참석한 가운데 ‘중국 커넥티드카 전략적 협력 양해각서(MOU)’를 맺었다고 28일 밝혔다.이혁준(왼쪽 여섯번째부터) 현대차그룹 중국 유한공사 부사장, 송창현 현대차·기아 AVP 본부장 사장, 왕윈펑 바이두 IDG 총괄·바이두그룹 부총재, 상궈빈 바이두그룹 부총재 등 양사 관계자가 27일 중국 베이징 요세미티 호텔에서 ‘중국 커넥티드카 전략적 협력 양해각서(MOU)’ 체결식에서 기념사진을 찍고 있다.(사진=현대차그룹)송창현(왼쪽부터) 현대차·기아 AVP 본부장 사장과 왕윈펑 바이두 IDG 총괄·바이두그룹 부총재가 27일 중국 베이징 요세미티 호텔에서 ‘중국 커넥티드카 전략적 협력 양해각서(MOU)’ 체결식에서 서명하고 있다.(사진=현대차그룹)현대차·기아는 이번 MOU가 급변하는 중국 커넥티드카 시장을 선도하고 혁신적 가치를 제공하겠다는 양사의 공동 목표와 도전 의식에 따라 체결됐다고 설명했다. 앞으로 바이두와 함께 △커넥티비티 △자율주행 △지능형 교통 시스템 △클라우드 컴퓨팅 등 포괄적인 영역에서 진일보한 기술을 앞세워 새로운 비즈니스 생태계를 구성할 계획이다.아울러 중국 데이터 규제 강화에 대응해 바이두의 스마트 클라우드를 활용한 컴플라이언스 솔루션 개발에도 나선다. 동시에 미래 핵심 키워드인 인공지능을 활용한 신제품과 신사업, 새로운 비즈니스 모델도 발굴할 계획이다.지난 1월 중국상업산업연구원이 발간한 2024∼2029년 ‘중국 커넥티드카 산업 시장분석 및 전망 연구’ 보고서에 따르면 올해 중국 커넥티드카 시장 규모는 2152억위안(약 40조8000억원)으로 추산됐다. 판매 대수도 1700만대 수준으로 예상됐다. 이는 지난 2019년과 비교하면 시장 규모는 3.4배, 판매 대수는 2.4배 수준으로 각각 상승한 수준이다.현대차·기아와 바이두와의 협력 강화는 현대차그룹이 추진하는 중장기 소프트웨어 전략 SDx(Software-defined everything) 가속화를 뒷받침할 전망이다. 바이두는 중국에서 커넥티비티를 비롯해 AI, 자율주행, 검색엔진 분야에서 최고 수준의 기술력을 보유했다는 평가를 받고 있다.현대차·기아 관계자는 “누구나 사용할 수 있는 최적화한 모빌리티 디바이스와 설루션을 만들어 제공하는 것이 SDx 목표”라며 “바이두와의 전략적 협력을 중국 시장 커넥티드카 생태계 조성에 힘쓸 것”이라고 말했다.한편, 현대차·기아는 바이두와의 협업을 2014년부터 올해로 10년째 이어오는 중이다. 그동안 통신형 내비게이션을 비롯해 음성인식, 카투홈·홈투카, 스마트 콘텐츠 서비스 등 다양한 커넥티비티 시스템을 개발해 양산 차에 적용한 바 있다.
- '범죄도시4' 화제성도 빅펀치…왓챠피디아 HOT10 1위 등극
- [이데일리 스타in 김보영 기자] 영화 ‘범죄도시4’(감독 허명행)가 개봉하자마자 왓챠피디아 인기 콘텐츠 1위로 올라서면서 압도적인 흥행 파워를 입증하고 있다. 그 뒤를 tvN 토일드라마 ‘눈물의 여왕’과 월화드라마 ‘선재 업고 튀어’가 지키며 변함 없는 인기를 유지 중이다.왓챠는 26일 4월 4주차(4월 18일~4월 27일) ‘왓챠피디아 HOT 10’을 공개했다. 왓챠피디아 HOT 10은 왓챠피디아의 별점, 검색량, 보고싶어요, 코멘트 수 등의 지표와 국내 주요 포털 트렌드 지표를 활용해 지난 한 주간 대중들의 기대감과 만족감을 반영한 종합 순위이다. 극장에서 상영 중인 개봉 영화를 비롯해 TV 방영 프로그램, 국내 OTT에서 서비스 중인 모든 콘텐츠가 대상이며, 순위는 매주 업데이트된다.마동석 주연의 액션 영화 ‘범죄도시4’는 4월 4주차 왓챠피디아 HOT 10 1위에 오르며 지난주 대비 5계단이나 순위가 급상승했다. ‘범죄도시4’는 괴물형사 마석도(마동석 분)가 대규모 온라인 불법 도박 조직을 움직이는 특수부대 용병 출신의 빌런 백창기(김무열 분)와 IT 업계 천재 CEO 장동철(이동휘 분)에 맞서 다시 돌아온 장이수(박지환 분), 광수대·사이버팀과 함께 펼치는 범죄 소탕 작전을 그린다. 개봉 첫날부터 전체 박스오피스 1위, 시리즈 최고 오프닝, 역대 한국 영화 오프닝 톱4에 등극한 데 이어, 개봉 2일째에 100만 관객을 동원하는 등 날마다 흥행 기록을 경신 중이다.2, 3위는 tvN 토일드라마 ‘눈물의 여왕’과 tvN 월화드라마 ‘선재 업고 튀어’가 나란히 차지했다. 시청률 21.6%를 돌파한 ‘눈물의 여왕’은 종영까지 단 2회를 남겨두고 있어 역대 tvN 드라마 중 최고 성적을 기록할 수 있을지 귀추가 주목된다. ‘선재 업고 튀어’ 역시 매주 드라마 팬들의 입소문을 타고 있어 앞으로의 상승세를 기대케 한다. 이어서 올해 첫 천만 영화인 ‘파묘’는 왓챠피디아 별점 및 검색량 등이 꾸준히 누적되어 4위를 차지했다.이제훈 주연의 MBC 새 금토드라마 ‘수사반장 1958’은 19일 방송 후 5위로 진입하며 차기 흥행 콘텐츠의 가능성을 보였다. 한국형 수사물의 역사를 쓴 ‘수사반장’의 프리퀄인 ‘수사반장 1958’은 1958년을 배경으로 야만의 시대, 소도둑 검거 전문 박영한 형사가 개성 넘치는 동료 3인방과 한 팀으로 뭉쳐 부패 권력의 비상식을 상식으로 깨부수며 민중을 위한 형사로 거듭나는 이야기를 그린다. 6위부터 8위까지는 각각 애니메이션 영화 ‘쿵푸팬더 4’, 넷플릭스 오리지널 시리즈 ‘기생수: 더 그레이’, 티빙 오리지널 예능 ‘환승연애 3’가 이름을 올렸다. ‘환승연애 3’는 19일 종영하면서 왓챠피디아 내 주요 지표들이 대폭 증가해 이번에 신규 진입했다. 마지막 9위와 10위는 고마츠 나나, 사카구치 켄타로 주연 로맨스 영화 ‘남은 인생 10년’, 넷플릭스 오리지널 시리즈 ‘삼체’에 돌아갔다. 왓챠피디아는 2011년 서비스를 시작한 콘텐츠 추천·평가 서비스다. 머신러닝과 AI 기술로 고도화된 개인화 추천 엔진을 통해 내 취향에 최적화된 맞춤 콘텐츠 큐레이션을 추천받고, 보고 싶거나 좋아하는 콘텐츠를 아카이빙할 수 있다. 선호하는 배우와 감독 등을 기록할 수 있는 ‘인물 좋아요’ 기능과 함께, 날짜별로 평가한 콘텐츠가 기록되는 ‘캘린더’ 기능도 있어 이용자들의 편의성을 높였다. 현재까지 왓챠피디아의 여러 콘텐츠 카테고리에 쌓인 별점 평가 데이터 수는 약 7억 1000여개에 이른다.
- 인천관광공사, 관광기업 지원 17개 프로젝트 선정
- [인천=이데일리 이종일 기자] 인천관광공사는 인천관광 협업·디딤돌 프로젝트 공모 결과 17개 사업(25개사 참여)을 선정했다고 25일 밝혔다.이번 공모는 인천관광 활성화와 관광기업의 디지털 전환 지원을 위한 것이다. 협업 프로젝트는 기업 간 협업을 통한 신규 관광 비즈니스 모델을 육성하고자 한국관광공사 경인지사와 함께 추진한다. 디딤돌 프로젝트는 인천 관광기업의 디지털 전환을 지원하는 사업이다.공사는 최근 공모에서 58건의 사업을 신청받아 서류·발표 심사를 거쳐 협업 프로젝트 5개, 디지털 전환 프로젝트 12개를 선정했다. 협업 프로젝트에는 차이나타운 맛 오디세이, 미식 탐방 여행, 싸리재 기념비, 온수워크 2024, 강화 진달래꽃 활용 관광코스 등 지역 특성과 강점을 활용한 협업 아이템이 포함됐다. 디지털 전환 프로젝트에는 웹사이트 제작과 검색엔진 최적화, 여행 견적 자동화 시스템 개발, 고객데이터 플랫폼 구축, ERP 단순화 프로그램 개발 등 지역 중소 관광기업의 디지털 경쟁력 강화를 위한 다양한 사업이 선정됐다.선정된 기업 25곳은 11월까지 사업을 추진할 예정이다. 프로젝트 지원금 외에 교육·컨설팅, 네트워킹 행사 등의 혜택을 받는다. 협업 프로젝트의 경우 중간평가 결과에 따라 추가 지원금을 지급해 기업의 참여도와 성과창출 의지를 고취한다. 공사 관계자는 “공모전에 접수된 다양한 사업을 통해 지역 관광기업의 높은 관심과 호응을 확인했다”며 “인천 관광기업의 성장과 경쟁력 강화를 위한 다양한 사업을 지속적으로 추진하겠다”고 밝혔다.
- 네이버 AI반도체 투트랙 전략…삼성과 만들고, 인텔과 연구
- [이데일리 한광범 기자] 네이버가 삼성전자에 이어 인텔과도 AI 반도체 협력에 나선다. 카이스트(KAIST)를 중심으로 서울대, 포스텍을 포함한 국내 20여개 연구실 및 스타트업과 공동 연구를 하기로 했다. 엔비디아가 장악한 글로벌 AI 반도체 생태계에서 대안 생태계 마련에 힘을 쏟는다는 계획이다.팻 겔싱어 인텔 CEO는 9일(현지시간) 미국 피닉스에서 열린 연례행사 ‘인텔 비전‘ 키노트에서 네이버와의 이 같은 협업 내용을 직접 발표했다. 그는 “네이버는 아시아에서 엄청난 AI모델을 구축한 대단한 회사”라며 “네이버와 향후 수십 년간 지속할 수 있는 멋진 협력을 기대하겠다”고 말했다. 팻 겔싱어 인텔 CEO와 하정우 네이버클라우드 AI이노베이션 센터장이 9일(현지시간) 미국 피닉스에서 열린 ‘인텔 비전 2024’에서 양사 협력사항에 관한 대담을 나누고 있다. (사진=네이버·인텔)하정우 네이버클라우드 AI혁신센터장은 이날 겔싱어 CEO의 키노트 무대에 올라 “이번 협력의 목표는 네이버가 고성능, 비용 효율적인 인프라에서 가장 강력한 거대언어모델(LLM)을 개발해 AI 주권을 지키기 위한 위한 노력을 넘어 ’AI 에브리웨어‘라는 비전에 기여하는 것”이라고 설명했다.엔비디아 AI 반도체에 대한 의존이 커지면서 생성형AI 학습과 서비스를 위한 그래픽처리장치(GPU) 물량 수급이 여의치 않은 상황에서, 네이버가 앞장서 국내 대학, 스타트업들과 함께 AI칩 다양성 강화에 나선 것이다. 현재 주로 활용되는 엔비디아의 H100은 6000만~8000만 원 수준으로 거래되는 것으로 전해진다. 비싼 가격임에도 수요가 폭발하며 물량을 확보하는 것마저 쉽지 않다. 이 때문에 국내 스타트업과 학교들의 AI 리소스 환경은 매우 열악해진 상황이다.◇삼성전자와는 AI경량화 칩 ‘마하-1’개발중네이버는 삼성전자와 협력해 AI 반도체 경량화 기술중 하나인 ‘마하-1’을 개발 중이다. ‘마하-1’은 개발자가 설계를 변경할 수 있는 프로그래머블 반도체(FPGA)로 GPU와 달리 개발자가 용도에 맞게 회로를 다시 새겨넣을 수 있는 유연성을 제공하며 다양한 응용 분야에서 사용될 수 있다고 평가받는다.(그래픽=문승용 기자)네이버는 지난해 삼성전자와 함께 ‘2023 AI 반도체 미래기술 컨퍼런스’에 공동으로 참가해 ‘마하-1’에 대해 “불필요한 파라미터(매개변수) 제거와 경량화 알고리즘 최적화라는 특징을 갖는다”고 설명했다. 이는 LLM의 성능을 좌우하는 파라미터 중 불필요한 것을 제거하여 크기와 무게를 줄이는 기술을 양사가 개발 중이라는 의미다. 네이버는 주로 소프트웨어(SW)적인 측면에서, 삼성전자는 반도체 설계 부분을 담당하고 있다고 전해졌다. ◇인텔과는 AI가속기 ‘가우디2’ 기반 SW 연구네이버는 삼성과 진행 중인 ‘마하-1’과 별개로 인텔의 AI반도체 ‘가우디’ 기반 소프트웨어(SW) 연구도 함께 하기로 했다. 이번 협력은 인텔의 제안으로 이뤄진 것으로 전해졌다. 김유원 네이버클라우드 대표는 “고비용 LLM을 효율적으로 운용하기 위한 최적화 기술뿐 아니라 이에 대한 솔루션까지 제안할 수 있는 곳은 미국·중국의 빅테크를 제외하면 네이버클라우드가 유일하다”고 협력 배경을 설명했다. 이동수 네이버클라우드 하이퍼스케일 AI 이피션시(Efficiency) 이사는 “삼성과 인텔 모두 굉장히 소중한 파트너”라며 “이번 협업이 삼성과의 협업에 영향은 전혀 없다”고 강조했다. 삼성과 개발 중인 ‘마하-1’은 AI반도체를 경량화해주는 칩이고, 인텔과의 ‘가우디’ 협력은 엔디비아 GPU AI칩 대체가 목적인 셈이다. 네이버클라우드와 인텔이 AI칩 소프트웨어 생태계 구축을 위한 공동연구 업무협약을 체결했다. 왼쪽부터 이동수 네이버클라우드 하이퍼스케일 AI 이피션시(Efficiency) 이사, 하정우 네이버클라우드 AI 이노베이션 센터장, 팻 겔싱어 인텔 CEO, 저스틴 호타드 인텔 수석부사장/데이터센터 및 AI그룹 총괄. (사진=네이버·인텔)네이버는 인텔이 제공한 ‘가우디2’의 성능을 검증해 LLM 학습용이나 서비스용(추론용)으로 활용 가능성을 타진한다. 이동수 이사는 “가우디2의 성능을 테스트한 후 시너지(과제)를 만들거나 인텔 AI 반도체의 특성을 발굴할 예정”이라고 밝혔다. 양사는 이 테스트 결과에 따라 LLM을 넘어 추후 커머셜 클라우드 구축에 대해서도 협력하기로 약속했다.네이버와 인텔은 국내 스타트업과 대학들이 인텔의 AI 반도체 ‘가우디’에 기반해 다양한 소프트웨어를 개발하고 산학 연구 과제를 진행할 수 있도록 IT 인프라를 제공하기로 했다. ‘AI 공동연구센터(NICL, NAVER Cloud·Intel·Co-Lab)’를 설립하여 국내 20여 개의 연구실과 스타트업들을 참여시킬 예정이다. 단, 이는 별도의 물리적인 연구소를 만드는게 아니라 공동 연구에 초점을 둔다.인텔이 9일(현지시간) 공개한 가우디3 AI 가속기. (사진=인텔)◇이해 관계 맞은 인텔과 네이버글로벌 AI반도체 강자 엔비디아는 단순히 칩 제조사가 아니라 플랫폼 기업으로 변신하고 있다. 지난달 엔비디아 ‘GTC(GPU Technologh Conference) 2024’서 로봇 훈련을 가능케 하는 플랫폼 구축을 위한 ‘그루트(GR00T)’를 공개한 것이다. 또, 엔비디아 GPU의 지배력은 핵심 소프트웨어 프레임워크인 ‘쿠다(CUDA)’를 통해 완성되고 있다고 해도 과언이 아니다. 이런 상황에서 엔비디아와 경쟁하는 인텔, 국내 최고의 소프트웨어 업체 네이버는 이해관계가 맞아떨어진다고 볼 수 있다. 인텔은 가우디의 성능을 입증하고 소프트웨어 및 하드웨어를 포함한 가우디 기반 AI 생태계를 구축하고, 네이버는 해당 연구를 주도하여 자체 LLM인 하이퍼클로바X 중심의 AI 생태계를 확장해 나갈 수 있어서다.김유원 네이버클라우드 대표는 “네이버는 지난 25년간 검색 엔진, 클라우드, 생성형 AI 등 다양한 서비스를 통해 사용자에게 다양성을 제공해 왔으며, 이러한 다양성은 네이버가 추구해 온 중요한 가치 중 하나”라며 “현재 AI 칩 생태계의 다양성을 확보하는 것은 매우 의미가 있다”고 밝혔다.한편, 인텔은 이번에 기존 가우디2 대비 성능을 대폭 향상한 ‘가우디3’를 발표했다. 인텔은 가우디3가 엔비디아의 현재 시판중인 AI 반도체 ‘H100’과 비교했을 때 일부 매개변수 모델에서 학습시간을 50% 단축하고, 추론 처리량과 추론 효율 측면에서도 각각 50%, 40%의 높은 성능을 제공한다고 강조했다. [이데일리 김일환 기자]
- 인텔이 제안..네이버클라우드, '가우디' 기반 AI칩 공동 연구
- [이데일리 김현아 기자]인텔 제안으로 네이버클라우드가 ‘가우디(Gaudi)’ 기반의 새로운 AI칩 소프트웨어 생태계 구축에 나선다.해당 내용은 지난 9일 미국 피닉스에서 개최된 ‘인텔 비전 2024’ 행사에서 펫 겔싱어 CEO의 키노트를 통해 공개됐고, 양사간 협약이 진행됐다.인텔은 이번 행사에서 차세대 인공지능(AI) 반도체 ‘가우디3(Gaudi-3)’를 공개하며 관련 시장을 사실상 독점하고 있는 엔비디아에 도전장을 냈다. 현재 주요 파트너 기업에 가우디3 샘플칩을 전달한 데 이어 오는 3분기 본격적으로 양산하며 시장 점유율을 확대할 방침이다.네이버클라우드와 인텔이 AI칩 SW 생태계 구축을 위한 공동연구 업무협약을 체결했다. (왼쪽부터) 이동수 네이버클라우드 하이퍼스케일 AI 이피션시(Efficiency) 이사, 하정우 네이버클라우드 AI 이노베이션 센터장, 팻 겔싱어(Pat Gelsinger) 인텔 CEO, 저스틴 호타드(Justin Hotard) 인텔 수석부사장/데이터센터 및 AI그룹 총괄이다. 사진=네이버클라우드’인텔 비전 2024‘ 행사에서 팻 겔싱어 CEO와 네이버클라우드 하정우 AI 이노베이션 센터장이 양사 협력사항에 관한 대담을 나누고 있다.네이버클라우드는 인텔과 함께 국내 학계 및 스타트업 등과의 공동 연구를 통해 ‘가우디(Gaudi)’ 기반의 새로운 AI 칩 소프트웨어 생태계 구축에 나선다고 11일 밝혔다. AI공동연구센터 설립…20여개 연구실 참여 양사는 국내 스타트업과 대학들이 AI 연구를 진행할 수 있도록 인텔의 AI 가속기 칩인 ‘가우디’ 기반의 IT 인프라를 제공해 ‘가우디’ 기반 다양한 소프트웨어 개발과 산학 연구 과제 등을 운영할 예정이다. 이를 위해 양사는 ‘AI 공동연구센터(NICL: NAVER Cloud·Intel·Co-Lab)’를 설립하며, 여기에는 카이스트를 중심으로 서울대학교, 포스텍을 포함한 국내 20여개 연구실 및 스타트업들이 참여한다.AI칩 생태계 활성화 목적네이버클라우드는 무엇보다 최근 AI칩 구매 부담으로 인해 국내 스타트업과 학교들의 AI 리소스 환경이 매우 열악해진 상황을 고려해 이 같은 공동 연구 방식을 인텔 측에 제안했다. 국내 AI 연구 활성화와 AI칩 생태계 다양성 강화를 위한 조치라는 의미다.이를 통해 인텔은 ‘가우디’의 성능을 입증하고 소프트웨어, 하드웨어를 포함한 가우디 기반 AI생태계를 구축하며, 네이버클라우드는 해당 연구들을 주도해 나가면서 하이퍼클로바X 중심의 AI 생태계를 확장해 나간다는 계획이다.김유원 네이버클라우드 대표는 “네이버클라우드처럼 초거대 언어모델(LLM)를 ‘프롬 스크래치(From Scratch, 맨 처음부터)‘로 개발하여 운영하고 있는 기업은 전세계적으로도 많지 않으며, 더 나아가 고비용 LLM을 효율적으로 운용하기 위한 최적화 기술뿐 아니라 이에 대한 솔루션까지 제안할 수 있는 기업은 미국과 중국의 빅테크를 제외하면 네이버클라우드가 거의 유일하다” 고 양사 협력의 배경을 설명했다.이어 “네이버는 지난 25년간 검색엔진, 클라우드, 생성형 AI 등 글로벌 빅테크 중심의 시장에서 사용자에게 또 다른 선택권을 제공해왔고, 이러한 다양성은 네이버가 추구해 온 중요 가치 중 하나” 라며 “이러한 맥락에서 현재 AI칩 생태계의 다양성을 확보하는 것은 매우 의미가 있다고 판단했다”고 강조했다.네이버클라우드, ‘가우디2’ 테스트 진행한편 ’인텔 비전 2024‘ 행사의 팻 겔싱어 CEO의 키노트에 네이버클라우드 하정우 AI 이노베이션 센터장이 직접 참석해 팻 겔싱어 CEO와 대담을 나누며 양사의 협력 사항을 공개했다. 양사는 AI 칩 생태계 확장은 물론, 커머셜 클라우드 구축에 협력할 것을 약속하며 이를 위해 네이버클라우드는 ‘가우디 2’의 테스트를 진행할 계획이라고 언급했다.
- LG U+ “가격 문제로 LLM과 NLP 하이브리드 사용”[일문일답]
- [이데일리 김현아 기자]LG유플러스가 AI 에이전트 플랫폼 4종을 공개했다. ▲U+상담 에이전트 ▲ 장애상담 에이 전트 ▲유독 AI 상품추천 에이전트 ▲U+비즈마켓 솔루션 안내 에이전트 등이다.이 서비스들은 챗GPT 기반으로 서비스되며, 파운데이션 모델 사용료 부담을 줄이기 위해 거대언어모델(LLM)뿐 아니라 기존 AI 기술인 자연어처리(NLP)기술도 쓴다. 하이브리드인 셈이다.또한, 당장은 챗GPT를 쓰지만 6월 중 LG AI연구원 LLM인 ‘엑사원’ 기반 소형언어모델(sLLM) ‘익시젠’을 적용할 예정이다.다음은 8일 온라인 간담회에서 이뤄진 성준현 AI·데이터프로덕트 담당(상무)와 김민규 팀장과의 일문일답이다.8일 오전 진행된 AI 테크브리핑에서 성준현 LG유플러스 AI·데이터프로덕트 담당(상무, 왼쪽)와 김민규 AI Agent상품팀장이 질문에 답하고 있는 모습. -LG유플러스 AI 에이전트는 LLM과 기존 NLP(자연어이해)를 하이브리드로 사용한다는데 좀 더 쉽게 설명해 달라.▲사실 AI에이전트 서비스에서 가장 큰 걸림돌은 결국 비용이다. 자칫 감당하기 어려운 수준까지 올라갈 수 있다. 그래서 하이브리드 형태가 효율적으로 생각한다. LLM은 기존 AI가 이해하기 어려운 질문에 답변하고, 나머지는 NLP가 하는 방식이다.‘RAG(검색 증강 생성)’은 많이 들어보셨을 것이다. (RAG는 LLM의 출력을 최적화하여 응답을 생성하기 전에 학습 데이터 소스 외부의 신뢰할 수 있는 지식 베이스를 참조하도록 한다.)저희는 NLP가 처음 답변할 수 있는지 질문을 판단한다. 이 때 자기가 답변할 수 있다면 굳이 비용이 비싼 LLM에는 안보내고 최적의 인터페이스로 답변할 수 있다. 그런데 NLP가 판단시 안된다고 보면 LLM에 보내고 최종적으로 답변을 도출하는 형태다. 작년에 유독 등을 하면서 경험을 많이 쌓았다고 생각한다. 강점으로 가져갈 수 있을 것으로 본다.지금은 챗GPT기반..6월 익시젠 적용-지금 공개한 건 챗GPT 기반 아닌가? LG 엑사원 기반 sLLM ‘익시젠’은 언제 적용되나요?▲맞다. 상반기 내에 엑사원 기반 익시젠을 적용한 AI에이전트가 나올 것이다. 내부적으로는 엑사원을 사용하고 있다. 본격 적용은 하반기다.(상반기 중 익시젠을 할텐데 먼저 기자회견 연 이유는) 아마 익시젠을 그랜드 오픈하면서 대대적으로 설명할 테지만 오늘은 AI에이전트 출시와 전략 방향을 소개하는 자리로 봐 달라. 초거대AI 관점에서 다시 정리해 말하겠다.LG유플러스 ‘익시젠’ 아키텍처LG유플러스 챗 에이전트 플랫폼 개요도이동통신 요금제 추천은 신중-챗 에이전트(채팅봇)를 로밍 요금제 추천 등외에 이동통신 요금제 추천으로 확대할 계획이 있나?▲이미 U+비즈마켓 상품 안내 및 추천 등에 쓰고 있다. 다만, 통신 상품 요금제 추천은 좀 민감하다. 다양한 개인 맞춤형 추천이나 준비 중에 있지만, 신중하게 볼 예정이다.-고령자들이 쓰기 어렵지 않나?▲저희가 서비스 오픈이후 이용률을 보니 10% 정도의 고령층이 있었다. 챗봇이라고 해서 문자만 하는게 아니라 음성 인터페이스를 활용해 쉽게 할 수 있게 했다. 필요시 챗봇 안에서 고객센터와 연동되게 했다.-LG유플러스 AI 에이전트의 차별점은 뭔가?▲저희 챗봇은 LG유플러스 상품에 가장 최적화돼 있다. 저희 데이터를 입혀서 정밀도를 높였다. ‘RAG(검색 증강 생성)’나 세이프티 레이어를 두고 데이터 안정성에 위배되지 않도록 했다. 고객 개인정보가 내부적으로 처리돼 보안 측면에서도 기존 GPT 대비 안전한 서비스라고 생각한다. 최근에 워낙 보안 사고가 많은데 잘못 답변하면 큰 손실로 이어져 다시한번 조심조심하고 있다.환각효과는 RAG로..데이터 학습 때도 주의-환각, 할루시네이션은 어떻게 대처했나?▲‘RAG(검색 증강 생성)’, ‘Safet(보안)’레이어를 통해 해결한다. (RAG는 LLM의 출력을 최적화하여 응답을 생성하기 전에 학습 데이터 소스 외부의 신뢰할 수 있는 지식 베이스를 참조한다.)다양한 필터링이 있어 최대한 없애도록 노력중이다.저희가 내부 테스트를 할 때는 생각보다 환각 효과가 문제였는데, 그 때 이런 것들에 대처하는 경험을 많이 쌓았다.-학습 데이터는 무엇을 썼나? ▲상담 내용 등 오랜 경험들을 다 개인정보를 제외한 상태에서 활용했다. LG AI연구원의 LLM ‘엑사원’은 데이터 관련 상당히 민감하다. 그래서 초거대 다른 엔진들이 법적이나 저작권 이슈가 많은데, 엑사원은 클리어하게 가고 있다. 상담 네이터나 고객센터 콜 데이터 등을 고객 정보 전혀 없이 학습용으로만 쓴다. 외부 반출도 안 한다. 지금은 챗GPT이지만 향후 엑사원 기반 sLLM인 ‘익시젠’을 쓰면 개인정보 보호가 더 좋아질 것이다. 더 자세한 건 다음에 ‘익시젠’ 발표 때 이야기하겠다.-챗 에이전트 도입 후 셀프처리율이 많이 올랐다는데 수치는?▲ 숫자 자체는 오픈이 어렵다. 다만, 사업쪽에서 고객 센터나 당신의 유플러스 앱 운영자들에게 들으니 효과가 좋았다고 한다. 시나리오 최적화 덕분이다.-B2B로도 사업을 확장한다고 했는데, BM이 무엇인가?▲저희가 기업부문과 AICC(AI컨택센터)사업을 진행 중이다. 콜봇이나 어드바이저 같은 기능도 있지만, 채팅 기능도 다양하다. 에이전트를사내에 적용해서 레퍼런스를 확보하는 게 중요하다. 이를 가지고 기업부문과 챗 에이전트 니즈가 있는 곳에 제안해 오퍼링할 예정이다.
- 노태문 사장 "갤럭시 AI는 이제 시작…강력한 생태계 만들 것"
- [이데일리 임유경 기자] “갤럭시 AI는 이제 시작입니다. 갤럭시S24 시리즈를 개발하면서 구상했던 많은 아이디어와 콘셉트들이 앞으로 기술이 더욱 발전되고 고도화되면서 더욱 새롭고 혁신적인 기능들로 지속 소개될 예정입니다.” 노태문 삼성전자(005930) 모바일경험(MX)사업부장(사장)은 21일 삼성전자 뉴스룸에 게재한 기고문에서 “다양한 제품군과 서비스 영역에 갤럭시 AI를 적용하고 최적화해 보다 강력한 모바일 AI 생태계를 구축해 나갈 것”이라며 이같이 강조했다.노태문 삼성전자MX사업부장(사장)(사진=삼성전자)노태문 사장은 이번 기고문을 통해 갤럭시S24 출시 이후 처음으로 모바일 AI의 현재와 미래에 대한 삼성전자의 비전을 밝혔다. 그는 “모바일 기기가 AI의 가장 중요한 시작점이며, 삼성 갤럭시가 모바일 AI시대에 중요한 역할을 해야 한다고 믿고 있다”고 힘줘 말했다. 이어 “삼성만의 강점인 폭넓은 제품 포트폴리오, 혁신의 전통, 열린 협력 철학 등을 바탕으로, 모바일 AI시대를 열고 이를 전 세계로 확산해 나갈 것”이며 “더 많은 사용자들에게 새로운 가능성을 제시할 것”라고 했다.갤럭시S24 개발 과정에서의 소회 또한 밝혔다. “AI 기술은 세기적 판도 변화를 이끌 혁신이고 갤럭시S24 시리즈 출시를 통해 이런 변화의 과정에 직접 참여할 수 있었다는 것이 큰 영광이었다”고 말했다.갤럭시 AI를 준비하는 과정에 대해서는 “모바일 AI의 미래를 준비하며 AI 기술이 어떻게 우리의 삶을 향상시키고 사회 변화의 방향성을 제시할 수 있을지 많은 고민을 했다”며, “이러한 숙고 속에 만들어진 AI기술들이 장벽 없는 일상의 소통을 가능하게 하고, 많은 일들을 더욱 쉽고 효율적으로 해결할 것”이라고 강조했다.신제품 출시 이후 가장 많이 사용되는 갤럭시 AI의 기능도 소개했다. ‘새롭고 직관적인 검색 도구인 서클 투 서치(Circle to Search)’, ‘언어의 장벽 없는 소통을 가능케 한 실시간 통역과 채팅 어시스트’, ‘프로비주얼 엔진(ProVisual Engine)에 힘입은 포토 어시스트 기능이’ 가장 많이 사용되고 있다고 언급했다.AI 기술 개발 철학에 대해서도 언급했다. “AI의 정확성과 신뢰성을 위해 기업들은 열린 자세로 서로 협력하고 신중한 접근으로 AI 경험을 정의해, 사용자가 안심하고 신뢰할 수 있는 AI경험을 즐길 수 있도록 해야 한다”고 말했다. 보안과 개인정보 관리의 중요성에 대해서도 강조했는데, “삼성전자는 이를 위해 온디바이스(On-device)와 클라우드 기반의 AI를 결합한 하이브리드 방식으로 접근했다”며 “앞으로도 투명성과 사용자 선택권 보장을 통해 갤럭시 제품의 보안과 개인정보 보호를 강화해 나갈 것”이라고 언급했다. 노태문 사장은 끝으로 “모바일 AI시대의 주인공은 갤럭시 사용자 여러분”이라며, “갤럭시 AI는 앞으로도 사용자들의 목소리를 듣고, 여러분들을 주인공으로 더욱 진화 발전해 나갈 것”이라고 약속했다.
- 베스핀글로벌, 김포국제공항에 AI 챗봇 서비스 공급
- [이데일리 김현아 기자]멀티 클라우드 운영 관리(MSP)전문 기업 베스핀글로벌이 한국공항공사가 관리·운영하는 김포국제공항의 챗봇 시범 서비스에 적용되도록 자사의 대화형 AI 플랫폼 ‘헬프나우(HelpNow)’를 성공적으로 공급했다고 밝혔다.한국공항공사가 관리·운영하는 김포국제공항의 AI 챗봇 시범 서비스에 베스핀글로벌의 헬프나우(HelpNow)가 적용됐다. 사진=한국공항공사 챗봇 서비스 화면 캡처 이번에 선보인 김포국제공항의 챗봇은 ▲공항 이용 ▲항공사 ▲출입국 ▲주차 ▲상업 시설 등 공항 이용객이 자주 묻는 질문에 대해 최적의 답변을 제공한다. 예를 들어 이용객이 현재 김포국제공항의 주차 가능 여부를 질문할 경우, 실시간 주차 상황을 알 수 있는 링크를 알려준다. 이처럼 챗봇 서비스는 AI 기술을 기반으로 즉각적이고 정확한 공항 관련 정보를 365일 24시간 내내 지원함으로써, 이용객들의 공항 이용 경험을 혁신적으로 개선할 것으로 기대된다.헬프나우는 대화형 AI 서비스 구축과 운영을 위한 통합 플랫폼이다. 구글 다이얼로그플로우(Dialogflow), AWS 렉스(Lex), 마이크로소프트 Azure 루이스(Luis), IBM 왓슨(Watson) 등 자연어 이해(NLU) 엔진을 통해 사용자의 언어를 신속하게 이해하고, 오픈AI의 GPT-4, 구글 PaLM2, 네이버 하이퍼클로바X 등 가장 우수하고 뛰어난 LLM(대규모 언어 모델)을 선별 연동하여 단순 문답 방식(FAQ)이 아니라 사람과 실제로 대화하는 것과 같은 고품질의 대화를 경험할 수 있도록 한다.헬프나우는 사전 정보를 생성형 AI에 학습시킨 뒤, LLM과 RAG(검색 증강 생성) 기술을 통해 데이터베이스에서 질문과 관련된 정보를 검색, 질의와 가장 유사한 내용의 답변을 찾아 전달한다. 생성형 AI, 보유 데이터, LLM과 보유 데이터의 결합 등 답변의 범위를 선택하여 설정하는 것도 가능하다.헬프나우 PS를 담당하는 베스핀글로벌의 박승호 이사는 “산업을 막론하고 많은 기업들이 고객 경험 향상을 위해 생성형 AI 기반의 챗봇 서비스를 빠르게 도입하고 있다. 한국공항공사 역시 김포국제공항 이용객들의 편의성을 크게 향상시키기 위해 헬프나우를 선택했다”고 설명하며 “헬프나우는 고객이 보유한 데이터와 최신 AI 기술을 활용하여 가장 탁월하고 정확한 답변을 지원한다. 헬프나우를 통해 AI 챗봇을 도입한다면 고객 경험 개선은 물론, 기존 챗봇과는 차별화되는 새로운 기준을 제시할 수 있을 것”이라고 덧붙였다.
- 구글클라우드, 유통업계용 ‘생성형 AI 솔루션’ 3종 발표
- [이데일리 김현아 기자]구글 클라우드가 전 세계 유통 업체의 혁신을 지원하는 새로운 생성형 AI 기술과 솔루션을 발표했다.이번 발표에는 △대화형 커머스 솔루션 △고객 서비스 현대화 솔루션 △카탈로그 및 콘텐츠 강화 솔루션 등이 포함됐다. 올해 1분기 출시된다.어떤 발표인데?구글클라우드의 유통업계용 생성형AI솔루션에는 △대화형 커머스 솔루션 △고객 서비스 현대화 솔루션 △카탈로그 및 콘텐츠 강화 솔루션 등 세 가지와 거대언어 모델(LLM)로 강화된 버텍스 AI(Vertex AI) 검색 기능, 구글 분산형 클라우드 에지(Google Distributed Cloud Edge)의 구성 업그레이드 등이 포함됐다.이를 통해 유통 업체는 고객에게 개인화된 온라인 쇼핑 경험을 제공하고, 운영 과정을 현대화하며, 매장 내 혁신 기술 도입을 가속화할 수 있을 것으로 기대했다.개인화된 온라인 쇼핑 경험 구현‘대화형 커머스 솔루션’은 유통 업체가 생성형 AI 기반 가상 에이전트를 웹사이트 및 모바일 앱에 쉽게 도입할 수 있도록 지원한다. 유통 업체는 소비자와 자연어로 대화하고 선호도에 따라 제품 추천을 제공하는 가상 에이전트를 구축할 수 있다.예를 들어 결혼식에 입을 정장 드레스를 찾는 고객에게 온라인 쇼핑 챗봇이 선호하는 색상, 장소, 날씨, 함께 착용할 액세서리, 예산 등에 따라 개인화된 옵션을 제공할 수 있다. 유통 업체는 단 몇 주 만에 이와 같은 고급 대화형 AI 에이전트를 구축하고 배포할 수 있다. 대화형 커머스 솔루션은 구글 클라우드의 버텍스 AI 플랫폼에서 실행할 수 있으며, 유통 업체의 기존 카탈로그 관리 애플리케이션에 통합할 수 있다. 쇼핑몰에 구글 LLM 적용 기능도 출시 ‘리테일 전용 버텍스 AI 서치(Vertex AI Search for retail)’라는 새로운 거대 언어 모델(LLM) 기능도 선보였다.리테일 전용 버텍스 AI 서치는 유통 업체가 자사 온라인 스토어에 구글의 검색, 탐색, 추천 기능을 기본 탑재할 수 있도록 제공하는 제품이다. 이제 자격 요건을 충족한 유통 업체는 자사의 제품 카탈로그와 소비자의 검색 패턴에 맞춰 LLM을 맞춤 조정할 수 있다. 이를 통해 특정 검색어에 적합한 제품의 순위를 더 높게 지정함으로써, 고객의 검색어와 연관성이 높은 제품을 표시하는 기능을 크게 향상시킬 수 있게 됐다.매장 운영 프로세스 혁신새로운 ‘고객 서비스 현대화 솔루션’은 유통 업체가 소비자의 셀프서비스(self-service) 및 참여도를 향상시킬 수 있도록 지원한다. 이는 유통 업체의 기존 고객 관계 관리(CRM) 시스템과 통합이 가능해, 유통 업체는 AI 기반 에이전트를 배포할 수 있다. 이를 통해 AI 기반 에이전트로부터 소비자 맞춤형 제품 추천, 예약 관리 및 주문 현황 확인 등의 업무 도움을 받을 수 있다. 고객 대화 요약, 내부 정보 통합을 위한 단일 인터페이스, 내부 리소스에 기반한 담당자의 실시간 응답 등을 통해 직원의 생산성을 향상시킬 수 있다.‘고객 서비스 현대화 솔루션’은 또 유통 업체와 브랜드가 기본 음성 및 채팅 기술 인프라를 혁신할 수 있도록 지원한다. 유통 업체는 이메일, 문자, 전화, 온라인 채팅 등 여러 고객 채널을 동시에 관리하면서, 고객 응대 서비스 중에도 다른 채널로 전환할 수 있다. 또, 이 솔루션과 구글 클라우드의 데이터 웨어하우스인 빅쿼리(BigQuery)를 결합하면 온라인 리뷰, 소셜 미디어 포스팅, 고객 피드백, CS 담당자와의 채팅 등 소비자의 종합적인 반응을 확인할 수 있다.구글 클라우드의 또 다른 신규 솔루션인 ‘카탈로그 및 콘텐츠 강화 솔루션’은 제품 카탈로그 작업을 간소화할 수 있게 지원한다. 제품 이미지와 설명 텍스트를 생성하고 분석한 다음 제품 설명, 제품 메타데이터, 검색 엔진 최적화(SEO)에 맞게 조정된 언어 등 다양한 콘텐츠를 자동으로 생성해 준다.매장 내 기술 현대화구글 클라우드는 완전 관리형 하드웨어 및 소프트웨어 제품인 구글 분산형 클라우드 에지(Google Distributed Cloud Edge)에 리테일 전용 구성을 추가해, 인터넷 연결이 열악한 매장 환경에서도 브랜드가 AI를 통해 혁신적인 고객 경험을 제공할 수 있도록 지원한다. 유통 업체는 구글 클라우드에서 관리할 수 있고 어느 매장이나 설치가 편리한 소형 폼 팩터 서버 3개로 IT 리소스를 절약할 수 있으며, 종합적인 매장 분석부터 핵심 매장 운영 프로세스 간소화 등을 할 수 있다.구글 분산형 클라우드 에지를 통해 유통 업체는 소비자에게 원활한 결제 환경을 제공하거나 일일 상품 입고량을 파악할 수 있는 AI 지원 솔루션 등 차세대 애플리케이션을 지속적으로 출시할 수 있다. 이 때 구글 클라우드는 유통 업체가 고객 서비스에 전념할 수 있도록 애플리케이션 구축을 위한 하드웨어 제공, 배포, 운영, 관리 등을 지원한다.올해 1분기 출시구글 클라우드가 이번에 발표한 ‘대화형 커머스 솔루션’, ‘고객 서비스 현대화 솔루션’, ‘카탈로그 및 콘텐츠 강화 솔루션’ 등은 올해 1분기 중 출시될 예정이다. 현재 자격 요건을 충족한 유통 업체에 프리뷰 버전으로 제공되고 있는 리테일 전용 버텍스 AI 서치의 LLM 기능은 연내 정식 버전(GA)으로 출시될 예정이다. 리테일 전용 구성이 추가된 구글 분산형 클라우드 에지는 올해 1분기 내 정식 버전 출시 예정이다.엄경순 구글 클라우드 커스터머 엔지니어링 총괄 디렉터는 “생성형 AI는 최근 불과 1년 만에 모든 기술 분야를 통틀어 가장 빠르게 변화하는 기술이자 유통 업계의 중요한 과제로 자리 잡았다”라며, “구글 클라우드는 유통 업체가 언제라도 생성형 AI 솔루션을 바로 구축해 직원의 효율성을 개선하고, 성장을 가속화할 수 있도록 지원할 준비가 돼 있다”고 전했다.
- 커넥트웨이브, 3Q 영업익 1106억원으로 11%↓…"운영지표는 성장"
- [이데일리 함지현 기자] 커넥트웨이브(119860)는 올해 3분기 연결기준 총 거래액(GMV) 3조원, 영업이익 1106억원, 조정 EBITDA 142억원을 기록했다고 14일 밝혔다. 커넥트웨이브에 따르면 전년 동기 대비 GMV는 6%, 영업이익과 상각 전 영업이익(EBITDA)은 각각 11% 감소한 수치다.(사진=커넥트웨이브)다만 회사 측은 분기 월간 활성 이용자 수(MAU), 고객(셀러)수, 출고건수 등 운영지표는 견조한 상승을 기록했다고 부연했다. 가격비교플랫폼인 다나와와 에누리의 검색엔진 최적화 및 사회관계망서비스(SNS), 블로그 등 콘텐츠 운영 강화로 소비자 접근성을 개선한 결과, MAU는 전년 동기 대비 9% 성장했다. 단가가 높은 컴퓨터 및 가전제품 수요 감소 영향으로 데이터커머스의 GMV는 전년 동기대비 감소했으나, 패션, 뷰티, 식·음료 등으로 카테고리를 확장해, 가전제품 수요 감소를 일부 방어했다는 게 회사 측 설명이다. 데이터 판매는 거래처 확대를 통해 매출 성장을 지속했다.이커머스 솔루션 부문의 고객(셀러) 수는 마이소호 고객수 22% 증가에 힘입어 전년 동기 4만 2019명에서 올해 3분기 4만 5466명으로 8% 증가했다. 이커머스 솔루션의 GMV는 전년 동기대비 대비 4% 감소한 2조 4000억원을 기록했다. 고객(셀러) 수의 증가에도 불구하고 이커머스 시장 둔화 영향으로 고객(셀러)들의 판매액이 감소해 GMV가 감소했다. 영업이익은 2022년 3분기 294억원 대비 238억원으로 19% 감소했다. 23년부터 실적 변동성이 높은 상품 판매를 중단한 것과 온라인 광고 시장 둔화로 메이크샵의 광고매출 감소가 영향을 미쳤다. 반면, 링크프라이스는 광고취급액이 증가하며 견조한 성장을 지속하고 있다.크로스보더 커머스 부문은 고환율과 인플레이션으로 인한 운송비 증가 등 비우호적인 외부환경에도 출고 건수가 지속 성장했지만, 단가가 높은 주류 및 대형가전의 해외직구 감소로 GMV와 영업이익은 감소했다. 출고건수 증가는 지난해 동기 대비 3% 성장한 59만건을 기록했다. 미국발 패션 및 건강보조식품 거래액이 증가했으며, 해외 간 크로스보더 커머스 관련 상품들의 출고건수도 늘었다. 단가가 높은 주류와 대형가전의 해외직구가 감소했으나, 패션 및 건강보조식품 카테고리의 성장으로 영업이익 하락을 일부 방어했다. 이건수 커넥트웨이브 대표는 “3분기 재무실적은 감소했으나 플랫폼 고도화 전략이 성과를 내면서 MAU, 고객수, 출고건수 등 운영지표가 견조하게 성장했다“며 “생성형 인공지능(AI) 플레이(PLAi)를 통해 커넥트웨이브 플랫폼 간 연결을 가속화함으로써 고객과 셀러를 위한 서비스를 끊임없이 개선시켜 나갈 것”이라고 말했다. 앞서 커넥트웨이브는 ‘생성형Ai 컨퍼런스’를 개최하고 이커머스 업계 최초로 상품과 이커머스에 특화한 생성형 Ai ‘PLAi’ 개발 계획을 발표했다.
- 영상 요약하는 AI, 씨이랩 ‘VidiGo’ 카카오톡 챗봇 서비스
- [이데일리 김현아 기자]인공지능(AI) 영상분석 전문 기업 씨이랩(대표 이우영)이 AI 기술을 활용한 새로운 서비스 ‘비디고 하이라이트(VidiGo Highlight)’를 카카오톡 채널의 챗봇 서비스로 선보인다. 이 서비스는 영상분석을 통해 자동으로 영상 하이라이트를 생성하고, 요약된 내용을 제공하는 것이 특징이다.‘VidiGo Highlight’는 사용자가 영상 파일이나 유튜브 영상 링크를 업로드하면, AI가 영상분석을 통해 주요 내용을 요약하거나 짧은 영상으로 제작하고 다운로드할 수 있다.이 서비스는 카카오톡 ‘VidiGo’ 채널을 통해 접근이 가능하며, 최신 GPT-4를 활용한 분석으로 높은 정확도를 제공한다. 또한, 분석 속도 최적화 기술을 통해 60분 길이의 영상을 6분 안에 분석하고 요약 처리할 수 있다.‘AI 스토리 제작’ 및 ‘AI 숏폼 제작’ 기능을 통해 온라인 강의나 콘퍼런스 영상의 주요 내용을 간단히 요약하거나, 인물·관계·상황 중심으로 추출하는 등의 활용이 가능하다. 이를 통해 영상 제작에 소요되는 시간과 비용을 절감할 수 있다.씨이랩은 ‘VidiGo Highlight’를 통해 B2C 시장을 공략하며, 이 서비스에 이어 AI 영상 검색 엔진 ‘VidiGo Search Engine’을 올해 안에 정식 출시할 계획이다.‘VidiGo Search Engine’은 텍스트를 통해 원하는 장면을 검색하고, AI가 해당 장면을 검색 결과로 제공하는 기능을 제공할 예정이다.씨이랩은 이 서비스를 통해 일반 대중이 AI 영상분석 기술을 쉽게 체험하고 활용할 수 있는 기회를 제공하며, 카카오톡 챗봇 형태로 서비스를 제공함으로써 이해도와 친숙도를 높일 것으로 기대하고 있다. 또한, 유튜버와 크리에이터 등 영상 편집자들에게 일정한 수고를 덜어주는 서비스로 소비자로부터 사랑받기를 기대하고 있다.
- 이건수 대표 "커머스 특화 생성형 AI로 초개인화 서비스 진화"
- [이데일리 함지현 기자] “지속적인 인수합병(M&A)을 통해 이커머스 연합군을 구성했다. 이제 연합군을 원팀으로 만들고 생성형 인공지능(AI)이라는 최신 무기를 장착해 시너지를 내겠다.”이건수 커넥트웨이브(119860) 대표가 개인화 거대언어모델(Private Large Language Model, LLM)인 ‘PLAi’(플레이)를 공개했다. 이를 통해 가격비교 플랫폼 ‘다나와’와 ‘에누리’, 쇼핑몰 제작 플랫폼 ‘메이크샵’, 해외직구 플랫폼 ‘몰테일’의 서비스를 더욱 고도화한다는 계획이다.이건수 커넥트웨이브 대표(사진=커넥트웨이브)◇생성형 AI·플랫폼·시너지 3대 키워드로 비전 제시이 대표는 8일 서울 영등포구 콘래드 호텔에서 ‘3C(ConnectWave, Commerce & Change) 생성형AI 컨퍼런스’를 개최하고 △생성형AI △플랫폼 △시너지 등 세 가지 키워드를 중심으로 커넥트웨이브의 비전에 대해 소개했다.커넥트웨이브가 선보인 PLAi는 상품 및 커머스에 특화한 AI다. 국내 대표 AI 스타트업 업스테이지와 함께 개발했다. 모든 분야에 접목 가능한 챗GPT 등과 달리 커머스에 특화해 경량화한 프라이빗 LLM를 채택해 학습·추론 비용을 낮췄다. 최신 정보를 빠르게 학습해 적용한다는 점도 강점이라는 게 그의 설명이다.이 대표는 “PLAi는 상품에 대해서 말을 잘하고, 상품에 대해서 잘 이해하는 AI”라며 “이미 14억개의 쇼핑데이터를 확보했을 뿐 아니라 짧은 주기의 최신정보 학습, 검색 증강 생성(RAG) 활용, 답변 생성 시 최신 데이터 참조를 통해 고객이 원하는 상품을 가장 잘 찾아주는 AI로 발전시킬 것”이라고 말했다.활발한 M&A로 다양한 플랫폼을 구축하고 있는 커넥트웨이브는 검색 엔진 등을 통합해 비용을 절감하고 인프라를 강화한다. 동시에 각 플랫폼에 맞는 특화한 서비스를 선보일 계획이다. 먼저 지난 20년 동안 가격비교 시장을 놓고 경쟁했던 다나와와 에누리는 협력을 통해 서로의 경쟁력을 끌어올린다. 통합 검색엔진 구축, 데이터 센터(IDC) 통합을 통해 가격비교 서비스 인프라를 강화한다. 그러면서도 여성 사용자가 많은 에누리는 패션이나 건강기능식품을, 남성 사용자가 많은 다나와는 PC 관련 제품에 집중하는 식이다. 여기에도 물론 PLAi가 핵심적인 전략을 차지한다. 다나와는 ‘VS검색’에 PLAi를 결합한다. 이를 통해 “가성비와 이동성이 좋은 노트북을 추천해 달라”는 식의 자연어 검색을 통해 제품 비교 결과를 호출할 수 있다. VS검색은 여러 제품의 사양, 가격, 후기를 한 페이지에서 비교할 수 있는 서비스다. 또한 PLAi기술을 샵다나와, 다나와자동차 등 성공적으로 안착한 서비스를 비롯해 골프, 여행, 데스크테리어 등 차세대 서비스에 적용해 나간다.에누리는 지난해 11월에 론칭한 가격구독 서비스와 PLAi를 더해 ‘초개인화 서비스’로 발전시킨다는 목표다. PLAi를 활용한 차세대 검색엔진은 사용자 의도를 정확하게 파악하고 원하는 제품을 찾아내는 데 혁신적인 역할을 할 것으로 기대하고 있다. 향후 성장성이 높은 뷰티, 반려동물, 건강식품 카테고리에서는 차별화한 서비스를 내놓을 예정이다.쇼핑몰 제작 솔루션인 ‘메이크샵’에서는 쇼핑몰의 리뷰와 답글을 학습한 전용 LLM이 고객 리뷰에 대한 자동 답글을 작성하고, 리뷰 요약 및 긍정·부정 키워드 추출과 분석을 지원한다. 또한 고객 정보 및 주문데이터를 기반으로 학습한 개인화된 상품추천, 상품 검색엔진 최적화 메타 태그 키워드 자동생성, 상점별 톤 학습 기반 상품명 추천 및 상품 상세 설명 생성 등 생성형Ai 기술에 기반한 다양한 서비스도 개발한다. 몰테일은 올해 약 6조원 규모가 될 정도로 성장하고 있는 해외직구 시장에서 폭발적으로 증가하고 있는 구매대행 판매자들을 대상으로 글로벌 풀필먼트 서비스를 제공해 성장한다는 방침이다. 또한 메이크샵·플레이오토 등 커넥트웨이브의 다른 플랫폼들과 협업해 국내 판매자의 온라인 해외진출을 지원하고, 글로벌 브랜드의 한국 온라인 시장 진출을 서포트 하는 등 시너지를 극대화할 방침이다.◇“개발자·시스템에 투자하면서 매년 성장할 것”이 대표는 “이커머스 업체들이 코로나 시기 정점을 찍고 내려오는 추세긴 하지만 우리는 여러 회사들의 시너지를 통해 성장을 촉진할 것”이라며 “PLAi를 접목해 검색 품질이 좋아지거나 기존에 할 수 없던 검색을 제공해 더 나은 경험을 제공하면 소비자들의 신규 유입을 빠르게 이뤄낼 수 있다고 본다”고 말했다.그는 “생성형AI를 접목한 플랫폼을 강화하고 서로 시너지를 내는 모델이 어느정도 궤도에 오를 수 있는 기간은 3년 정도로 보고 있다”며 “매년 성장하는 모습을 보일 것”이라고 부연했다. 아울러 “개발자와 시스템에 투자를 하지만, 매출 증가분 이내에서 진행할 것이기 때문에 역성장을 계획하진 않고 있다”며 “기업 가치 측면에서는 매출보다 에비타(EBITDA, 상각전영업이익)가 중요하다고 생각한다. 지금보다 3배 정도 키우는 게 목표”라고 밝혔다. 커넥트웨이브의 지난해 기준 EBITDA(세전·이자지급전이익)는 519억원이다. 이 대표는 확정적으로 말하지는 않았지만 EBITDA 3배 성장 시점을 약 5년 가량으로 시사했다.
- “메타 라마 대신 KT 믿음”…KT, 생성형AI 기업시장 올인
- [이데일리 김현아] 디자인=이데일리 김정훈 기자KT AI/BigData 사업본부 최준기 본부장, KT AI2XL 연구소 배순민 소장, ‘매스프레소’ 이용재 대표KT(030200)(대표 김영섭)가 거대언어모델(LLM)‘믿음(Mi:dm)’의 출시를 공식 발표했다. 파운데이션 모델의 성능지수 중 하나인 파라미터(매개변수)는 최대 2000억개 이상이다. 네이버 ‘하이퍼클로바X’의 이전 버전(하이퍼클로바)의 2년 전(2021년 11월 기준)숫자가 2040억개였으니, 파라미터로는 네이버에 뒤진다.하지만, 통신사 자체 LLM 가운데에서는 ‘믿음’이 가장 크다. 자체 클라우드 인프라에 추론(서비스)용으로 국산AI 반도체 리벨리온을 장착해 비용을 최대 50%(통상 20~30%)까지 낮춘 점은 네이버보다 낫다는 평이다. 이에 따라 KT의 ‘믿음’은 네이버가 주력하는 생성형AI 기반 검색서비스(큐:)같은 소비자 시장(B2C)이 아니라, 기업 시장을 타깃으로 했다. 네이버 ‘하이퍼클로바X’와 기업시장에서도 경쟁하지만, KT의 주력은 기업시장이다. 특히 70억 개 파라미터 파운데이션 모델을 공개해 국내 기업들이 많이 활용하는 메타의 오픈소스 LLM ‘라마’와 경쟁하게 될 것으로 보인다.3년 뒤 1천억 대 매출 예상…5년간 1.5조 원 투자는 유효최준기 KT AI·빅데이터 본부장은 31일 열린 온라인 기자간담회에서 KT ‘믿음’을 공개하며 기업고객을 위한 솔루션임을 강조했다. 최 본부장은 “AI 전문인력이 없어도 기업들이 쉽게 AI를 학습시키고 배포, 운영할 수 있도록 ‘믿음 스튜디오’를 제공한다”면서 “몇 번의 클릭만으로 자사의 데이터를 파인튜닝(미세조정)해서 쓸 수 있다”고 했다. 그는 KT 믿음과 KT클라우드 인프라를 함께 쓰면 비용이 줄어들 것이라고도 했다. 최 본부장은 “KT는 AI풀스택(AI 반도체·클라우드 등 인프라부터 이용자에게 제공하는 AI 응용 서비스까지 모두 아우르는 것)을 통해 통상 30% 이상 절감된 금액을 제공해드리려 한다”고 언급했다. 기존 대비 약 27% 가까운 GPU 학습 비용 절감이 가능한 KT 클라우드의 HAC(Hyperscale AI Computing) 서비스와 서비스 비용을 기존 대비 50% 절감한 리벨리온의 NPU 인프라 덕분이다. 최 본부장은 “기업시장에서 3년 뒤 1천 억원 대 매출을 예상한다”며 “5년간 1.5조 원을 생성형AI에 투자하겠다는 계획은 유효하다”고 부연했다.금융·제조·교육 등에 적용…콴다·업스테이지와도 협업KT는 글로벌, 제조, 금융, 공공, 교육의 5대 영역으로 초거대AI 사업을 확대하겠다는 계획이다. 복잡한 금융 상품을 소비자에게 쉽게 설명하려면 Q&A엔진이 필요하고, 언론사에서도 보도자료를 올리면 기사 작성 초안 서비스를 도울 수 있다고 했다. 언젠가는 메뉴 사진을 찍어 올리면 알아서 주문까지 해주는 서비스가 가능해질 것으로 전망했다.구글·앤트로픽·오픈AI(MS)·메타 등 글로벌 빅테크와의 전쟁 속에서, KT는 환각을 줄이고 AI윤리를 더 챙기는 것으로 ‘믿음’의 기술력을 자신하기도 했다. 배순민 AI2XL 연구소장은 “AI의 환각 답변 문제를 해결하기 위해 검색과 추론, 답변의 모든 단계에서 신뢰성을 높일 기술들을 개발해 적용했다”면서 “도식화된 문서도 모델이 정확히 이해할 수 있도록 변환하는 기술, 목표 도메인과 문서에 최적화된 최신 정보를 찾아내는 딥러닝 기술, 원문에 근거한 응답을 생성하도록 한 강화학습을 적용했다”고 했다. KT는 이로 인해 생성형 AI의 가장 큰 문제점인 환각 현상을 일반 생성형 AI 서비스 대비 최대 70% 가까이 줄일 수 있다고 자신했다. 교육 서비스 콴다를 서비스하는 매스프레소, sLLM(소형언어모델) 개발업체 업스테이지도 KT 믿음과 함께 한다.왼쪽부터 ‘매스프레소’ 이용재 대표, ‘업스테이지’ 김성훈 대표, KT SW개발본부 조성은 본부장70억개 저용량 ‘믿음’ 모델 개방스타트업들은 특히 KT가 70억개 파라미터를 가진 저용량 파운데이션 모델을 개방한 점을 높게 평가했다. ‘믿음’의 저용량 모델을 허깅페이스와 리더보드에 올려, 누구나 즉각 다운로드해서 쓸 수 있게 한 것이다. 김성훈 업스테이지 대표는 “KT가 오픈한 것은 굉장히 큰 결단이었고 생태계에 큰 영향을 미칠 것”이라면서 “LLM 시장에서 오픈 소스 오픈 영역은 미치는 영향이 굉장히 큰데 한국어가 안 된다. 그런데 믿음이 나와 메타의 오픈소스 LLM ‘라마’보다 훨씬 더 좋은 베이스라인 모델을 만들어준다면 한국어로 된 서비스, 한국어로 된 모델들이 굉장히 많이 나오게 될 것”이라고 기대했다. (그래픽=문승용 기자)
- LG U+, LG AI연구원과 통신특화 LLM 개발한다
- [이데일리 김현아 기자]LG U+ 초거대 AI 전략LG AI연구원의 ‘엑사원’ 모델 기반 AI 브랜드 ‘익시’ 구성도LG유플러스가 LG AI연구원의 초거대 AI인 ‘엑사원’ 모델 기반의 통신특화 거대언어모델(LLM)을 개발하고, 구글-MS 등과 협력해 초거대 AI 서비스 경쟁력을 강화한다.LG유플러스(대표 황현식)는 통신·플랫폼 데이터와 AI 기술 역량을 활용해 통신 맞춤형 AI인 ‘익시젠(ixi-GEN)’을 개발한다고 29일 밝혔다.회사는 ▲자사 고객을 위한 통신·플랫폼 서비스에는 익시젠을 ▲전문가 전용 초거대 AI서비스에는 LG AI연구원과 협력한 초거대 AI ‘엑사원(EXAONE)’을 각각 활용한다.AI 브랜드 ‘익시(ixi)’의 초거대 언어모델로 익시젠을 개발하고, 기존에 확보한 추천·예측·검색·비전 AI 엔진을 고도화해 전체적인 AI 기술 전문성을 확보할 방침이다. 익시젠의 기본 모델은 ‘엑사원(LG AI연구원)’이다.황규별 CDO(전무)는 “익시젠을 중심으로 LG AI연구원과 협력하고, 글로벌 빅테크 기업과도 긴밀히 협력해 초거대 AI 서비스 경쟁력을 강화하겠다”고 밝혔다.통신 데이터 학습한 특화 엔진 ‘익시젠’ 내년 상반기 출시‘익시젠(ixi-GEN)’이라는 이름은 ‘익시(ixi)’와 ‘생성형 AI(Generative AI)’를 결합한 것으로, LG AI연구원의 엑사원의 원천 AI 소스에 기반해 LG유플러스의 통신·플랫폼 데이터를 학습시킨 거대언어모델( LLM, Large Language Model)이다.익시젠은 일반 범용 LLM과 달리 통신·플랫폼 데이터를 추가 학습해 통신업에 특화된 서비스를 제공한다. LG유플러스는 내년 상반기 중 익시젠 서비스를 본격 출시하고, 너겟·IPTV등 고객 접점이 많은 서비스 및 플랫폼에 챗봇 형태로 적용할 계획이다. 익시젠 기반의 챗봇은 고객에게 맞춤형 상품 추천부터 정교한 상담까지 초개인화된 안내를 제공할 수 있다.구글·MS와도 손잡는다..투트랙 전략LG유플러스는 LG AI연구원과 함께하는 통신특화 AI엔진 익시젠과 함께, 구글·MS의 AI와도 협력하는 ‘투트랙 전략’을 쓴다.앞서 LG유플러스는 엑사원과 협력해 지난 9월 유통·금융·제조 등 기업 고객을 대상으로 구독형 AICC를 출시했다. 기업 고객은 초기 구축 비용 부담 없이 콜봇이나 실시간 대화록 등의 서비스를 이용할 수 있다.여기에 ‘엑사원2.0’과 협력해 AICC를 고도화할 계획이다. 이는 고도화된 학습을 통해 ‘전문가를 위한 AI ‘로 불린다. 엑사원2.0 기반의 구독형 AICC는 보다 전문적인 영역에서도 안정적인 서비스를 제공할 수 있을 것으로 기대했다.아울러 LG유플러스는 글로벌 빅테크 기업과의 AI 협력도 본격화한다. 앞서 LG유플러스는 MS의 애저를 활용해 챗Agent 서비스를 개 발, 자사 구독 플랫폼인 ‘유독’에 적용했다. 유독에 적용된 챗Agent는 정해진 답변만 하는 일반 챗봇과 달리, 고객에게 구독 서비스 상품을 추천하고, 구독 방법을 알려주는 서비스 등을 제공한다.LG유플러스는 자체 제작한 익시젠, 엑사원, 글로벌 빅테크 기업 의 초거대 AI를 적절히 활용해 고객사에 맞춤형 AI 서비스를 제공, 국내 AI 생태계 활성화에 기여한다는 계획이다.AI 통합 브랜드 ‘익시’ 고도화LG유플러스는 앞으로 자체 개발한 ▲검색 ▲추천 ▲예측 ▲비전 등 AI엔진도 고도화한다. AI 통합 브랜드 ‘익시’ 산하에 확보된 각종 AI 엔진의 성능을 개선해 LG유플러스의 각종 플랫폼에 적용, 고객에게 차별화된 혜택을 제공한다는 계획이다.브랜드 출시 1년동안 익시는 다양한 플랫폼에 탑재했다. 익시의 ‘검색 AI’ 기술은 IPTV 서비스인 U+tv NEXT 2.0 에 고도화된 형태로 적용, IPTV/OTT 콘텐츠명에 최적화된 사용자 음성 인식 및 사용자의 의도를 파악한 검색 기능으로 강화됐다. 그 결과 고객이 검색한 결과를 실제로 시청하는 시청전환율이 6.9%포인트 증가하는 성과를 거뒀다고 회사 측은 밝혔다.익시의 ‘추천 AI’ 기술은 키즈 전용 서비스인 ‘아이들나라’와 U+tv NEXT 2.0에 적용, 매일 발생하는 1 천만건의 고객 이용 데이터를 활용해 추천 엔진 고도화로 이어졌다. 이를 통해 아이들나라의 콘텐츠 노출 대비 클릭률은 35% 성장했고, U+tv NEXT 2.0은 AI가 추천한 콘텐츠를 선택하는 트래픽이 144% 증가했다‘예측 AI’ 기술은 통합 스포츠 커뮤니티 플랫폼인 ‘스포키’가 제공하는 승부 예측 서비스에 적용돼 2023 한국프로야구(KBO) 정규 리그에서 LG트윈스의 승리를 65% 확률로 예측했고, ‘비전 AI’ 기술은 스포키에 적용돼 하이라이트 영 상으로 자동 생성하는 ‘득점장면 AI 하이라이트’ 서비스 출시로 이어졌다.LG유플러스 황규별 CDO는 ”통신 및 플랫폼 영역에서 확보한 데이터를 활용해 차별화된 AI 서비스를 제공, 플랫폼 사업자로 전환하겠다는 ‘U+3.0’ 전략을 지원할 것”이라며 “다양한 통신 서비스 데이터를 기반으로 고객을 더 잘 이해하고 새 경험을 제공하는 AI 서비스로 고도화해 나갈 것”이라고 했다.(그래픽=문승용 기자)
- LG CNS, 기업용 생성형AI 플랫폼 'DAP GenAI' 출시
- LG CNS 직원들이 생성형 AI 플랫폼 「DAP GenAI」를 소개하는 모습(사진=LG CNS)[이데일리 김가은 기자] LG CNS는 기업용 생성형 인공지능(AI) 플랫폼 ‘DAP 젠(Gen) AI’를 출시했다고 12일 밝혔다. DAP 젠AI는 △AI 서비스 △AI 프롬프트 △거대언어모델(LLM)옵스 등 3대 모듈을 제공한다. 자체 서버, 클라우드 등 보유 중인 인프라에 설치하기만 하면 자유롭게 사용할 수 있는 점이 특징이다.DAP 젠AI는 기업이 가진 문서, 데이터베이스(DB) 등 내부 정보자산을 활용하고, 다양한 보안 필터 등을 적용할 수 있어 거짓이나 왜곡된 내용을 생성하는 정보 왜곡현상(할루시네이션)을 방지하고 보안 고민도 해결한다. 3대 모듈 중 ‘AI 서비스’는 생성형 AI 서비스를 빠르게 기획·개발·배포하도록 돕는다. 오픈AI ‘챗GPT’, 앤트로픽 ‘클로드(Claude)’, 구글 ‘팜2(PaLM2), LG AI연구원 ‘엑사원(EXAONE)’ 등 다양한 LLM을 활용할 수 있다. 이를 통해 문서 요약, 분류와 같은 단순한 AI 서비스부터 상품 추천, 자료 기반 보고서 작성 등과 같은 복잡한 서비스도 만들 수 있다. 예를 들어 금융사에서 소비자를 위한 보험상품 추천 AI 서비스를 개발하고 싶다면 △질문을 입력한 소비자 정보를 확인할 기업의 고객정보 데이터베이스 △알맞은 상품을 검색해주는 프롬프트 △추천과 답변에 적합한 LLM을 각각 선택해 설정하기만 하면 된다. 개발이 완료된 서비스는 플랫폼을 통해 실제 운영 환경에 맞춰 테스트도 가능하다. 내부 정보유출 방지를 위한 필터 기능도 탑재돼 있다.‘AI 프롬프트’는 생성형 AI의 활용에 있어 가장 중요한 ‘프롬프트’를 만들 수 있는 모듈이다. 여기에는 AI가 정교한 답변을 할 수 있도록 명령어를 만드는 ‘프롬프트 엔지니어링’ 노하우가 탑재돼 있다. 마케팅 문구 생성 등과 같이 LG CNS 전문가들이 미리 구현해둔 프롬프트를 즉시 사용하거나, 이를 기반으로 새로운 프롬프트를 만들어 업무에 빠르게 적용할 수 있다. ‘LLM옵스’는 기업이 엑사원이나 다양한 오픈소스 LLM을 파인튜닝(미세조정) 함으로써 비즈니스에 특화된 LLM을 만들 수 있도록 한다. 민감한 데이터를 다루는 금융, 공공 등처럼 ‘프라이빗 LLM’을 보유하고자 하는 고객을 위한 모듈이다. 고객은 원하는 LLM을 선택해 보유하고 있는 데이터를 학습시킬 수 있다. LLM을 학습시킬 때에는 매개변수(파라미터) 값을 별도 설정해 성능도 유연하게 조정할 수 있다. 학습 과정은 실시간으로 모니터링 가능하다. 따라서 진행상황을 보면서 학습을 멈추고 데이터를 조정하는 등 개입을 할 수 있다. 제작된 모델들간 성능 비교도 지원한다. LG CNS는 고객이 상황별로 서비스 최적의 LLM을 선택해 활용할 수 있도록 DAP 젠AI를 지속 고도화해나갈 계획이다. 복수의 LLM을 활용하는 고객 맞춤형 ‘멀티 엔진(Multi-Engine)’ 전략의 일환이다. 박상균 LG CNS D&A(Data Analytics&Artificial Intelligence)사업부장 전무는 “LG CNS의 생성형 AI 기술 역량을 집약해 고객이 손쉽게 사용할 수 있는 플랫폼을 구현했다”며 “앞으로도 고객이 생성형 AI와 같은 원천기술을 통해 비즈니스를 혁신할 수 있도록 앞장서겠다”고 했다.
