|
기업 조직이 비즈니스 전 과정을 자동화할 뿐만 아니라 의사결정 개선, 고객 경험 향상을 이룰 수 있도록 지원한다는 계획이다. 오라클 생성형 AI 서비스는 ‘오라클 클라우드 인프라스트럭처(Oracle Cloud Infrastructure, OCI)’를 기반으로 구축된다.
코히어는 오라클과의 협력을 통해 자사 생성형 AI 모델을 OCI에서 훈련, 구축, 배포할 예정이다. OCI는 클러스터당 1만6000개 이상 ‘H100’ 그래픽처리장치(GPU)와 초저 대기 시간, 클라우드 사상 최고 대역폭을 제공하는 RDMA(Remote Direct Memory Access) 네트워크를 통해 성능을 끌어올렸다. 특히 이번 협력을 통해 대규모 언어 모델(LLM) 훈련 가속화 및 비용 절감 효과도 있을 전망이다.
마틴 콘(Martin Kon) 코히어 회장 겸 최고운영책임자(COO)는 “오라클과 코히어는 데이터 보안과 모델 커스텀화에 중점을 두고 있다”며 “오라클과 코히어는 전 세계 기업들이 자사 AI 이니셔티브를 가속화하고, 데이터 보안과 개인정보 보호를 보장하는 것은 물론, 새로운 수준의 자동화 기능도 제공할 것”이라고 말했다.