엔비디아, MS 애저에서 ‘생성형 AI’ 파운드리 서비스 제공

[이데일리 김현아 기자]

엔비디아가 마이크로소프트(Microsoft)클라우드 서비스 애저(Azure)에 AI 파운드리(위탁생산)서비스를 제공한다고 밝혔다.

이 서비스는 스타트업을 비롯한 기업들에게 맞춤 생성형 AI 애플리케이션의 개발과 튜닝 강화를 제공한다. 튜닝이란 주어진 시스템의 자원을 최대한 효율적을 사용하게끔 하는 작업이다

엔비디아 AI 파운드리 서비스는 엔비디아 AI 파운데이션 모델, 엔비디아 네모 프레임워크, 엔비디아 DGX 클라우드 AI 슈퍼컴퓨팅 서비스를 통합해 엔드 투 엔드 솔루션을 제공한다.

이를 통해 기업들은 엔비디아 AI 엔터프라이즈 소프트웨어와 함께 자사에 맞는 생성형 AI 모델을 제작하고 배포할 수 있다.

SAP SE, 암독스(Amdocs), 게티 이미지(Getty Images) 같은 선도 기업들이 해당 서비스를 사용해 맞춤형 모델을 구축하고 있다.

엔비디아의 창립자 겸 CEO인 젠슨 황은 “엔비디아 AI 파운드리 서비스는 엔비디아의 생성형 AI 모델 기술, 대규모 언어 모델(LLM) 트레이닝 전문성, 대규모 AI 팩토리를 통합한다”며 “이를 마이크로소프트 애저에 구축해 전 세계 기업들이 맞춤형 모델을 마이크로소프트의 세계 최고 클라우드 서비스와 연결할 수 있도록 했다”고 설명했다.

마이크로소프트의 CEO 사티아 나델라는 “엔비디아와의 파트너십은 새로운 AI 시대를 위해 함께 혁신하고 있다”며 “엔비디아의 생성형 AI 파운드리 서비스를 통해애저에서 기업들이 클라우드를 기반으로 AI 애플리케이션을 구축하고 배포할 수 있는 새로운 기능을 제공한다”고 강조했다.

엔비디아 AI 파운드리 서비스는 업계 전반에서 생성형 AI 기반 애플리케이션용 모델을 맞춤 설정하는 데 사용될 수 있으며, 배포가 완료되면 RAG(Retrieval Augmented Generation) 기술을 통해 모델을 엔터프라이즈 데이터와 연결할 수 있다.

SAP는 마이크로소프트 애저 기반 엔비디아 DGX 클라우드의 첫 번째 고객이며, 암독스는 어메이즈 프레임워크에 대한 모델을 최적화하고 있다.

엔비디아 AI 파운드리 서비스를 사용하는 고객은 애저 AI 모델 카탈로그에서 여러 엔비디아 AI 파운데이션 모델 중 선택할 수 있다. 또, 메타의 라마2(Llama 2)와 같은 커뮤니티 모델도 애저 AI 모델 카탈로그에 추가될 예정이다.

엔비디아 DGX 클라우드 AI 슈퍼컴퓨팅은 현재 애저 마켓플레이스에서 이용 가능하며, 엔비디아 AI 엔터프라이즈 소프트웨어는 애저 머신 러닝에 통합돼 엔터프라이즈급 AI 서비스를 제공한다.