GPU 독립 외친 KT…“엔비디아와 경쟁, 해외로”

KT 직원들이 KT 클라우드 데이터 센터에서 시스템을 점검하고 있다. KT 제공

[이데일리 노재웅 기자] KT(030200)가 오는 2023년까지 그래픽처리장치(GPU) 기술력을 100% 국산화해, 글로벌 시장에서 엔비디아(NVIDIA)와 경쟁 관계를 구축해보겠다고 출사표를 던졌다.

김주성 KT클라우드사업담당 상무는 27일 온라인으로 열린 KT 디지코 스터디에서 “2023년까지 전용 AI 칩을 개발해 GPU 기술력을 국산화하겠다”며 “2024년부터는 해외로 뛰어들어 감히 엔비디아와 경쟁 관계를 구축하고, 글로벌 AI 리더십을 구축하겠다”고 밝혔다.

KT의 이 같은 목표는 지난 10일 출시한 클라우드 기반의 GPU 인프라 제공 서비스 ‘하이퍼스케일 AI 컴퓨팅(이하 HAC)’을 통해서 추진한다. HAC는 AI 인프라 솔루션 전문기업 모레(Moreh)에 투자하면서 지난 1년 6개월여 동안 공동 협력, 개발을 지속한 끝에 구축한 성과다. 모레와 KT가 각각 보유한 AI 인프라, 클라우드 구축 노하우를 접목했다.

HAC는 국내 최초로 고비용의 GPU 인프라를 ‘동적할당’ 방식으로 제공하는 실 사용량 기반 종량제 서비스다. 클라우드의 본질인 ‘사용한 만큼 지불한다’는 개념을 GPU에 적용했다.

AI 서비스를 개발하려는 전문기업이나 개발자들이 AI 서비스 GPU 자원을 원하는 시점에 원하는 만큼 할당받아 사용하고 이후에 자동 반납하는 식으로 클라우드 기반의 대규모 AI 컴퓨팅(연산)이 가능하도록 구현했다.

김 상무는 “현재 모두의 연구소, 바스젠바이오, 디핑소스 등 AI 벤처 기업 위주로 무료 프로모션을 진행 중”이라며 “이를 통해 테스트해보고 가장 합리적인 요금을 설계하고자 한다. 최종 목표는 기존 경쟁 서비스 대비 최대 70% 할인된 요금제를 설계할 계획”이라고 말했다.

아울러 기존 클라우드 서비스가 하나의 물리 서버(노드, Node)에 최대 8개의 GPU만 제공 가능했던 것과 달리 HAC는 수백~수천 개의 대규모 GPU 클러스터링을 할당해 사용할 수 있어, AI 모델이 대형화되더라도 별도 수정 없이 대응할 수 있다.

개발 과정에서 규모가 커져 싱글 GPU에서 멀티 GPU로 확장할 때도 소스코드를 별도로 재설계하지 않고도, 호환성을 제공해 바로 이용할 수 있도록 연속성을 보장한다. 반대로 필요한 자원이 줄어들 때도 서비스 중단 없이 바로 할당된 자원을 변경할 수 있다.

KT는 2022년 한 해 동안 국내 기업들에 HAC를 최대한 많이 공급해 서비스를 고도화하는 한편 초대규모 GPU 팜(Farm)을 구축하고, 2023년에는 전용 AI 칩까지 제작한다는 목표다. 이를 통해 앤비디아 등 해외기업이 점령 중인 GPU 시장에서 한 자리를 꿰차보겠다는 계획이다.

우리 정부에는 국가 R&D존을 제안, 정부가 추진하는 여러 과제 연구개발에 소요되는 설비 투자비를 절감하는 데도 기여하겠다는 목표다.

김 상무는 “정부도 해외기업의 GPU 독점 문제를 인지하고 있다”면서 “올 하반기부터 과기정통부를 통해서 국가 R&D존을 제안 중이다. 연간 정부 과제를 위한 설비 투자비로 3000억원가량이 소요되는데, 저렴한 인프라 제공을 통해 효율적인 연구개발을 도울 수 있을 것”이라고 밝혔다.

하이퍼스케일 AI 컴퓨팅 확대 계획. KT 제공