김대현 "삼성, NPU 개발중…당장 엔비디아 넘긴 힘들어"

[이데일리 김소연 기자] 김대현 삼성리서치 글로벌AI센터장은 14일 “2년 내 인공지능(AI) 연산을 위한 신경망처리장치(NPU)는 엄청나게 많이 나올 것”이라며 “삼성도 온비다이스AI용 NPU를 만들고 있고, 마하와 같은 클라우드용 NPU도 개발 중”이라고 말했다. 이어 “다만 NPU가 엔비디아의 그래픽처리장치(GPU)를 바로 뛰어넘기는 쉽진 않은 상황”이라고 진단했다.

김 센터장은 서울 여의도 국회의원회관에서 고동진 국민의힘 의원 주최로 열린 간담회에서 이같이 말했다. 김 센터장은 국내에서 NPU를 만들고 있는 기업들을 위한 정책적 지원도 함께 이뤄져야 한다고 봤다.

김대현 삼성리서치 글로벌 AI센터장이 14일 서울 여의도 국회의원회관에서 열린 간담회에서 AI 가속기 동향에 대해 설명하고 있다. (사진=김소연기자)

김 센터장은 “NPU 성장 가능성은 매우 높기 때문에 삼성전자(005930)에서도 ‘마하’와 같은 클라우드용 NPU와 온디바이스AI를 위한 NPU 등 여러 개의 프로젝트를 추진하고 있다”며 “삼성리서치는 TV용 NPU를 개발 중”이라고 설명했다.

현재 AI 워크로드에 필요한 데이터센터의 대표 컴퓨팅 플랫폼이 GPU다. 마이크로소프트, 메타 등 미국 빅테크는 엔비디아의 GPU를 통해 AI 데이터센터를 짓고 있다. 엔비디아가 이 시장을 독점하고 있다. 값비싼 엔비디아의 GPU에 대항하기 위해 구글을 비롯한 MS, 메타, 아마존 등이 자체적으로 칩을 설계해 AI 연산에 특화한 NPU를 만들고 있다. 구글은 자체 NPU인 텐서처리장치(TPU)를 만들었다.

엔비디아의 독점이 가능한 이유는 바로 ‘쿠다’라는 소프트웨어 덕이다. 김 센터장은 “하드웨어인 GPU를 잘 구동하려면 그에 맞는 소프트웨어도 중요하다”며 “GPU를 완벽하게 대체하려면 NPU 구동을 위한 소프트웨어 스택이 필요하다”고 설명했다.

정부가 엔비디아 GPU 기반 AI 연구를 지원하면서 동시에 NPU 개발 스타트업을 육성하기 위해 소프트웨어를 지원하는 ‘투트랙 전략’을 김 센터장은 제안했다. 그는 “NPU의 잠재력은 뛰어나지만 부족한 부분이 소프트웨어”라며 “스타트업에서 만든 NPU 칩을 테스트베드할 환경을 제공하는 정책 지원이 이뤄져야 한다”고 했다. 아울러 정책 지원이 스타트업의 자생력을 유도하는 방향으로 쓰여야 한다는 점도 명확히 했다.

김대현 삼성리서치 글로벌 AI센터장이 14일 서울 여의도 국회의원회관에서 열린 간담회에서 AI 가속기 동향에 대해 설명하고 있다. (사진=김소연기자)