“인텔·엔비디아 부럽지 않다”…K-AI반도체의 자신감

[이데일리 김영환 기자] “사피온은 2016년부터 인공지능(AI) 반도체 개발을 시작했습니다. 세계 유수의 반도체 회사와 비슷한 시점에 시작해 노하우를 쌓았습니다.”

정무경 사피온코리아 최고기술책임자(CTO) 겸 연구개발(R&D) 센터장은 AI 반도체 분야에서 사피온의 경쟁력을 확신했다. 지난 10일 경기 판교 이노밸리에 있는 사피온코리아 사무실에서 만난 정 센터장은 “신경망 처리장치(NPU) 시장은 커지고 있지만 절대강자는 사실상 없는 상황”이라며 설명했다.

정무경 사피온 CTO(사진=김영환 기자)

절대강자 없는 NPU 시장…“NPU 기술장벽 높지 않아”

정보기술(IT)에 문외한이더라도 인텔의 중앙처리장치(CPU)와 엔비디아의 그래픽처리장치(GPU)는 한 번쯤 들어봤을 법하다. 많은 PC와 노트북 어딘가에 인텔과 엔비디아의 스티커가 붙어 있다. CPU와 GPU는 컴퓨터 성능을 좌우하는 핵심 부품이다.

그래픽 처리작업이 늘어나면서 더욱 주목받은 GPU는 AI 시대 들어 더욱 각광받고 있다. GPU는 병렬 구성으로 CPU보다 단순연산을 반복적으로 대량 수행해 빠른 처리 속도를 자랑한다. AI는 그래픽보다도 훨씬 대량의 반복 연산을 필요로 한다. NPU 시장이 커지는 배경이다.

CPU와 GPU 등 시스템 반도체 시장은 사실상 승자 독식 구조다. 수 십년간 노하우를 축적한 인텔과 엔비디아를 따라잡기 위해서는 천문학적 비용과 시간이 필요하다. 막상 개발에 성공하더라도 시장의 선택을 받을 가능성이 낮은 게 사실이다.

반면 AI기술 적용을 위한 위한 데이터 처리 과정에서 나타난 NPU 시장은 누구에게나 열린 시장이다. 높은 기술력을 필요로 하지만 절대 강자가 없어서다. 더욱이 활용성이 광범위해 응용 영역에 따라서 시장을 나눠 점유할 가능성이 높다는 게 내부적 판단이다.

정 센터장은 “2016년 우리가 개발을 시작했을 당시 NPU라는 새로운 시장이 앞으로 엄청나게 커질 것으로 예상했지만 기술 장벽은 CPU나 GPU보다 낮았다”며 “구글의 TPU 등은 2010년대 중반, 2015년부터 개발에 나섰고 사피온은 2016년부터 본격적으로 시작했기 때문에 세계적인 테크기업과 비슷한 시점에 출발했다”고 말했다.

기술 경쟁력을 가지고 있다는 것은 비단 사피온만의 생각이 아니다. 지난달 스페인 바르셀로나에서 열린 ‘모바일 월드 콩그레스’(MWC)에서 엔비디아 측이 사피온의 부스를 영상으로 담아갔다고 한다. 엔비디아는 새 GPU ‘H100’의 성능을 소개하면서 사피온의 ‘X220’을 비교군에 넣었다. 4나노 공정으로 제작된 H100을 28나노 공정의 X220과 나란히 놓은 것이다.

정무경 사피온 CTO가 X220의 성능을 시연해보이고 있다.(사진=김영환 기자)

최근 AI의 가능성을 세계에 입증한 챗GPT 기술도 이미 사피온이 개발에 나섰던 분야다. 사피온은 2021년에 이미 국내 최초로 챗GPT의 원천기술인 ‘트랜스포머’(Transformer)를 가속했다. MWC에서 트랜스포머 계열 중 가장 범용적으로 활용되고 있는 버트(BERT) 기반의 자연어처리(NLP) 애플리케이션을 라이브 데모로 선보였다.

“SK와 협업 통해 지속적 개선점 발굴”

사피온의 또다른 강점은 SK와의 협업이다. 사피온은 SK텔레콤(017670)의 AI 반도체 연구부서가 분사한 회사다. SK텔레콤을 통해 직접 서비스를 지원하면서 최적화를 할 수 있는 피드백을 받았다. 구글이 구글의 상용서비스에 TPU를 활용하도록 강제한 것과 유사한 구조다.

정 센터장은 “SK의 서비스에 직접 사피온을 활용해가면서 더 필요한 부분을 보완해 신제품을 선보였다”라며 “결과물이 올해 출시할 예정인 3세대 제품 ‘X330’”이라고 소개했다. 사피온의 AI 반도체는 이미 SK 외에 NHN의 데이터센터에도 쓰이고 있다.

정 센터장은 “프로젝트 초기에는 SK 내부에서 활용하기 위해 AI 반도체를 개발했지만 내부적으로만 활용하기에 너무 아까울 정도로 성능이 좋았다”라며 “다른 경쟁사들과는 다르게 2018년부터 지속적인 상용화 및 피드백을 기반으로 진화해 와서 시장에서 요구하는 것을 정확히 알고 있다”라고 자신했다.

연내 출시 예정인 X330은 7나노 공정으로 생산돼 28나노 공정의 X220보다 약 4배 가량 월등한 성능을 자랑한다. 전력 효율성을 높였고 연산 정밀도도 향상되는 등 다양한 측면에서 개선이 이뤄졌다. 글로벌 AI 반도체 성능을 측정하는 MLPerf에서 X220은 8나노 공정으로 생산된 엔비디아의 A2보다 2.4배 빠른 처리 속도, 전력 소모당 성능 부분에서 2.2배 높은 효율성을 보였다. X330의 성능이 기대되는 배경이다.

사피온의 AI반도체 X220(사진=사피온)

정 센터장은 “챗GPT 등의 혁신을 기반으로 올해부터는 AI 서비스 시장이 본격적으로 열리면서 AI 반도체 시장도 급성장할 것”이라면서 “데이터센터에서 고품질 AI 서비스를 할 수 있는 시장이 가장 커질 것으로 예상하고 시작부터 이쪽에 집중했다. 거대 AI 모델을 효율적으로 다 돌릴 수 있는 제품이 될 것”이라고 강조했다.

정부도 AI 반도체 개발을 위해 지원 사격에 나섰다. 시스템 반도체 설계 분야는 2위가 의미 없을 정도로 미국이 가장 앞서가고 있다. 중국도 막대한 투자를 앞세워 후발 주자로 추격 중이다. 우리 정부도 다소 늦었지만 최근 3~4년 전부터 AI 반도체 시장에 관심을 갖기 시작했다.

정 센터장은 “X330은 정부와 같이 개발하고 있다고 해도 과언이 아니다”라며 “사피온의 성공이 AI 반도체 관련 국책 사업의 성공이기도 하다”라고 자신감을 나타냈다.