[과학·IT용어]AI시대, CPU 보다 GPU…알파고 두뇌 ‘TPU’

엔비디아(NVIDIA)의 CEO인 젠슨 황(사진 = 엔비디아 홈페이지 캡쳐)

[이데일리 조용석 기자] 한 때 GPU(Graphics Processing Unit·그래픽처리장치)가 고성능 3D 게임을 즐기는 게임 마니아 또는 고용량 영상 편집 등이 필요한 이들의 전유물로 여겨지던 시절이 있었다.

당시 많은 이들은 컴퓨터의 두뇌 역할은 CPU(Central Processing Unit·중앙처리장치)가 하고 GPU는 그래픽 데이터만 처리해 출력하는 보조 장치 정도로만 여겼다.

인공지능(AI) 시대와 함께 GPU의 가치가 급등한 이유는 바로 ‘병렬연산’(Parallel Processing) 특징 때문이다.

CPU는 명령어가 입력된 순서대로 처리하는 ‘직렬연산’(Serial Processing)에 최적화 된 몇 개의 고성능 코어로 구성된다. 반면 GPU는 여러 명령어를 동시에 처리하는 병렬연산에 가장 적합하도록 수천 개의 코어로 구성된다.

인공지능(AI) 구현을 위해서는 빅데이터를 기계가 스스로 학습하는 ‘머신러닝’(Machine Learning)이 필요한데, 이때 병렬구조로 빠르게 처리하는 GPU가 CPU보다 더 적합하다는 사실이 드러났다. AI의 발전과 함께 GPU 급부상한 이유다.

‘알파고 리’를 통해 알려진 머신러닝 기술인 ‘딥러닝’(Deep Learning)에서도 GPU가 사용돼 주목을 받았다. 알파고 리에는 GPU라는 용어를 만든 엔비디아(NVIDIA)의 GPU 176개가 장착된 것으로 알려졌다.

GPU의 빠른 병렬연산 능력을 그래픽 연산 뿐 아니라 일반 컴퓨팅 영역까지 확장한 것을 GPGPU(General Perpose GPU)라고 한다. 엔비디아의 GPU 프로그램인 CUDA(Compute Unified Device Architecture)가 대표적인 GPGPU 솔루션이다.

한편 가상화폐 채굴로 인해 GPU의 수요가 폭증한 이유는 CPU보다 뛰어난 ‘부동소수점 연산’ 기능 때문이다. 가상화폐 채굴은 암호를 풀어야 돈을 받을 수 있는데, 이를 위해서는 부동소수점 연산이 필요하다. 채굴업자들이 부동소수점 연산능력이 뛰어난 그래픽 카드를 대량 구매하면서 품귀현상이 발생한 것이다.

GPU을 발전을 지켜본 글로벌 IT 공룡 기업들은 인공지능 컴퓨팅에 적합한 반도체 개발에 힘을 쏟고 있다.

구글의 TPU(Tensor Processing Unit)가 대표적인 예로, 이세돌9단과 붙었던 ‘알파고 리’와 후속작인 ‘알파고 제로’ 등에도 모두 장착됐다. 알파고 리에는 TPU가 48개가 부착됐으나 알파고 제로에는 엔진 최적화를 통해 4개만 장착된 것으로 알려졌다.

CPU의 명가 인텔 역시 너바나, 모빌아이 등을 인수합병하며 인공지능 반도체 개발에 나섰다. 인텔은 지난해 10월 AI 프로젝트와 관련 작업용으로 너바나 NNP(Nervana Neural Network Processor)를 발표했다.

구글 텐서플로우 TPU