최근 서울 강남구 사무실에서 만난 채명수 노타 최고경영자(CEO)는 “AI 모델 사이즈를 최대 98%까지 줄여준다”며 “AI 모델이 작아지면 원래 동작할 수 없던 하드웨어에서 동작시켜주거나, 느리게 동작하던 것을 더 빠르게 해주는 효과가 있는 것”이라고 말했다.
|
노타는 AI(딥러닝) 모델을 최적화시켜주는 스타트업이다. 보통 데이터 라벨링, 학습 등 과정을 거쳐 만들어진 AI 모델(엔진)은 컴퓨터가 알아들을 수 있는 언어로 ‘컴파일’된 뒤 하드웨어에 탑재된다. 노타가 강점을 가진 기술은 컴파일 전 AI 모델의 사이즈를 줄여주는 것이다. AI 모델은 큰데, 기기 사양이 낮으면 당연히 구동이 되지 않는다. 채 대표는 “하드웨어가 가진 칩의 S램이 1메가바이트 짜리라면 거기서도 AI 모델이 돌아갈 수 있게끔 최적화시켜준다”고 했다.
카이스트 학생들이 창업한 노타가 처음부터 이 분야에 뛰어든 건 아니다. 첫 번째 아이템은 ‘오타를 줄여주는 스마트폰 키보드 앱’이었지만 실패했다. 회사 이름인 노타도 ‘노(No) 오타’의 줄임말이다. 창업자들과 아는 사이는 아니었지만, 당시 카이스트 학생이었던 채 대표가 회사를 맡으며 ‘피봇’했다. 채 대표는 “낮은 사양의 기기가 세상에 너무 많고, AI는 더 많이 쓰일테니 이런 기술을 잘 만들면 시장이 있을거라 생각했다”고 했다. 노타는 오타를 줄이는 알고리즘을 만드는 것보다 사양이 낮은 스마트폰에서 돌리느라 더 고생을 했었다.
채 대표는 AI 모델 경량화 기술이 “전기차 시대에 더 각광받을 것”이라고 했다. 그는 “전기차가 AI 모델로 전력을 많이 쓰게 되면 결국 배터리에 영향을 미치고 주행거리가 줄어들게 된다”며 “그렇기 때문에 훨씬 더 낮은 사양의 기기에 운전자 모니터링 같은 솔루션을 구동할 수 있어야 한다”고 했다. 실제로 테슬라는 2019년 이런 기술을 가진 딥스케일을 인수했다. 애플의 ‘시리’가 무선 통신 기능을 차단하는 ‘비행기 모드’에서 동작하게 된 것도 2020년 엑스노어를 인수한 뒤라고 한다.
노타는 오는 10월 열리는 영국 반도체 설계 기업 ARM의 개발자 콘퍼런스에서 ‘넷츠프레소 2.0’ 버전을 내놓을 예정이다. AI 모델 경량화를 넘어 직접 AI 모델을 만들어주는 역할도 한다. 지난 202년 베를린 법인을 세운 데 이어 최근엔 미국 법인도 만들었다. 본사는 대전에 있다. 채 대표는 “확장되고 있는 솔루션 수요에 대응해 더 많은 사업 기회를 만들려 한다”고 말했다.