기술이 발전함에 따라 반도체 시장도 이에 맞추어 변화하고 있습니다. 예전에는 인텔, 엔비디아와 같은 반도체 제조 전문 회사들이 반도체 시장을 장악하고 있어, 휴대폰 제조사들은 반도체 제조 전문 회사들이 내놓은 반도체 사양에 맞추어 휴대폰을 제작할 수밖에 없었습니다.
그러나 인공지능 시대가 도래하면서 휴대폰 제조사가 직접 반도체를 설계하고 제조하는 구조로 변화하기 시작했습니다. 그중 가장 대표적인 것이 NPU(Neural Processing Unit) 반도체 시장입니다.
1. NPU의 등장 배경
기존의 스마트폰에 탑재되어 있던 반도체들은 CPU와 GPU로 이루어져 있었습니다. 그러나 휴대폰은 크기의 제한이 있었기 때문에 CPU와 GPU를 각각 탑재하기 보다 이 둘을 하나로 합친 AP칩을 탑재하는 방식으로 개발되었습니다.
그러나 기술의 발전과 인공지능의 등장으로 기존의 AP만으로는 소화해내는데 어려움이 있었습니다. 이때, 탄생한 것이 NPU 반도체입니다. 여기서 주의해야 할 점은 기존의 AP칩으로 인공지능을 소화해내는 데 ‘어려움이 있었다’는 것뿐이지, ‘아예 소화해내지 못한다’는 것이 아닙니다.
CPU와 GPU를 이용하여 인공지능을 구현해낼 수 있으나, 이는 효율적인 처리가 불가능하다는 단점이 있죠. 그러므로 NPU가 등장한 것입니다. 단지, ‘효율’ 문제로 인해 NPU가 등장했다는 것이죠.

2. NPU란 무엇인가
NPU는 인간의 신경계와 닮아있는 반도체라고 할 수 있습니다. 우리는 기계에 인간의 직관을 가르치는 과정인 ‘딥러닝’을 하곤 합니다. 딥러닝을 위해 텍스트와 같은 정형 데이터뿐만 아니라 이미지, 영상과 같은 비정형 데이터도 실시간으로 수집하고 처리해야 합니다. 또, 순차적으로 하나씩 처리하는 것이 아닌, 동시다발적으로 수직하고 처리되어야 하는데, 이는 NPU를 이용하여 효율적으로 처리하게 됩니다.
3. NPU의 실제 사용처
NPU는 스마트폰에서 가장 활발히 이용되고 있습니다. 그 이유는 앞서 1번에서 설명한 것과 같은 기존의 반도체(CPU, GPU)로 처리하는데에 효율적이지 않았기 때문입니다. 따라서 휴대폰 제조업체들은 기존의 AP칩에 NPU를 탑재하는 방향으로 개발을 해나가고 있습니다.

애플은 2017년, 스마트폰 중 최초로 아이폰 8시리즈와 아이폰X에 독자적인 AP칩인 A11칩에 NPU를 탑재했습니다. 최근 선보인 노트북용 반도체인 M1칩에도 NPU가 탑재되어 있습니다.

또, 삼성의 경우에는 2018년, 엑시노스 9820칩에 NPU를 탑재했습니다. 이는 S10시리즈에 적용되었고 이후 출시되는 삼성 휴대폰에는 모두 이 NPU가 적용된 AP가 탑재되고 있습니다.
4. 그러나 인공지능 비서는 NPU가 아니다?
우리가 익히 사용하고 있는 애플의 ‘시리’, 삼성의 ‘빅스비’는 인공지능 기술이라 일컬어지곤 하지만, 실제로 이는 NPU가 아닙니다. 여태 “인공지능 기술을 위해서 NPU가 개발되었다”라고 언급했는데 이게 무슨 말일까요?

앞서 말했듯, 인공지능은 꼭 NPU가 아니더라도 CPU와 GPU로도 구현이 가능합니다. 현재 존재하는 인공지능 비서가 바로 CPU와 GPU로 구현된 것입니다.
우리가 현재 사용하는 인공지능 비서는 ‘데이터 센터’를 기반으로 대답을 합니다. 우리가 기계를 향해 어떤 질문을 하면, 그 기계는 ‘데이터 센터’로 우리의 질문을 전송합니다. 전송된 질문은 데이터 센터에서 분석되고, 데이터 센터에서는 인공지능 비서에게 적절한 대답을 송신합니다.
결국, 인공지능 비서는 ‘본인이 스스로’ 대답을 생각해내는 것이 아니라, 단지 우리와 데이터 센터를 연결해주는 매개체 역할만 수행하고 있다는 것이죠. 이때, 데이터 센터는 CPU와 GPU로 이루어져 있어, 현재 인공지능 비서는 NPU가 아니라는 것입니다.
5. NPU가 필요한 이유
NPU가 필요한 이유에는 다양한 이유가 있겠지만, 가장 큰 이유로는 '온디바이스 AI(On-device AI)'를 위해서입니다.
현재 우리가 사용하고 있는 인공지능 비서는 데이터 센터로 데이터를 송, 수신을 하며, 해킹에 노출될 위험성이 큽니다. 게다가 인터넷 연결이 필수적으로 되어있어야만 사용할 수 있는 서비스입니다. 그러나 온디바이스 AI를 구현하여 기계 각각에 스스로 생각할 수 있는 AI가 생기게 된다면 이러한 문제를 해결할 수 있습니다.
[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]