📚 초보자 필수 주식 용어 사전

NPU(Neural Processing Unit, 신경망처리장치)는 인간 뇌의 신경망 구조를 본떠 만든 인공지능(AI) 연산 전용 반도체입니다.

기존 컴퓨팅 환경에서는 범용 연산을 담당하는 CPU와 그래픽/병렬 연산을 담당하는 GPU가 AI 모델을 돌렸습니다. 하지만 GPU는 전력 소비가 크고 가격이 비싸며 딥러닝 연산 외의 기능도 많아 효율성에 한계가 있었습니다.

NPU는 오직 AI 딥러닝 모델의 동시 다발적 행렬 연산만 고속으로 처리하도록 설계되었습니다.

• 초저전력 & 고효율: 불필요한 연산 회로를 줄여 데이터 센터의 전력 구동 비용을 혁신적으로 낮춥니다.
• 온디바이스 AI(On-device AI) 핵심: 인터넷 연결 없이 스마트폰, PC, 자율주행차 내부에서 실시간으로 AI 기능(음성인식, 사진보정, 번역)을 구동하게 해줍니다.

글로벌 반도체와 빅테크 기업들은 GPU 의존도를 낮추고 온디바이스 AI 주도권을 잡기 위해 차세대 NPU 개발 경쟁에 사활을 걸고 있습니다.

기존 PC나 서버의 핵심 구동 장치인 CPU는 일처리가 다양하지만 속도가 제한적이고, GPU는 그래픽과 AI 병렬 연산에 강하지만 전기를 너무 많이 먹는 치명적 단점이 있었습니다.

NPU는 오직 AI 연산(동시 수만 개의 미분 및 행렬 연산)만을 목표로 설계되었습니다:

• 압도적 전력 효율성: GPU 대비 전력 소비를 최대 80% 이상 줄이면서도 온디바이스 AI 연산을 쌩쌩 돌립니다.
• 온디바이스(On-device) AI의 핵심: 스마트폰, 노트북, 자율주행차, 로봇 내부에 탑재되어 인터넷 연결 없이도 실시간 번역, 사진 합성, 음성 인식을 즉시 실행합니다.