CPU GPU TPU NPU의 개념 및 차이 비교하기

4차 산업 혁명의 화두인 인공지능을 개발하기 위해 세계적인 기업들의 움직임이 활발해지고 있는데요, 그 인공지능의 핵심 부품인 반도체 이야기가 나올 때마다 빠지지 않는 개념이 있습니다. CPU, GPU, TPU, NPU 단어들이 많이 보이실 텐데, 이러한 단어들이 뜻하는 개념이 무엇인지, 서로 어떤 점들이 다른지 한번 비교해보도록 하겠습니다.

 

 

01. CPU와 GPU의 개념

 

CPU는 Central Processing Unit의 줄임말로, 컴퓨터의 두뇌라고 생각하시면 됩니다. GPU(Graphics Processing Unit)는 그래픽 처리를 위한 핵심 부품 중 하나로 CPU의 명령하에 디지털 신호를 영상 신호로 변경하여 모니터로 전송해주는 장치입니다. 그런데 GPU의 용도가 요새 많이 바뀌었는데요, CPU보다 일반적인 연산을 한 번에 더 많이, 그리고 빠르게 처리할 수 있다는 사실이 알려졌습니다. 그래서 인공지능 반도체로서의 용도로 굉장히 적합하게 활용되고 있습니다.

 

CPU 자체는 GPU보다 성능이 뛰어나지만 GPU는 물량으로 CPU를 압도해버리는 격인거죠. 1명의 천재(CPU)보다 1,000명의 수재(GPU)가 훨씬 빠른 결과를 나타내는 것처럼 말입니다. 그럼 CPU를 여러 개 탑재하면 되지 않느냐라고 반문할 수 있는데, 서로 연산 처리 방식이 다릅니다. CPU는 직렬 처리 방식에 적합하고 GPU는 병렬 처리 방식에 적합하여 기하급수적으로 늘어나는 데이터의 양을 한 번에 처리하기 위해선 병렬 처리 방식인 GPU가 상대적으로 최적화되어 있습니다. CPU와 GPU의 개념에 대해 더 알고 싶으신 분들이라면, 아래 링크를 통해 확인해주시기 바랍니다.

 

CPU 성능 순위 - 전격 비교하기!

그래픽 카드 순위 - 성능 비교표 및 테스트

 

02. CPU와 GPU의 구조

 

CPU와 GPU 구조 차이

 

GPU가 CPU보다 많은 양을 한번에 처리할 수 있는 이유는 구조적인 차이 때문입니다. 위의 사진에서 살펴보면, CPU는 다양한 환경의 작업을 처리하기 위해 Control Unit, Cache, ALU(Arithmetic Logic Unit, CPU 산술 논리 연산 장치)의 처리 구조가 상대적으로 밸런스 있는 형태를 띠는데 반해, GPU는 특화된 연산 처리를 위해 Control Unit, Cache 보다는 압도적으로 ALU가 상당히 많은 부분을 차지하고 있는 것을 알 수 있습니다.

 

CPU는 캐시 메모리(Cache) 부분이 많은 비중을 차지하고 있는 것을 알 수 있는데, 이는 처리할 데이터를 RAM에서 불러와 임시로 캐시 메모리에 저장해 처리 속도를 높일 수 있습니다. 따라서 단일 명령어를 GPU보다 빠르게 처리할 수 있습니다. 반면, GPU는 1개의 코어에 수백, 수천 개의 ALU가 장착되어 있기에 처리해야 할 명령어가 다수일 경우에 한 번에 처리할 수 있어 매우 빠르게 결과를 도출해낼 수 있습니다.

 

 

03. NPU와 TPU의 개념

 

NPU(Neural Processing Unit, 신경망 처리 장치)는 인간처럼 생각하는 인공신경망, 즉 딥러닝의 알고리즘 구축을 위한 반도체입니다. 사람의 몸은 자극을 받으면 뉴런과 시냅스를 통해 뇌에 자극 정보를 전달하고 그 뇌는 상황에 맞게 대응하도록 명령을 내립니다. 이러한 원리를 반도체에 적용한 것이 NPU입니다. NPU는 최대 100조 개의 연결을 통해 데이터를 처리합니다. 기존의 CPU는 연산을 통제하고 GPU는 그래픽 처리의 목적이었다면 NPU는 빅데이터로 수집된 방대한 정보를 처리하는 목적을 강하게 지닙니다.

 

TPU는 Tensor Processing Unit의 줄임말로, 구글이 인공지능 연구를 위해 자체 설계한 반도체이며 구글에서 제작한 NPU의 이름이라고 보시면 됩니다. 이 반도체들은 GPU와 유사한 형태로 설계되었지만, 그래픽 연산은 제외되었으며 인공지능 연산에 특화된 반도체들입니다.

 

3dp chip 다운로드 방법 - 최신버전 사용하기

컴퓨터 사양 확인하기 - 사이트 및 프로그램