이전에 인공지능(AI, Artificial Intelligence)을 위한 반도체의 변천 과정(CPU, GPU, TPU, NPU)에 대해 다뤄보았습니다. 오늘 다룰 차세대 AI 반도체인 IPU를 이해하기 위해선 CPU, GPU, TPU, NPU 등의 개념을 이해할 필요가 있습니다. 아래의 링크를 통해 우선 위의 개념들을 이해하시고 아래 그래프코어가 제작한 AI 반도체인 IPU에 대한 설명을 보시면 이해가 더욱 수월할 겁니다.
CPU GPU TPU NPU의 개념 및 차이 비교하기
4차 산업 혁명의 화두인 인공지능을 개발하기 위해 세계적인 기업들의 움직임이 활발해지고 있는데요, 그 인공지능의 핵심 부품인 반도체 이야기가 나올 때마다 빠지지 않는 개념이 있습니다. C
adsensery.tistory.com
01. IPU(Intelligence Processing Unit)란?
지능형 처리장치로 불리는 IPU는 영국의 반도체 설계 회사, 그래프코어(Graphcore)가 제작한 AI 반도체입니다. 이 기업은 2016년에 엔비디아 출신 엔지니어인 나이젤 툰(CEO)과 사이먼 놀스(CTO)가 창업하여 몇 년 되지 않은 기업임에도 불구하고 마이크로소프트(MS), 델(DELL), 삼성전자 등의 글로벌 테크 기업들의 투자를 유치했습니다. 바둑계 최강자인 이세돌 9단을 상대로 4승 1패로 승리를 거뒀던, 알파고를 탄생시킨 딥마인드의 공동 창업자인 데미스 하사비스도 투자자중 하나일만큼, 그래프코어는 인공지능 반도체에 있어서 굉장히 유망한 기업이라고 할 수 있습니다. 현재까지 유치한 투자금액만 7억 1,000만 달러(8,086억 원)이며, 기업가치는 15억 달러(1조 8,000억 원)로 IPU가 상업적으로도 인정받고 있는 분위기입니다.
그래프코어에서 제작하고 있는 IPU란 무엇이길래 이토록 이목을 끄는 것일까요? CPU(Central Processing Unit)는 연산을 통제하고 GPU(Graphics Processing Unit)는 그래픽 처리를 목적으로 한다면, NPU(Neural Processing Unit)는 인공지능을 위해 설계되었습니다. 구글에서 만든 NPU가 TPU(Tensor Processing Unit)라면, 그래프코어에서 만든 NPU가 IPU라고 보시면 됩니다.
02. GPU와 IPU의 구조적 차이
GPU와 IPU는 CPU와 다르게 방대한 데이터를 한 번에 처리할 수 있도록 병렬 처리방식으로 설계된 프로세서입니다. 모두 연산 작업 원리는 비슷한데, 외부에서 데이터가 입력 > 램(RAM, 메모리)을 통해 임시 저장 > 코어로 전달됩니다. 여기서 차이점이 생기는데요, GPU는 사진에서 보다시피 코어와 램과의 긴 거리로 인해 연산 작업에 지연이 생길 수밖에 없습니다. 그리고 적은 수의 큰 메모리에 많은 개수의 코어들이 존재하지만 IPU의 경우 각각의 프로세서로 구분되어 있는 코어와 램을 1대 1로 매칭하여 하나의 프로세서로 같이 포장한 온 칩(On-Chip) 설계를 통해 코어와 램 사이의 거리를 혁신적으로 줄였고, 연산 지연을 해소해버렸습니다.
03. IPU의 강점
그래프코어 자체 내에서 벤치마크를 실시한 결과, 엔비디아 GPU와 비교하여 AI 훈련에서 최대 18배, AI 추론에서는 최대 600배 높은 성능을 나타냈습니다. 심지어 CPU, GPU와 비교해 전력 사용량이 2배나 적어 에너지 효율성도 훨씬 높습니다. 대량의 이미지 데이터를 배치 처리할 경우, 여전히 엔비디아의 GPU가 유리하지만, 금융업계에서 사용하는 재무 확률 모델인 MCMC(Markov Chain Monte Carlos) 학습의 경우 GPU로 2시간이 소요되는 것을 IPU로 4분 30초로 끝낼 수 있습니다. 마이크로소프트는 이미 클라우드 서비스 애저(Azure)에 활용중에 있습니다.
이 뿐만이 아니라, 프랑스의 유명 검색엔진 회사 콴트(Qwant)는 IPU 적용 후, 이미지 검색 속도가 3.5배 빨라졌고, 실리콘밸리 기반 헤지펀드인 카못 캐피탈 역시 IPU를 통해 금융정보 분석 속도를 26배 높였다고 합니다. 가격 또한 GPU와 비슷한 선에서 칩의 개수가 GPU보다 더 들어가 가격 경쟁력이 있습니다. 그래서 현재 AI 반도체 시장을 거의 장악하고 있는 엔비디아를 위협할 차세대 반도체가 될 것이라고 평가되고 있습니다. 인공지능 반도체 시장의 판도가 앞으로 어떻게 바뀔지 한번 유심히 지켜봐야겠습니다.
CPU 성능 순위 - 전격 비교하기!
컴퓨터의 성능을 볼 때 가장 우선적으로 봐야 할 부분이 무엇인지 모르는 경우가 있습니다. 컴퓨터의 성능은 컴퓨터의 두뇌라 불리는 CPU의 성능에 따라 좌우됩니다. 그렇다면 CPU의 어떤 부분을
adsensery.tistory.com
그래픽 카드 순위 - 성능 비교표 및 테스트
가상 화폐 채굴 시장, 고사양 게임, 메타 버스 열풍 등이 일어나면서 품귀 현상까지 일어났던 그래픽카드는 요즘 가상 화폐 채굴 단속으로 인해 그래픽 가격이 폭락하고 있다는 소식입니다. 다
adsensery.tistory.com
'IT 꿀 정보' 카테고리의 다른 글
| 롤 게임을 위한 컴퓨터 최소 및 권장 사양 체크 하는 방법 (0) | 2021.07.15 |
|---|---|
| SSD HDD 차이 및 확인 방법 - 컴퓨터 저장장치 (1) | 2021.07.14 |
| CPU GPU TPU NPU의 개념 및 차이 비교하기 (1) | 2021.07.12 |
| 포터블의 뜻, 무설치 프로그램과의 차이점은? (0) | 2021.07.12 |
| GPU-Z 다운로드 방법 - 그래픽 카드 성능 테스트 프로그램 (0) | 2021.07.09 |