안녕하세요, 구독자님.

AI 반도체에 대한 분류는 사용목적, 사용처, 구현기술 방식 등 다양하게 나뉠 수 있습니다. 사용목적으로는 학습용/추론용, 사용처로는 서버용/엣지용으로 구분할 수 있습니다. 그리고 구현기술 방식으로 하는 구분은 분석 기관에 따라 제각각이라 명확히 구분지어 정해진 것은 없다고 보이는데, ETRI에서는 1세대(CPU, GPU), 2세대(FPGA, ASIC), 3세대(뉴로모픽)으로 구분하고 있습니다.

언급된 몇가지 AI 반도체 가운데 잘 알려진 CPU, GPU 외에 다른 것들을 간단히 살펴보면 다음과 같습니다. 

특정 목적에 맞춰 최적화되어 설계되기 때문에 CPU, GPU가 지원하는 다양한 인공지능 모델 구조를 지원하진 못한다는 것이 대표적인 단점입니다. 다양한 아키텍처의 네트워크를 지원하면서도 속도도 빠르고 전력도 적게 먹는다면 완전 최고겠죠. 하지만 그게 쉽지 않기 때문에 GPU 최강자인 NVIDIA가 여전히 이 분야에서 군림하고 있답니다. 

또 다른 제약사항으로는 소프트웨어 스택의 미성숙을 꼽을 수 있습니다. 현재 AI 시장의 최강자인 NVIDIA의 경우, 자사 GPU를 인공지능 학습/추론용으로 사용하기 위해 CUDA 라는 강력한 소프트웨어 스택을 제공하고 있습니다. Intel도 oneDNN과 OpenVINO 등의 소프트웨어 스택을 지원하고 있구요. 그 외 다양한 AI 반도체 제조사들은 H/W 측면에서의 개발 및 최적화를 진행하고 있지만 이를 제대로 활용하기 위해서 필수인 소프트웨어 스택 부분은 아직은 미진한 부분이 많다고 합니다. 그것은 업체 별로 각자의 NPU에 특화해서 개발을 하는 경우가 많은데 많은 비용과 시간, 전문인력이 투입되어야 하는 쉽지 않은 작업이기 때문입니다. 그러다보니 범용기술화해서 개발과 활용 분야로 에코시스템을 확장하기도 어렵다는 한계가 있습니다. 

작년에 우리나라도 AI 반도체의 중요성을 절감하고 해당 산업의 성장을 지원하는 대책을 발표했습니다. (기사) 대략 요약하면 AI 반도체를 위한 H/W 기술, S/W 기술, 그리고 인재양성, 해외 선진국과의 공동연구 확대 등이 골자입니다. 몇 가지를 요약해 보면 다음과 같습니다. 

최근 삼성전자와 SK하이닉스에서는 PIM(Processor in Memory)라는 기술을 발표했습니다. PIM은 메모리 내부에 AI 연산에 필요한 프로세서 기능이 추가되어 처리속도와 연산효율을 증가시키는 기술입니다.

기존의 GPU를 생각해보면 GPU의 병렬처리를 활용하기 위해서는 데이터를 CPU영역에서 GPU영역으로 복사 후 GPU에서 연산처리를 하고 다시 CPU로 결과 데이터를 옮기고 하는 오버헤드가 있었습니다. 게다가 GPU메모리는 고가이고 한정된 용량의 메모리만 제공된다는 제약도 있었는데 PIM 기반 기술을 잘만 이용하면 기존의 많은 문제점들이 해결될 수 있겠죠. 게다가 이런 기술은 최근 나오고 있는 ChatGPT 등과 같이 거대모델을 이용하는 쪽에 적용될 경우, 큰 효과를 기대할 수 있겠습니다. 

최근 반도체 공급란을 겪고 나서, 전세계는 반도체가 국가 경제, 안보에 미치는 영향이 지대하다는 것을 제대로 실감하게 되었습니다. 예를 들어, 미국과 중국 간 벌어지고 있는 기술패권 경쟁에서 반도체 특히 AI 반도체는 국가 안보를 좌우하는 핵심 기술로 보호 육성되어야 하는 것으로 평가되고 있죠. 

미국의 경우, 전통적인 반도체 강자인 Intel은 이스라엘의 AI반도체 기업인 하바나랩스를, AMD는 FPGA 강자였던 자일링스를 각각 인수하며 이 분야를 키워나가고 있고, 범용성을 자랑하는 GPU 분야 최강자인 NVIDIA 또한 AI연산에 특화된 core 들을 기존의 GPU 칩셋상에 보강하는 방식으로 접근하고 있습니다. 모바일 쪽은 퀄컴에서 ARM 기반의 새로운 칩셋과 함께 해당 칩셋에서 동작하는 AI Engine 스택을 내놓고 있습니다. 

그 외에 예전 같으면 반도체 기업들에게서 칩이나 보드를 사서 시스템을 구성하거나 제품을 만들던 Apple과 아마존, 구글, Tesla와 같은 빅테크 기업들이 이제는 독자적으로 AI반도체를 개발해서 필요한 인공지능의 학습과 추론에 사용하고 있습니다. 예를 들면 Apple은 ARM 기반의 M1, M2를, 구글은 TPU(Tensor Processing Unit)를, Tesla는 D1이라는 칩과 이를 이용한 도조라는 슈퍼컴퓨터를 만들고 사용하고 있죠. (물론 제조 자체는 TSMC나 섬성과 같은 파운드리 업체를 통해 진행합니다.) 앞으로도 이런 추세는 계속될 것 같습니다.