AI 반도체의 정의 및 발전 전망

1. 개념 정의

 

AI 반도체는 AI 서비스를 구현하기 위해 요구되는 데이터 및 알고리즘을 효율적으로 처리할 수 있는 반도체로 정의할 수 있다. AI 기술의 핵심기술 중 학습･추론 기술을 구현하기 위한 데이터 연산 처리를 저전력으로 고속 처리하여 효율성에 특화된 반도체를 의미한다.

 

빅데이터 분석, AI 서비스 등 AI 산업이 확대되면서 학습･추론의 인공신경망 알고리즘에 최적화된 AI 전용 반도체의 필요성이 증대되었다. 첫 번째로 연산 성능을 비교하여 볼 때, CPU를 활용한 초기 AI 컴퓨터는 GPU의 채용을 통해 연산 성능이 개선되었으나, 대규모･대용량 연산 처리가 증대함에 따라 AI 반도체의 필요성이 대두되었다. 두 번째로 전력효율을 비교하여 볼 때, AI 반도체는 낮은 전력으로 대량의 데이터를 동시에 처리하여, 기존 반도체 대비 약 1,000배의 AI 연산 전력효율을 구현했다.

 

반도체와 AI 반도체의 기능 비교

 

 

또한 AI 반도체는 구현목적, 서비스 플랫폼, 기술구현 방식 등에 따라 다양하게 구분할 수 있다.

 

첫 번째로 시스템 구현목적 측면에서는 AI 학습용(Learning)과 추론용(Inference)으로 구분할 수 있다. 학습용의 경우, 방대한 데이터를 통해 딥러닝 등의 알고리즘을 이용하여 지식을 습득하는 학습 단계에 적합하며, 추론용의 경우는 외부 명령을 받거나 상황을 인식하면 학습한 내용을 토대로 가장 적합한 결과를 도출하는 추론 단계에 적합하다.

 

두 번째로 서비스 플랫폼 측면에서는 데이터센터 서버용과 엣지 디바이스용으로 구분할 수 있다. 데이터센터 서버용 AI 반도체는 무엇보다도 병렬연산 처리 능력과 전력효율이 중요하며, 운영 측면에서 확장성과 유연성도 고려되어야 한다. 자율주행차, 드론, IoT 등 개별 AI 서비스에 특화된 엣지 디바이스용 AI 반도체는 연산 가속, 초저전력, 경량화, 제조원가 등이 핵심 경쟁력이다.

 

세 번째로 기술구현 방식 측면에서는 FPGA, ASIC/ASSP로 구분할 수 있다. FPGA는 HW를 재설계하지 않고 프로그래밍을 통해 사용 목적에 맞게 프로그래밍을 통해 변경이 가능한 반도체이며, ASIC은 어플리케이션의 특성에 적합한 AI 시스템을 구현하기 위해 범용 프로세서를 사용하는 대신 특정 목적으로 제작되는 주문형 반도체이다. ASSP는 범용 ASIC으로서, 특정한 사용자의 요구나 주문에 의해서 만들어진 ASIC이 평판 등에 따라 특정용도 표준으로 되어 여러 사용자가 사용하는 경우에는 더 이상 ASIC이라 하지 않고 ASSP라고 한다.

 

AI 반도체의 구분

 

 

2. 발전 전망

 

AI 반도체는 1세대(CPU, GPU), 2세대(NPU), 3세대 (뉴로모픽) 반도체로 진화하였다. 1세대 AI 반도체인 GPU는 딥러닝 등 AI 알고리즘 수행에 요구되는 데이터 연산 처리에 있어서 CPU 대비 높은 성능 향상을 제공해 AI 발전을 견인했다.

 

2세대 AI 반도체인 NPU는 CPU와 연계하여 병렬로 작동되어 시스템 혼란이나 병목현상 없이 사용 가능하며, 최근 AI 구현을 위한 기술로 주목받고 있다. DNN ASIC은 비용이 높고 개발 기간이 길며 한번 제품을 만들고 나면 기능을 바꿀 수 없지만, 이미 개발이 끝난 알고리즘의 전력소모량을 줄이고자 할 때 효율적이다. 3세대 AI 반도체인 뉴로모픽은 뉴런 역할을 하는 코어를 사람의 뇌처럼 병렬로 구성하여 저전력으로 인간의 뇌처럼 학습하기 때문에 연산 성능이 대폭 향상한다.

 

현재 AI 반도체는 범용 GPU의 과소비전력 및 비효율적 연산의 한계를 극복하기 위한 NPU, PIM, 뉴로모픽 반도체로의 기술 혁신이 진행 중이다.

 

차세대 AI 반도체 기술 전망,  (출처 : 오윤제(2020), 지능형 반도체 발전 방향 및 전략)

 

범용 GPU를 이용하여 AI를 구현하는 기존의 방식은 대규모･대용량 연산에 비효율적이며 과다한 에너지 소비가 발생한다. 저전력･저전압의 CMOS 로직 및 메모리를 활용하여 기존의 컴퓨팅 방식인 폰 노이만 방식을 최적화한 NPU가 개발되고 있다. 그동안 범용 GPU를 활용하던 AI 프로세서 시장에서 Google이 자사의 데이터센터에 적합한 TPU라는 AI 전용 프로세서 인 NPU를 개발하면서, 이를 계기로 글로벌 AI 기업들은 자사의 제품/서비스에 최적화된 NPU 개발을 진행 중에 있다.

 

PIM은 메모리와 프로세서를 통합하는 새로운 패러다임의 반도체 설계 방식으로 기술이 개발 중에 있다. 이러한 뉴로모픽 기술이 폰노이만 컴퓨팅 구조로 인한 메모리 성능 문제, 비효율적인 전원 소모문제, 소형화 구현의 한계 등을 해결할 수 있다는 장점으로 비폰노이만 방식의 혁신 기술로 개발이 진행 중에 있다.

 

 

 

출처: AI 반도체 표준화 이슈보고서

 

뜨리스땅

 

 

https://tristanchoi.tistory.com/488

반도체IP 투자포인트