본문 바로가기

CNN3

NPU: 딥러닝에 최적화된 칩 추론의 영역으로 들어서며 GPGPU와 NPU의 경쟁 본격화 NPU(Neural Processing Unit)는 우리가 일반적으로 추론용 AI 반도체로 알고 있는 하드웨어이다. 우리가 이렇게 알고 있는 이유는 AI 모델에 광범위한 데이터를 학습시키는 것에는 범용성이 뛰어난 GPGPU(General Purpose Graphic Processing Unit)가 적합하고, 이를 활용하여 답변이나 이미지를 생성하는 것에 더 적합한 반도체는 특수목적성을 가진 NPU(Nerual Processing Unit)라고 많이 알려져 있기 때문이다. 하지만 과연 학습을 할 때 범용성을 가지고 있는 것이 반드시 유리할까? 예를 들어 자율주행 AI를 구현할 때 아무 목적성이 없는 GPGPU를 탑재해 AI를 학습시키는 것이 빠를까.. 2024. 2. 27.
AI 반도체 기술 - 3세대 AI 반도체 2/2 5. 기타 신경세포 모방 AI 반도체 기술 신경망 또는 생물학적 뇌를 모사하는 기술은 SW 분야에서 먼저 큰 발전을 이루었다. Deep Learning 기술은 신경망의 특징 중 연결성(connectivity)과 시냅스의 정보 저장 특성을 프로그램으로 구체화한 것으로, 방대한 계산량으로 초기에는 어려움이 많았으나, 컴퓨터의 계산 능력이 향상되면서 획기적인 발전이 이루어지고 있다. 특히, CPU 대신 GPU가 사용되면서 단순 문자인식에서 벗어나 이미지 인식이나 음성 인식 등이 가능한 CNN, RNN 기술 등이 개발되어 학습의 영역과 범위가 급속히 확장되고 있으며, 앞서 논의한 것처럼 전자 시냅스를 개발하여 특정 Deep learning 알고리즘을 가속화하는 목적 외에도 두뇌에서의 생물학적 뉴런의 기능과 다양.. 2023. 10. 16.
로봇 기술 탐구: 로봇의 뇌(인공지능) 어디까지 왔나? - 1 (Neural Network) 인공지능은 인지-판단-제어에 있어 가장 중요한 ‘로봇의 뇌’에 해당한다. 인공지능 (AI: Artificial Intelligence)은 인간이 가지고 있는 지적 능력을 컴퓨터에서 구현하는 다양한 기술이나 소프트웨어, 컴퓨터 시스템 등을 함께 일컫는 단어다. 1956 년 미국 다트머스 대학에서 열린 학회에서 존 매카시가 처음 ‘인간의 지능을 흉내낸 컴퓨터의 지능’이라고 인공지능을 정의한 이후 오랜기간 개념을 정립해왔다. 그러던 것이 2006 년들어 토론토 대학의 제프리 힌턴 교수가 인공신경망 논문을 쓰면서 학계는 센세이션하게 이를 받아들였고, 빠르게 딥러닝이 인공지능의 중심으로 자리잡게 된다. 지난 2020 년에는 OpenAI 가 GPT-3 라는 초거대규모 언어모델을 내놓으면서 인공 신경망을 통한 학습은.. 2022. 12. 31.