본문 바로가기

NPU10

리벨리온(Rebellion, AI 반도체 기업) 투자유치 뒷 이야기 리벨리온은 지난 1월 1650억원 규모 투자금을 유치했다. 벤처 투자 시장이 꽁꽁 얼어붙은 지난해 이후 모처럼 등장한 수천억원 규모 자금 유치 사례다. 이번 시리즈B(사업 확장 단계) 투자 유치 과정에서 리벨리온의 기업 가치는 8800억원으로 껑충 뛰었다. 2022년 6월(시리즈A)만 해도 이 회사의 기업가치는 3820억원에 불과했다. 리벨리온의 주요 투자사는 KT그룹이다. 이번에 330억원을 투자했다. 시리즈A에 투자한 싱가포르 국부펀드 테마섹의 파빌리온캐피털이 시리즈B 투자 때도 자금을 댔다. 프랑스 디지털경제부 장관을 지낸 플뢰르 펠르랭 대표가 설립한 코렐리아캐피탈, 일본계 벤처캐피털인 DG다이와벤처스(DGDV) 등이 신규 투자자로 이름을 올렸다. 아래는 리벨리온의 CFO 신성규의 인터뷰 Q. 이번.. 2024. 3. 24.
온디바이스 AI: NPU 시장을 견인하다 NPU 중심의 데이터센터를 구축하고 있는 테슬라 이러한 NPU의 장점을 가장 잘 활용하여 데이터센터를 구축한 AI 서비스 업체는 테슬라이다. 테슬라의 자율주행 서비스(Full Self Driving)를 구현하기 위한 알고리즘은 이 알고리즘을 학습하기 위한 최적의 NPU인 Tesla Dojo라는 학습용 NPU로 학습되며, 각각의 테슬라 차량에는 HW N.0 시리즈라는 Customized NPU가 탑재되어 있다. HW N.0 NPU는 자율주행 추론을 위해 특화 설계된 칩이며, 전세계 도심을 누비며 교통상황에 맞는 추론을 하고 그 결과에 따라 차량을 제어한다. 이후 이렇게 쌓인 데이터를 Dojo Chip으로 구동되는 TESLA의 중추서버에 전달하면 해당 서버에서 자율주행 알고리즘 연산에 최적화된 Dojo가 다.. 2024. 2. 29.
CUDA: 소프트웨어 때문에 하드웨어를 못 바꾸나? 프로그래밍 언어, API, 프레임워크를 제공하는 CUDA CUDA(Compute Unified Device Architecture)는 2007년에 출시된 NVIDIA의 소프트웨어 지원 플랫폼으로 프로그래머들이 프로그램을 손쉽게 코딩할 수 있도록 도와주는 여러 기능들을 제공하는 플랫폼이다. CUDA는 1. C/C++를 기반으로 한 GPU 전용 프로그래밍 언어를 제공하며 2. 다양한 딥러닝 프레임워크와 API를 제공하여, 수학 계산, 데이터 분석, 이미지 처리 등의 작업을 효율적으로 수행할 수 있게 도와준다. 먼저 CUDA가 제공하는 프로그래밍 언어는 프로그래머들이 사용하는 C언어 C++언어를 확장하여 GPU에 최적화된 코드를 짤 수 있도록 도와준다. 이 확장된 언어는 여러 키워드를 사용하여 GPU를 위한 .. 2024. 2. 28.
NPU: 딥러닝에 최적화된 칩 추론의 영역으로 들어서며 GPGPU와 NPU의 경쟁 본격화 NPU(Neural Processing Unit)는 우리가 일반적으로 추론용 AI 반도체로 알고 있는 하드웨어이다. 우리가 이렇게 알고 있는 이유는 AI 모델에 광범위한 데이터를 학습시키는 것에는 범용성이 뛰어난 GPGPU(General Purpose Graphic Processing Unit)가 적합하고, 이를 활용하여 답변이나 이미지를 생성하는 것에 더 적합한 반도체는 특수목적성을 가진 NPU(Nerual Processing Unit)라고 많이 알려져 있기 때문이다. 하지만 과연 학습을 할 때 범용성을 가지고 있는 것이 반드시 유리할까? 예를 들어 자율주행 AI를 구현할 때 아무 목적성이 없는 GPGPU를 탑재해 AI를 학습시키는 것이 빠를까.. 2024. 2. 27.
딥러닝: AI에 최적화된 알고리즘 인간의 신경망처럼 학습하는 딥러닝 생성형 AI를 구축하는 방법으로 널리 사용되는 프로그래밍 방식은 딥러닝이다. 딥러닝은 인공지능의 아버지라 불리는 제프리 힌튼 교수에 의해 붙여진 이름인데 초기에는 Neural Network라는 이름으로 불려왔다. 이러한 딥러닝이 특히 세상에 널리 알려지게 된 계기는 이미지넷 대회(Image Net)에서 딥러닝이 압도적인 성과를 내면서부터이다. 이미지넷 대회, 정식 명칭으로 ImageNet Large Scale Visual Recognition Challenge (ILSVRC)는 2010년에 시작된 컴퓨터 비전 분야의 중요한 대회로, 컴퓨터 시스템이 이미지 분류, 객체 탐지, 객체 위치 식별 등의 작업을 얼마나 잘 수행하는지 평가하는 데 목적이 있다. 참가 팀들은 주어진 .. 2024. 2. 27.
반도체 - CXL이 뭐길래? 하반기에 가시화 기대 대용량 메모리 시대, 효율성 제고를 위한 상호연결기술의 진화 반도체 산업의 최대 화두로 인공지능(AI)이 부각되면서 요구 컴퓨팅 파워가 기하 급수적으로 증가하고 있다. 데이터 밀도가 높아짐에 따라 인프라의 대형화가 지속되면서 컴퓨팅 시스템 구축 환경의 공간 활용, 전력 효율 개선, 데이터 병목현 상 해결을 위한 다양한 연구가 진행 중이며, 상호연결기술(Interconnect)이 대용량 메모리 활용 효율을 높이는 핵심 기술로 지목되고 있다. 과거 상호연결기술의 개발 방향성은 최대한 많은 양의 데이터를 빠른 속도로 전송하는 것에 집중됐다. 이러한 흐름이 메모리 대역폭(Bandwidth) 확장을 가속화 시켰으며, HBM과 같은 차세대 기술의 개발로 이어져 과중한 워크로드 부담이 지속적으로 개선됐다. 다만 호스.. 2024. 1. 25.