본문 바로가기

dojo6

온디바이스 AI: NPU 시장을 견인하다 NPU 중심의 데이터센터를 구축하고 있는 테슬라 이러한 NPU의 장점을 가장 잘 활용하여 데이터센터를 구축한 AI 서비스 업체는 테슬라이다. 테슬라의 자율주행 서비스(Full Self Driving)를 구현하기 위한 알고리즘은 이 알고리즘을 학습하기 위한 최적의 NPU인 Tesla Dojo라는 학습용 NPU로 학습되며, 각각의 테슬라 차량에는 HW N.0 시리즈라는 Customized NPU가 탑재되어 있다. HW N.0 NPU는 자율주행 추론을 위해 특화 설계된 칩이며, 전세계 도심을 누비며 교통상황에 맞는 추론을 하고 그 결과에 따라 차량을 제어한다. 이후 이렇게 쌓인 데이터를 Dojo Chip으로 구동되는 TESLA의 중추서버에 전달하면 해당 서버에서 자율주행 알고리즘 연산에 최적화된 Dojo가 다.. 2024. 2. 29.
AI 반도체 기술 - 2세대 AI 반도체 1세대 AI 반도체 기술개발로 인한 컴퓨터 성능의 향상은 다양한 AI 알고리즘 개발을 이끌었다. 간단한 이미지 분석을 넘어 컴퓨터가 인간의 언어를 이해하고 해석할 수 있도록 하는 자연어 처리 등 여러 알고리즘들이 새롭게 제시됨에 따라 수행 해야하는 연산량이 기하급수적으로 증가하고 있다. 따라서 범용적으로 사용되던 1세대 AI 반도체 기술과 다르게 AI 알고리즘을 빠르게 가속시킬 수 있는 전용 반도체가 필요하게 되었다. 광범위한 응용 분야 중 특정 목적만을 위해 맞춤형으로 설계된 ASIC을 AI 알고리즘에 최적화한 2세대 AI 반도체 NPU를 통해 1세대 AI 반도체 기술 대비 월등한 연산 성능과 높은 전력 효율을 보여주고 있다. 1. NPU 기술 광범위한 응용 분야 중 특정 목적만을 위해 맞춤형으로 설계.. 2023. 10. 9.
로봇 기업 탐구: Tesla. AI 와 로봇 기업으로의 확장 - 4 (7) 벡터 공간을 구성하기 위한 Data Labeling 데이터를 수집하는 것 뿐만 아니라 좋은 질의 데이터를 수집하여 처리하는 것이 중요하다. 신경망은 수억 개의 파라미터를 가지고 있는데, 파라미터의 수가 많아질수록 신경망을 제어하는 것이 어렵다. 이를 훈련하기 위해서는 깨끗하고 다양한 데이터 셋을 확보하는 것이 중요하다. 데이터 라벨링의 발전과정 ① 전문 업체와 협력 → ② 내재화하여 2D 라벨링 진행 → ③ 사람이 직접 벡터 공간 라벨링 → ④ 컴퓨터가 스스로 라벨링하는 Code 2.0 4 년 전에는 전문 데이터 라벨링 업체와 협력하여 진행하였지만, 지연 시간이 길고 엔지니어와의 긴밀한 협력이 더디다는 문제가 있었다. 이러한 이유로 라벨링 작업을 내재화하여 In-house 로 전환하고 라벨링 전문.. 2023. 1. 2.
로봇 산업 탐구: 5. 테크기업들의 진출 - 테슬라 테슬라 – 자율주행에서 얻은 FSD 와 Dojo computer 기술을 Teslabot 에 그대로 적용 이미 테슬라의 일론머스크는 “앞으로 로봇이 자동차보다 더 큰 비즈니스가 될 것이다”(Robots to be bigger business than Tesla cars)며, 테슬라를 세계에서 가장 큰 로봇회사(Tesla as the World's Biggest Robot Company)라 칭한 바 있다. 2021 년 AI Day 를 통해 자율주행과 로봇의 뇌에 해당하는 Data engine 알고리즘을 아주 디테일하게, 장시간 소개한 후 이 시스템을 그대로 사용한 테슬라봇, Optimus project 를 발표한 바 있다. 이때까지만 해도 많은 사람들은 테슬라봇에 대해 테슬라의 장기비전 정도로만 생각을 했다.. 2022. 8. 23.
자동차 기술 탐구: 테슬라 오토파일럿 모빌아이는 카메라와 사물 인지 알고리즘을 기반으로 발전된 시스템이다. 모빌아이 이 외에도 ADAS를 실제로 적용하고 있고 개발하는 업체가 다수 있으며 대표적인 업체가 테슬라다. 테슬라는 이미 자율주행 시스템을 적용한 완성차를 판매하고 있고, 소프트웨 어를 업그레이드하면서 완성도를 높여가고 있다. 테슬라의 오토파일럿은 HW 3.0 단계에 이르렀으며 HW 4.0 단계에 대한 기대감이 모아지고 있다. HW 3.0 보다 약 3배 이상의 성능 개선이 예상되며, 브로드컴과 테슬라의 공동 개발한 칩이 TSMC 7nm 공정을 통해 양산된다고 알려져 있다. 기존 SoC는 삼성 전자의 14nm 공정에서 생산되며, 2H22 삼성전자는 7nm 공정을 사용한 칩을 공급할 예정이다. 테슬라는 자율주행 레벨5 달성을 위해 모빌아이.. 2022. 7. 16.
반도체 산업 탐구: 우주의 기운을 모으는 파운드리 1/4 1. Big Tech 기업들의 자체 ASIC 개발 확대 지금까지 비메모리 반도체 업계는 철저한 분업화와 적절한 타겟 시장 창출을 통해 성장 해 왔다. 다시 말해, 팹리스 업체는 칩 설계만 하고, 파운드리 업체는 생산만 담당했으며, 제조사들은 팹리스 업체들의 기성 제품을 잘 활용해 완성품을 만들기만 하면 됐다. 파운드리의 고객은 단순히 팹리스에 국한됐고, 제조사들은 팹리스 업체하고만 거래하면 됐다. 하지만, 최근 몇 년간 이런 생태계가 빠르게 뒤바뀌고 있다. Big Tech 기업들이 자기네들의 쓰임새에 정확히 맞는 자체 반도체를 개발하게 되면서부터다. 애플이 반도체를 설계해 온 것은 아이폰부터이니 벌써 10년이 넘은 이야기고, 테슬라가 자체 반도체를 활용해 자율주행을 구현하고 있는 것도 모르는 사람이 없다.. 2022. 2. 12.