온디바이스AI5 온디바이스 AI: NPU 시장을 견인하다 NPU 중심의 데이터센터를 구축하고 있는 테슬라 이러한 NPU의 장점을 가장 잘 활용하여 데이터센터를 구축한 AI 서비스 업체는 테슬라이다. 테슬라의 자율주행 서비스(Full Self Driving)를 구현하기 위한 알고리즘은 이 알고리즘을 학습하기 위한 최적의 NPU인 Tesla Dojo라는 학습용 NPU로 학습되며, 각각의 테슬라 차량에는 HW N.0 시리즈라는 Customized NPU가 탑재되어 있다. HW N.0 NPU는 자율주행 추론을 위해 특화 설계된 칩이며, 전세계 도심을 누비며 교통상황에 맞는 추론을 하고 그 결과에 따라 차량을 제어한다. 이후 이렇게 쌓인 데이터를 Dojo Chip으로 구동되는 TESLA의 중추서버에 전달하면 해당 서버에서 자율주행 알고리즘 연산에 최적화된 Dojo가 다.. 2024. 2. 29. CUDA: 소프트웨어 때문에 하드웨어를 못 바꾸나? 프로그래밍 언어, API, 프레임워크를 제공하는 CUDA CUDA(Compute Unified Device Architecture)는 2007년에 출시된 NVIDIA의 소프트웨어 지원 플랫폼으로 프로그래머들이 프로그램을 손쉽게 코딩할 수 있도록 도와주는 여러 기능들을 제공하는 플랫폼이다. CUDA는 1. C/C++를 기반으로 한 GPU 전용 프로그래밍 언어를 제공하며 2. 다양한 딥러닝 프레임워크와 API를 제공하여, 수학 계산, 데이터 분석, 이미지 처리 등의 작업을 효율적으로 수행할 수 있게 도와준다. 먼저 CUDA가 제공하는 프로그래밍 언어는 프로그래머들이 사용하는 C언어 C++언어를 확장하여 GPU에 최적화된 코드를 짤 수 있도록 도와준다. 이 확장된 언어는 여러 키워드를 사용하여 GPU를 위한 .. 2024. 2. 28. OSAT: 반도체 고성능화 동반 수혜 AI 전환에 따른 OSAT 수혜 찾기 AI 기술의 확대가 나타나며, Server(Cloud) AI, On-Device AI, On-Sensor AI 등 다양한 AI 관련 기술에 대한 관심이 높아진 상황이다. 소비자 제품에 AI 기술이 접목되면서 기존 제품보다 높은 성능의 반도체가 요구되고 있다. CES 2024를 보더라도 프로세서 업체들은 AI 기술을 통해 연산 기능이 대폭 강화된 신제품을 선보였다. 반도체의 고도화에 따라 반도체를 설계하고 생산하는 팹리스, 파운드리, IDM 업체의 수혜는 당연한 수순이다. 하지만 전공정에서 만들어진 반도체를 테스트하는 후공정 업체 또한 주목할 필요가 있다. 온디바이스AI: AP 고도화 기존에 클라우드AI 방식과는 달리, 스마트폰 자체적으로 정보를 수집하고 연산하기 때문.. 2024. 2. 22. AI를 품은 구글의 스마트폰: 픽셀8 프로 구글도 온디바이스AI 진입을 알렸다. 일부 AI서비스(하이브리드) 이용도 가능하다. 2023년 10월 새로운 AP칩인 Tensor G3를 탑재한 픽셀8 시리즈를 공개했다. Tensor G3칩은 구글이 고도화된 AI 작업을 효율적으로 처리할 수 있도록 설계한 점이 특징적이다. 해당 칩은 9개의 CPU와 자체 개발한 AI 가속기 NPU인 TPU를 탑재하며 과거 픽셀6에 탑재된 Tensor G1칩 대비 2배 가량 많은 양의 AI작업 들을 처리할 수 있다. 갤럭시 S24에 탑재된 퀄컴의 스냅드래곤 8 Gen3와 비교했을 때 CPU와 GPU 모두 한 단계 아래 버전을 사용했다. 구글은 12월 6일 자체 개발한 생성형 AI ‘제미나이(Gemini)’를 공개했다. 울트라, 프로, 나노 3가지 버전으로 나뉜다. 202.. 2024. 2. 16. 온디바이스 AI에 의한 메모리 반도체 시장 훈풍 기대 1. 한계에 직면한 H/W 폼팩터 변화, 돌파구는 S/W의 차별화 스마트폰 수요 회복이 가시화된 이후부터는 수요를 이끌 동인이 H/W 폼팩터 변 화보다는 S/W의 지능화가 가미된 기술적 변화가 될 것으로 예상한다. ’19년 2월 출시된 삼성 ‘갤럭시 폴드’ 이후 다양한 후속 제품들이 출시되고 있으나 이미 폴더블 제품에 익숙해진 소비자들은 폴더블을 새로운 폼팩터로 인식하지 않는다. 폴더블 외에도 관심이 높았던 대화면, 베젤리스, 펀치홀 디스플레이, 고화소 카메라 등은 이미 보편화돼 H/W의 강점만으로는 차별화된 마케팅이 어려워졌다. 스마트폰 업체들은 온디바이스 AI의 적극적인 활용을 고민하고 있는 것으로 보 인다. 트렌드로 자리잡은 AI의 영향력이 가장 보편화된 디바이스인 스마트폰까지 침투하기 시작하면서 .. 2024. 1. 1. 이전 1 다음
