tensor core2 NVIDIA GPU의 Core 구조: CUDA Core와 Tensor Core 1. CPU와 CPU의 Core CPU와 마찬가지로 GPU 내부에도 연산을 처리할 수 있는 Core들이 존재한다. 하지만 CPU와 GPU Core 구성에는 큰 차이가 존재한다. CPU는 하나의 Core가 순차적으로 직렬 처리되는 프로세스를 효율적으로 처리하기 위해 만기 때문에 단일 Core 성능을 GPU와 비교한다면 월등히 뛰어나다고 할 수 있다. 하지만 GPU는 병렬 처리를 기반으로 한 아키텍쳐를 채택해 설계되었기 때문에 여러 Data들을 병렬로 효율적으로 처리할 수 있습다. 이러한 이유로 GPU를 Throughput 기반의 Architecture라고 부르기도 한다. GPU는 CPU보다 더 단순한 Core들로 구성되어 있지만 CPU가 일반적으로 1에서 8개의 Core를 갖는 것에 비해 GPU는 보통 수.. 2024. 2. 28. 온디바이스 AI 구현을 위한 프로세서 업체들의 방향성 CPU 업체들은 본격적인 제품 다변화를 추진 스마트폰 온디바이스 AI 기능 구현에 시장의 관심이 집중돼 있으나 시스템의 구조적인 면에서 PC 업종이 한 발 앞서 있다. S/W와 플랫폼이 확장성을 증명하며 AI의 보편화 기대감을 높일 수 있을 것으로 판단한다 . CES에서 파악된 기술 트렌드는 프로세서 업체들이 AI로 모든 역량을 집중하고 있는 것이다. 엔비디아, AMD, 인텔을 비롯한 주요 프로세서 업체들은 서버 뿐만 아니라 PC에서도 AI 기능이 강화된 제품 라인업을 확대하고 있다. 기존 프로세서 브랜드의 개편을 통해 AMD와 인텔은 NPU(ASIC)가 탑재된 AI PC용 제품을 세분화하기 시작했으며, 내장 GPU의 성능도 대폭 강화하고 있다. Co-processor 성능의 중요도 증가할 전망 AI 반.. 2024. 2. 17. 이전 1 다음
