본문 바로가기

TPU4

구글 딥마인드, 반도체를 설계하는 AI - 'AlphaChip' 공개 구글 딥마인드가 반도체 칩 설계 과정을 혁신할 AI 기반 시스템인 'AlphaChip'을 공개했다.   반도체를 설계하는 과정은 크게 논리적인 설계와 물리적인 설계의 2가지의 과정이 있는데,  1) 논리적인 설계는 어떤 논리 흐름으로 주어진 정보를 처리할 것인가를 설계하는 것이고, 산출물로는 net list라고 하는 gate의 리스와 배치 내용이 나온다. 2) 물리적인 설계는 net list에서 정의된 논리 회로 gate들을 실제로 주어진 chip 면적에 어떻게 트랜지스터와 스위치 등을 구현하는지에 대한 설계도를 만들어내는 작업이다.  이 중 물리적 설계 과정에서 건축 설계에서 도면을 그리는 것과 같은 레이아웃을 그리는 작업인 floor plan을 하게 되는데, 물리적인 device나 스위치등을 어떤 크.. 2024. 9. 30.
엔비디아 대항마? - 그록(Groq) 구글 출신 조나단 로스(Jonathan Ross) CEO는 한국인에게 익숙한 알파고(2016년 이세돌 9단과 대국한 AI)에 쓰인 머신러닝용 칩 TPU(텐서 프로세싱 유닛)의 초기 설계자다. 게임 개발자가 되려다가 게임 밖 세상을 바꾸는 쪽이 더 재미있게 느껴져 소프트웨어(SW) 엔지니어의 길로 들어섰다고 했다. 뉴욕대 재학 중 얀 르쿤 교수의 머신러닝 강의를 들었고, 이후 구글에서 TPU 개발에 참여했다.  현재 사용되는 CPU 및 GPU보다 인공지능 서비스 구현에 더 적합한 반도체를 개발해 상용화하겠다는 목표를 두고 지난 2016년 그록(Groq)을 설립했다. 기계 학습을 위해 개발된 구글의 텐서 처리 장치(TPU) 설계자 10명 중 8명이 그록에 합류하며 일찌감치 시장의 기대를 받았다. 그록은 AI.. 2024. 6. 25.
AI 반도체 기술 - 2세대 AI 반도체 1세대 AI 반도체 기술개발로 인한 컴퓨터 성능의 향상은 다양한 AI 알고리즘 개발을 이끌었다. 간단한 이미지 분석을 넘어 컴퓨터가 인간의 언어를 이해하고 해석할 수 있도록 하는 자연어 처리 등 여러 알고리즘들이 새롭게 제시됨에 따라 수행 해야하는 연산량이 기하급수적으로 증가하고 있다. 따라서 범용적으로 사용되던 1세대 AI 반도체 기술과 다르게 AI 알고리즘을 빠르게 가속시킬 수 있는 전용 반도체가 필요하게 되었다. 광범위한 응용 분야 중 특정 목적만을 위해 맞춤형으로 설계된 ASIC을 AI 알고리즘에 최적화한 2세대 AI 반도체 NPU를 통해 1세대 AI 반도체 기술 대비 월등한 연산 성능과 높은 전력 효율을 보여주고 있다. 1. NPU 기술 광범위한 응용 분야 중 특정 목적만을 위해 맞춤형으로 설계.. 2023. 10. 9.
AI 반도체 기술 현황 - Overview AI 반도체는 AI의 두 가지 핵심 기능인 학습과 추론을 구현하고 가속화 할 수 있는 반도체 기술을 의미한다. 기존에는 반도체에 정보를 영구적으로 저장하는 메모리 반도체와 반도체를 스위치로 사용하여 정보들의 더하기, 빼기 등 사칙연산을 수행할 수 있는 로직 반도체 기술로 크게 분류되었다. 4차 산업혁명과 코로나19로 인해 전 세계에서 실시간으로 정보들이 다양한 형태로 발생함에 따라 대량의 정보를 처리하기 위하여 SW 중심의 AI 알고리즘이 도입되어 반도체에 단순 연산이나 저장의 기능을 넘어, 차세대 컴퓨터가 주어진 이미지를 인지하고 분류하는 추론 작업과 사람과 같이 스스로 배우고 판단할 수 있는 학습 작업을 수행할 수 있도록 AI 반도체 기술이 발전되고 있다. 인간의 두뇌에서 신경세포들이 서로 연결된 네.. 2023. 10. 9.