NPU11 반도체 - CXL이 뭐길래? 하반기에 가시화 기대 대용량 메모리 시대, 효율성 제고를 위한 상호연결기술의 진화 반도체 산업의 최대 화두로 인공지능(AI)이 부각되면서 요구 컴퓨팅 파워가 기하 급수적으로 증가하고 있다. 데이터 밀도가 높아짐에 따라 인프라의 대형화가 지속되면서 컴퓨팅 시스템 구축 환경의 공간 활용, 전력 효율 개선, 데이터 병목현 상 해결을 위한 다양한 연구가 진행 중이며, 상호연결기술(Interconnect)이 대용량 메모리 활용 효율을 높이는 핵심 기술로 지목되고 있다. 과거 상호연결기술의 개발 방향성은 최대한 많은 양의 데이터를 빠른 속도로 전송하는 것에 집중됐다. 이러한 흐름이 메모리 대역폭(Bandwidth) 확장을 가속화 시켰으며, HBM과 같은 차세대 기술의 개발로 이어져 과중한 워크로드 부담이 지속적으로 개선됐다. 다만 호스.. 2024. 1. 25. AI 반도체 기술 현황 - Overview AI 반도체는 AI의 두 가지 핵심 기능인 학습과 추론을 구현하고 가속화 할 수 있는 반도체 기술을 의미한다. 기존에는 반도체에 정보를 영구적으로 저장하는 메모리 반도체와 반도체를 스위치로 사용하여 정보들의 더하기, 빼기 등 사칙연산을 수행할 수 있는 로직 반도체 기술로 크게 분류되었다. 4차 산업혁명과 코로나19로 인해 전 세계에서 실시간으로 정보들이 다양한 형태로 발생함에 따라 대량의 정보를 처리하기 위하여 SW 중심의 AI 알고리즘이 도입되어 반도체에 단순 연산이나 저장의 기능을 넘어, 차세대 컴퓨터가 주어진 이미지를 인지하고 분류하는 추론 작업과 사람과 같이 스스로 배우고 판단할 수 있는 학습 작업을 수행할 수 있도록 AI 반도체 기술이 발전되고 있다. 인간의 두뇌에서 신경세포들이 서로 연결된 네.. 2023. 10. 9. AI 반도체의 정의 및 발전 전망 1. 개념 정의 AI 반도체는 AI 서비스를 구현하기 위해 요구되는 데이터 및 알고리즘을 효율적으로 처리할 수 있는 반도체로 정의할 수 있다. AI 기술의 핵심기술 중 학습･추론 기술을 구현하기 위한 데이터 연산 처리를 저전력으로 고속 처리하여 효율성에 특화된 반도체를 의미한다. 빅데이터 분석, AI 서비스 등 AI 산업이 확대되면서 학습･추론의 인공신경망 알고리즘에 최적화된 AI 전용 반도체의 필요성이 증대되었다. 첫 번째로 연산 성능을 비교하여 볼 때, CPU를 활용한 초기 AI 컴퓨터는 GPU의 채용을 통해 연산 성능이 개선되었으나, 대규모･대용량 연산 처리가 증대함에 따라 AI 반도체의 필요성이 대두되었다. 두 번째로 전력효율을 비교하여 볼 때, AI 반도체는 낮은 전력으로 대량의 데이터를 동시에.. 2023. 10. 1. 반도체 산업 탐구: 비 메모리의 미래 - 인공지능 AI 0. Overview 최근 PC, 모바일, 서버 이후 새로운 반도체 수요처에 대한 관심이 크다. 이들의 공통점은 AI다. 다양한 분야에 걸쳐 AI 응용처들이 나타날 것으로 예상된다. 신규 수요처들이 메모리, 비메모리 각각의 수요에 실제 어떤 영향을 미칠 수 있 을지에 대해 생각해 볼 필요가 있다. 인공지능 활용의 핵심은 학습과 추론이다. 이 때 반도체 수요에 미치는 영향은 크게 3가지다. 1) 서버 내 학습 요구량(연산) 증가 → AI 반도체 증가 & 메모리 반도체 증가 수많은 데이터를 기반으로 서버 내에서 AI는 학습이 진행된다. 인공지능 활용이 늘어난다는 것은 머신러닝, 딥러닝 등을 통한 인공지능의 학습이 증가한다는 것 을 의미하며 이는 연산 처리량의 증가를 말한다. 연산 처리량의 증가는 AI 반도 .. 2023. 3. 26. 반도체 기술 탐구: AI 수요로 반도체 신성장 동력 장착 1. AI 반도체 적용 확대 → 비메모리 반도체 Q 증가 AI 반도체 적용처가 증가하고 있다. 차량용 반도체의 경우 비전 이외에 자연어 처리 등으로 AI 적용 처리도 늘어날 수 밖에 없다. 또한 드론, 스마트팩토리, 의료용 및 로봇 등으로 적용처 확대도 긍정적이다. 이에 AI 시장 성장 → 비메모리 Q 증가 → OSAT 공정의 수혜로 이어질 전망이다. 다품종 소량 생산 특성상 후 공정이 중요해지고 기술적 난이도 또한 높기 때문이다. AI 반도체 세부 시장內 엣지 클라우드용 시장 규모는 CAGR(2021~2030F) 16%로 95억달러가 전망된다. 2. 고밀도, 고속의 메모리 스펙 강화 범용 GPU를 이용하여 AI를 구현하는 기존의 방식은 대규모/대용량 연산에 비효 율적이며 높은 소비전력을 요구한다. 이 .. 2023. 3. 9. 이전 1 2 다음
