arm10 생성형 AI를 위한 반도체 기술 trend 2/2 - 주요 반도체 기업들의 전략 1) NVIDIA A100 Tensor Core GPU는 가속화가 지속되고 있는 데이터 센터 플랫폼에서 전 세대 대비 10배 높은 추론 성능과 새로운 수준의 정밀도 및 가속을 가능하게 하는 3세대 Tensor Core 기술을 제공한다. MIG(Multi-GPU Instance) 기능은 단일 A100을 7개 의 인스턴스로 분할함으로써 각 인스턴스에서 서로 다른 신경망이 실행 가능하며 구조 희소성(Structural Sparsity) 이라는 새로운 특성을 활용하여 추론 AI의 추가적인 가속화를 지원한다. NVIDIA H100 Tensor Core GPU는 모든 워크로드에 대해 전례 없는 성능, 확장성 및 보안을 제공하며 NVIDIA 4세대 NVLINK 활용 시 워크로드 가속화와 전용 Transformer E.. 2024. 4. 15. 생성형 AI를 위한 반도체 기술 trend 1/2 1. AI 추론 시장의 성장성 1) 학습(Training)과 추론(Inference)의 계산방식 차이 학습은 AI 모델이 주어진 데이터와 그 결과값을 이용해 여러가지 변수들 가운데 최적의 가중치(파라미터)를 찾는 과정이다. 개와 고양이를 판별하는 AI 모델을 예로 들 수 있다. 수만장의 고양이와 개의 사진에 그에 해당하는 결과값을 부여하여 모델의 가중치를 반복적으로 조절하게 된다. 학습 모델은 각 사진마다 개인지 고양이인지 예측하는 시도를 하고, 그 예측과 사전 부여한 결과값(라벨)을 비교한다. 결과가 틀렸다면 오차를 바탕으로 가중치를 업데이트한다. 이와 같은 계산을 여러 번 반복하며 모델은 점점 더 정확한 예측을 할 수 있도록 개선된다. 이 과정에서 가중치값(파라미터)의 개수를 늘릴수록 모델의 정확도가.. 2024. 4. 14. 반도체IP 투자포인트 1. 첫번째, 파운드리 경쟁력 좌우하는 반도체IP 팹리스는 파운드리 선택 시 공정별 수율뿐만 아니라 보유 중인 IP 포트폴리오도 고려한다. 팹리스의 인하우스 IP 엔지니어수가 충분하지 않다면 설계 시 파운드 리에서 이용가능한 IP가 최대한 많아야 하기 때문이다. 빅테크를 제외하고 칩 개발 수요가 있는 대부분 회사들은 인하우스 IP를 확보하기 어렵다. 공정이 미세화돼 IP 개발비용이 급격하게 상승하기 때문이다. 65나노에서 칩 개발비용은 약 380억원이었으나, 5나노에서 칩 개발비는 약 7천억원으로 상승했다. 인건비, EDA Tool, MPW(Multi Project Wafer, 한 장의 웨이퍼에 여러 R&D용 시제품 칩을 올려 제작하는 서비스로 중소 팹리스 이용)등 개발비가 모두 오르기 때문이다. 애플,.. 2023. 9. 22. 반도체 기술 탐구: 반도체 IP 산업에 대한 분석 1. 새로운 경쟁자가 못 들어오는 이유 반도체IP 시장은 2022년 시장규모 75억달러로 약 10개 회사가 과점하고 있다. 상위 2개사(ARM, Synopsys)의 시장점유율은 60%이다. IP 포트폴리오 관점에서 봤을 때도 Processor IP는 ARM, Interface IP는 Synopsys, Cadence가 독과점 중이다. 이 외 대부분 IP 회사는 특정한 시장을 공략한 경우이다. 반도체IP 시장에 새로운 경쟁자가 쉽게 들어오지 못하는 이유는 이익과 손실의 비대칭 구조 때문이다. 즉, 새로운 IP가 도입된 후 문제가 생길 때 고객사가 감당하는 손실이 이익 보다 막대하게 큰 구조이다. IP의 주고객은 팹리스다. 팹리스는 설계된 칩을 디바이스 마켓에 공급한다. 만약 IP가 잘못돼 칩에 문제가 생긴다.. 2023. 9. 21. 반도체 기술 탐구: 반도체IP의 이해 1. 한국 시스템 반도체 산업 현주소 한국의 반도체 생태계는 메모리 반도체 위주이다. 반도체산업협회에 따르면 2021년 한국 반도체 총생산은 약 201조원으로 전세계 반도체 생산액의 20%를 차지한다. 하지만 같은 해 한국 시스템 반도체 세계 점유율은 3% 수준이다. 통상 시스템 반도체 시장은 메모리 반도체 대비 1.5배 더 큰 편이다. 사실상 한국 반도체 생산 대부분이 메모리 산업으로부터 나온 것이다. AI, IoT, 자율주행 등 수요다변화로 글로벌 시스템 반도체 시장은 메모리 반도체 시장 보다 급격한 성장을 전망한다. 옴디아에 따르면 시스템 반도체 시장은 메모 리 시장 대비 2025년까지 5%p 더 높게 성장한다. 두 반도체 시장의 규모차이는 현재 1.5배에서 2025년 약 2배까지 확대될 예정이다... 2023. 9. 20. 자동차 기술 탐구: 엔비디아 자율주행 플랫폼, Drive Orin / Hyperion 엔비디아는 딥러닝 기반 자율주행 시스템 제공을 목적으로 엔비디아 드라이브라는 플랫폼을 확보하고 있다. 2015년 CES에서 최초 공개 되었으며, 가장 최신 플랫폼은 NVIDIA DRIVE Orin 이후 하이페리온(Hyperion) 9로 2022년 3월 출시했고 레벨 3 에서 레벨 4까지 자율주행 솔루션 제공을 목적으로 한다. 엔비디아는 이 시스템이 개방 형이라는 점을 강조하고 있다. 엔비디아 자율주행 솔루션의 전략은 자율주행 시스템을 자체적으로 구축하지 않는 자동차 업체들에게 고성능의 슈퍼 컴퓨팅 플랫폼을 효율적으로 제공하는데 있다. DRIVE Hyperion은 개방형 플랫폼으로 제조업체가 NVIDIA의 자체 개발 작업을 활용해 자율 주행 자동차 출시 시간을 단축할 수 있도록 지원한다. 플랫폼은 콘티넨탈.. 2022. 7. 17. 이전 1 2 다음
