AMD17 생성형 AI를 위한 반도체 기술 trend 1/2 1. AI 추론 시장의 성장성 1) 학습(Training)과 추론(Inference)의 계산방식 차이 학습은 AI 모델이 주어진 데이터와 그 결과값을 이용해 여러가지 변수들 가운데 최적의 가중치(파라미터)를 찾는 과정이다. 개와 고양이를 판별하는 AI 모델을 예로 들 수 있다. 수만장의 고양이와 개의 사진에 그에 해당하는 결과값을 부여하여 모델의 가중치를 반복적으로 조절하게 된다. 학습 모델은 각 사진마다 개인지 고양이인지 예측하는 시도를 하고, 그 예측과 사전 부여한 결과값(라벨)을 비교한다. 결과가 틀렸다면 오차를 바탕으로 가중치를 업데이트한다. 이와 같은 계산을 여러 번 반복하며 모델은 점점 더 정확한 예측을 할 수 있도록 개선된다. 이 과정에서 가중치값(파라미터)의 개수를 늘릴수록 모델의 정확도가.. 2024. 4. 14. 엔비디아(NVIDIA)의 쿠다(CUDA) 지배력은 영원할까? 1. 개요 CUDA(Compute Unified Device Architecture)는 NVIDIA가 만든 GPGPU 플랫폼 및 API 모델로, GPU에서 수행하는 병렬 처리 알고리즘을 C 프로그래밍 언어를 비롯한 산업 표준 언어를 사용하여 작성할 수 있도록 하는 GPGPU 기술 중 하나(GPU 컴퓨팅에 대한 일종의 컴파일러)로, NVIDIA가 개발해오고 있다. 다른 기술들(ex. OpenCL)에 반해, low-level API의 하드웨어에 있는 고급 기능까지 사용해 성능을 끌어내지만 NVIDIA 이외의 그래픽카드와 GPU에선 작동하지 않는다. GPGPU는 고급 그래픽 프로그래밍 기술 범주에 속했기에, 그래픽 API에 익숙치 않은 일반 개발자들은 GPU를 이용하기 쉽지 않았지만 NVIDIA가 2006년 .. 2024. 3. 30. 2024년 산업별 투자 전략 - 반도체 2023년 반도체 산업은 AI 서버 수요 증가가 성장을 견인했다. 프로세서 업체들의 매출에서 데이터센터가 차지하는 비중은 50%를 넘어섰다. 2024년은 컨슈머 디바이스에 AI 침투가 시작되는 원년이 될 전망이다. 이종 산업의 AI 융합이 본 격화도 주목할 포인트다. AI 개인화를 위한 세트 단의 프로세서 성능 강화와 유효 시장의 확장, 고부가 메모리 솔루션의 적용 가속화에 다시 집중할 시점이다. 프로세서 3사는 AI 구동에 최적화된 전략 제품을 연이어 발표 AMD: 2023년 CES에서 모바일 디바이스에 특화된 솔루션을 발표했던 AMD는 가장 먼저 데스크탑용 신형 프로세서를 공개하며 온디바이스 AI 경쟁의 포문을 열었다. 신형 CPU인 ‘라이젠 8000G’ 시리즈에는 AI 기능 강화를 위한 NPU가 최.. 2024. 1. 27. 2023 2H 반도체 장비 업체 시황 점검 - 2/2 3. 성숙 공정 대비 선단 공정 선호 3.1. 가동률 하락 압력 지속되는 성숙 공정 팬데믹 기간부터 파운드리 업종은 공급 부족 수혜가 집중되며 가파른 ASP 상승이 나타났다. 고객사들의 자체 Capa 증설보다 빠른 수요 회복세가 확인되면서 파운드리 의존도는 높아질 수밖에 없는 상황이 2년간 지속됐다. 전기차 침투율 증가, 범용 칩 수요 확대 등이 업황을 견인하며 수요 강세가 이어지자 보수적인 투자 기조를 이어갔던 파운드리 업체들도 대대적인 Capa 증설을 단행했다. 파운드리 업체들 뿐만 아니라 성숙 공정 중심 IDM 업체들의 Capa 증설 효과가 1H23부터 반영되기 시작하면서 지난 2년간의 호황이 종료됐다. 공급 부족이 이어졌던 자동차, 산업, 네트워크향 범용 반도체 수급이 안정화되자 ’22년 말부터 .. 2023. 11. 8. 2023 2H 반도체 장비 업체 시황 점검 - 1/2 1. 파운드리 업체들의 전공정 투자 속도 조절 ’21년부터 전공정 장비 업체들의 실적을 견인한 것은 파운드리/로직 업체들의 투자였다. TSMC와 인텔, 삼성전자를 주축으로 대대적인 파운드리 투자가 발표되고, 미국의 반도체 보조금 수혜 기대감까지 동반되자 장비 업체들의 탑라인 성장 기대감은 증폭됐다. 1H23 파악된 Top-tier 업체들의 평균 수주 잔고는 ’22년 연간 매출을 상회하고 있는 것으로 파악된다. 장비 업체들에 갖는 실적 기대감이 지속된 이유는 견고한 수주 잔고를 확보한 가운데 ’22년 착공을 시작한 Fab의 수가 역대 최대치(33개)를 기록했기 때문이다. Fab 착공 후 장비 반입까지 약 1~1.5년의 시간이 소요되는 것을 감안하면 2H23부터 본격적인 성과가 확인돼야 한다. 걱정할 것 없.. 2023. 11. 7. 반도체 기술 탐구: HBM 채택 움직임 - 2. NVIDIA & AMD NVIDIA SK하이닉가 연이어 엔비디아의 파트너로 낙점될 가능성이 높아졌다. 이렇게 되면 SK하이닉스가 고대역폭 메모리(HBM)의 선두 주자 자리를 공고히 할 것으로 예상된다. 반도체 업계는 엔비디아가 자사 최신 그래픽 칩인 H100의 성능을 한층 더 끌어올리기 위해 SK하이닉스에 차세대 HBM인 HBM3E 샘플을 요청했을 것이라고 보고 있다. AI 용 그래픽 칩의 성능을 끌어올리기 위해선 고성능·고용량 메모리반도체를 사용해 입출력 속도를 높이는 것이 관건이다. 기존 H100엔 현존 최고 사양 D램인 HBM3가 적용된다. HBM3E는 그 다음 세대다. SK하이닉스는 내년 초 양산을 목표로 하고 있다. HBM이 GPU와 결합해 쓰이는만큼, 성능 평가는 출시 전 필수적인 과정이다. 메모리반도체 제조사로선 .. 2023. 6. 17. 이전 1 2 3 다음
