본문 바로가기

Cortex2

생성형 AI를 위한 반도체 기술 trend 2/2 - 주요 반도체 기업들의 전략 1) NVIDIA A100 Tensor Core GPU는 가속화가 지속되고 있는 데이터 센터 플랫폼에서 전 세대 대비 10배 높은 추론 성능과 새로운 수준의 정밀도 및 가속을 가능하게 하는 3세대 Tensor Core 기술을 제공한다. MIG(Multi-GPU Instance) 기능은 단일 A100을 7개 의 인스턴스로 분할함으로써 각 인스턴스에서 서로 다른 신경망이 실행 가능하며 구조 희소성(Structural Sparsity) 이라는 새로운 특성을 활용하여 추론 AI의 추가적인 가속화를 지원한다. NVIDIA H100 Tensor Core GPU는 모든 워크로드에 대해 전례 없는 성능, 확장성 및 보안을 제공하며 NVIDIA 4세대 NVLINK 활용 시 워크로드 가속화와 전용 Transformer E.. 2024. 4. 15.
반도체 기술 탐구: 사라지는 PC와 모바일의 경계, ARM 1. ARM이 성공할 수밖에 없었던 이유 ARM 코어의 빠른 발전과 성공은 독특한 사업 모델 때문이라고 해도 과언이 아니다. ARM은 칩을 직접 제조하지 않고, 칩의 설계 솔루션을 다른 회사에게 판매(라이선스)해 그들이 직접 제조하도록 한다. 칩을 제조하는데 걸리는 양산 기간을 절약하고, 이 시간을 전부 ARM 코어의 발전에 쏟아붓는 것이다. 1991년에 설립된 ARM은 초창기에만 해도 칩을 제조하고 판매했지만, 제조 공정이 출중하지 않아 판매량이 좋지 않았으며, 운영 자금 압박으로 인해 사업 모델을 현재와 같은 형태로 바꾸는 의사결정을 단행했다. ARM이 폭발적으로 성장했던 시기는 스마트폰 시장이 크게 성장한 2010년대에 진입하면서부터다. 그 이전에도 피쳐폰, MP3, PMP와 같은 여러 기기에 AR.. 2021. 7. 11.