본문 바로가기

nVidia14

생성형 AI를 위한 반도체 기술 trend 1/2 1. AI 추론 시장의 성장성 1) 학습(Training)과 추론(Inference)의 계산방식 차이 학습은 AI 모델이 주어진 데이터와 그 결과값을 이용해 여러가지 변수들 가운데 최적의 가중치(파라미터)를 찾는 과정이다. 개와 고양이를 판별하는 AI 모델을 예로 들 수 있다. 수만장의 고양이와 개의 사진에 그에 해당하는 결과값을 부여하여 모델의 가중치를 반복적으로 조절하게 된다. 학습 모델은 각 사진마다 개인지 고양이인지 예측하는 시도를 하고, 그 예측과 사전 부여한 결과값(라벨)을 비교한다. 결과가 틀렸다면 오차를 바탕으로 가중치를 업데이트한다. 이와 같은 계산을 여러 번 반복하며 모델은 점점 더 정확한 예측을 할 수 있도록 개선된다. 이 과정에서 가중치값(파라미터)의 개수를 늘릴수록 모델의 정확도가.. 2024. 4. 14.
엔비디아와 TSMC 덕분에 대만에서 대박난 페라리 엔비디아발 반도체 호황으로 TSMC 등 대만 반도체 기업의 주가가 치솟자 럭셔리 스포츠카 페라리의 대만 판매가 급증하고 있다. 전체 페라리의 판매 실적에서 페라리가 차지하는 비중이 3년 만에 두 배가 된 것. 26일 영국 파이낸셜타임즈(FT)에 따르면 베네데토 비냐 페라리 최고경영자(CEO)는 대만의 부유층이 급증하면서 페라리 수요가 중국과 홍콩보다 빨리 증가하고 있다고 밝혔다. 비냐 CEO는 "중국은 성장하고 있지만, 대만이 더 빠르게 성장하고 있다"며 "대만에는 더 많은 기업가들이 있고 반도체 산업이 호황을 누리고 있다"고 덧붙였다. 페라리는 고객들이 개인화된 옵션을 추가한 덕분에 기록적인 연간실적을 발표했다. 지난해 매출은 전년 대비 17% 증가한 약 60억유로(약 8조6900억원), 순이익은 34.. 2024. 3. 26.
NVIDIA(엔비디아) GTC 2024 주요 관전 포인트 GTC 2024 행사 개요 오는 3월 18일부터 21일(미국 현지 기준)까지 세너제이 SAP 센터(미국 캘리포니아 소재)에서 GTC 2024가 개최된다. 엔비디아가 매년 진행하는 컨퍼런스로 그래픽 처리 관련 기술 외에 인공지능, 가속 컴퓨팅, 데이터 과학, 데이터 센터 등 다양한 분야를 다룬다. 5년 만에 대면 행사로 돌아온 이번 행사는 온오프라인 동시 참여가 가능한 하이브리드 형태로 진행된다. 생성 AI와 가속컴퓨팅, 로보틱스 등을 중심으로 항공우주·농업·자동차·운송·클라우드 서비스·금융 서비스·헬스케어·생명 과학·제조·유통·통신 등 산업 전반에 1000개 이상의 기업들이 참여할 예정이다. 특히 이번 행사에는 선도적인 AI 연구자들이 200개 이상의 세션에 참여한다. 이 중 ‘트랜스포밍 AI’는 젠슨 .. 2024. 3. 11.
협동로봇과 Smart Factory 대만 Techman Robot과 NVIDIA의 Omniverse를 활용한 Smart Factory 구현 모습 https://www.youtube.com/watch?v=BZExafqLJEQ 출처: Techman 뜨리스땅 2024. 2. 2.
2024년 산업별 투자 전략 - 반도체 2023년 반도체 산업은 AI 서버 수요 증가가 성장을 견인했다. 프로세서 업체들의 매출에서 데이터센터가 차지하는 비중은 50%를 넘어섰다. 2024년은 컨슈머 디바이스에 AI 침투가 시작되는 원년이 될 전망이다. 이종 산업의 AI 융합이 본 격화도 주목할 포인트다. AI 개인화를 위한 세트 단의 프로세서 성능 강화와 유효 시장의 확장, 고부가 메모리 솔루션의 적용 가속화에 다시 집중할 시점이다. 프로세서 3사는 AI 구동에 최적화된 전략 제품을 연이어 발표 AMD: 2023년 CES에서 모바일 디바이스에 특화된 솔루션을 발표했던 AMD는 가장 먼저 데스크탑용 신형 프로세서를 공개하며 온디바이스 AI 경쟁의 포문을 열었다. 신형 CPU인 ‘라이젠 8000G’ 시리즈에는 AI 기능 강화를 위한 NPU가 최.. 2024. 1. 27.
AI 반도체 기술 현황 - Overview AI 반도체는 AI의 두 가지 핵심 기능인 학습과 추론을 구현하고 가속화 할 수 있는 반도체 기술을 의미한다. 기존에는 반도체에 정보를 영구적으로 저장하는 메모리 반도체와 반도체를 스위치로 사용하여 정보들의 더하기, 빼기 등 사칙연산을 수행할 수 있는 로직 반도체 기술로 크게 분류되었다. 4차 산업혁명과 코로나19로 인해 전 세계에서 실시간으로 정보들이 다양한 형태로 발생함에 따라 대량의 정보를 처리하기 위하여 SW 중심의 AI 알고리즘이 도입되어 반도체에 단순 연산이나 저장의 기능을 넘어, 차세대 컴퓨터가 주어진 이미지를 인지하고 분류하는 추론 작업과 사람과 같이 스스로 배우고 판단할 수 있는 학습 작업을 수행할 수 있도록 AI 반도체 기술이 발전되고 있다. 인간의 두뇌에서 신경세포들이 서로 연결된 네.. 2023. 10. 9.