본문 바로가기

전체 글670

CoWoS 공정에 대해 관심을 가져야 하는 이유는 무엇인가? 1. CoWoS 공정이란 무엇인가? CoWoS(Chip on Wafer on Substrate) 기술은 TSMC에서 개발한 첨단 패키징 기술로 CoWoS 기술들은 다음과 같은 성격이 있다.- 2.5D 패키징 기술로 분류됨- 여러 개의 칩을 하나의 패키지에 통합할 수 있음- 칩 간 연결 속도를 향상시키고 전력 소비를 줄임- 고성능 컴퓨팅(HPC), AI, 데이터 센터 등의 분야에서 널리 사용됨 TSMC는 이러한 CoWoS 기술을 지속적으로 발전시키고 있으며, 최근에는 CoWoS와 3D 적층 기술인 SoIC를 결합한 'CoWoS+SoIC' 형태의 패키징도 개발 중이다. 이를 통해 더욱 높은 성능과 집적도를 달성할 수 있을 것으로 기대된다.  CoWoS 기술은 크게 세 가지 종류로 뉜다 CoWoS-S (Sil.. 2024. 9. 11.
AI 서버의 미래? 수냉식 vs. 공냉식 NVIDIA의 GPU가 고성능화 됨에 따라 더 많은 전력을 사용하게 되고, 더 많은 열이 발생하고 있다. 최근 발표된 Blackwell B200 같은 경우 수냉식 서버를 기본으로 계획하고 있다. 하지만, 수냉식 서버의 경우, 데이터 센터의 구조나 설비들이 변경되어야 한다. 아래 수냉식과 공냉식 서버 구축 시 장단점과 비용을 비교해보았다. 1. 수냉식 서버 [장점] - 열 전달 효율이 뛰어나 고밀도 서버 냉각에 적합- 전체 서버실 운용 전기료 최대 50% 절감 가능- 서버실 면적 70% 이상 감소 가능- 소음 저감 및 서버 수명 연장 효과- 고성능 및 고집적 환경에 적합 [단점]- 초기 설치 비용이 높음 - 시스템 복잡성 증가로 유지보수 어려움 - 누수 위험 존재   2. 공냉식 서버  [장점]- 초기 설.. 2024. 9. 9.
Blackwell의 발목을 잡은 COWOS-L 패키징은 무엇인가? COWOS-L 패키징의 특징 CoWoS-L은 TSMC의 고급 패키징 기술 중 하나로, 다음과 같은 주요 특징을 가지고 있다.  1. 비용 효율성- 실리콘 인터포저 대신 유기 기판을 사용하여 CoWoS-S보다 비용을 절감할 수 있다.- LSI 칩을 여러 제품에 반복 사용할 수 있어 비용 효율성이 높다. 2. LSI(Local Silicon Interconnect) 칩 활용:- 칩 간 고밀도 연결을 위해 LSI 칩을 사용한다. 이를 통해 0.4μm/0.4μm의 미세 피치로 칩 간 고밀도 연결을 제공한다.- 이를 통해 다양한 칩 구성을 유연하게 통합할 수 있어 복잡한 시스템 설계가 가능하다.- 칩 간 거리 단축: CoWoS-L은 여러 칩을 하나의 패키지에 통합하여 칩 간 거리를 크게 줄안다. 이는 데이터 전송.. 2024. 9. 9.
NVIDIA의 Blackwell GPU 출시 지연 지난 주 내내 NVIDIA의 주가가 약세를 보이면서 미국 필라델피아 반도체 지수는 약세를 면하지 못했다. 이는 고용지표의 부정적 발표와 더불어 나스닥의 하락을 가져왔다. NVIDIA의 주가 약세는 주요 투자은행들의 빅테크들에 대한 AI 투자의 투자 회수에 대해 보수적인 시각을 견지하는 가운데, Blackwell GPU의 출시 지연 소식에 따라 촉발되었다.   Blackwell GPU 출시 지연의 주요 원인은 다음과 같다.1. 마스크 문제로 인한 칩 수율 저하: NVIDIA CFO Colette Kress에 따르면, Blackwell GPU 마스크에 문제가 있어 생산 수율을 개선하기 위해 변경이 필요하게 됨2. 패키징 기술의 복잡성: Blackwell은 TSMC의 CoWoS-L(Chip-on-Wafer-o.. 2024. 9. 8.
텐스토렌트의 AI 반도체는 NVIDIA GPU의 대안이 될 수 있는가? 1. 기본적인 가능성 AI 반도체는 현재 AWS, M/S, Google과 같은 하이퍼스케일러 클라우드 업체들에서 주로 수요를 만들어내고 있다. 향후 AI 반도체 시장이 성숙함에 따라, on-prem 형 엣지 AI나 온디바이스 AI 시장도 성장하겠지만, 당분간은 클라우드 기반의 시장이 주요 수요 시장이 될 것이다. 따라서, 짐 켈러의 텐스토렌트에서 만드는 AI반도체가 NVIDIA GPU의 대안이 되기 위해서는 하이퍼스케일러 클라우드 업체들의 시스템에서 사용될 수 있는지 여부가 중요하다.  하지만, 켈러 CEO는 "엔비디아가 미처 공략하지 못한 다양한 AI 시장이 존재한다"며, 스마트폰, 전기차, 클라우드 서비스 등 AI 활용 범위가 확대되면서 더 저렴한 솔루션에 대한 수요가 급증하고 있다고 강조하여서 하이.. 2024. 9. 7.
글로벌 경영컨설팅 사 Accenture의 흥미로은 최근 행보 과거 미국의 가장 큰 회계 법인이었던 Arthur Andersen이라는 회사가 있었다. 80년대 부터 회계 법인들은 수익성 확대를 위해 경영컨설팅 분야에 사업을 확대하기 시작하였고, 경영컨설팅은 기존에 회계법인이 주로 하던 회계감사나 재무 컨설팅에 비해 큰 이익을 창출하는 사업이 되었다.  결국, 1989년에 Arthur Andersen은 Anersen Consulting이라는 자회사를 만들어서 컨설팅 사업을 분리하였고,  Andersen Worldwide Société Coopérative라는 느슨한 협의체의 별도 회사로 각자 운영하는 형태로 구조를 변경하였다. 그러나 그 이후에도 90년도에 계속 양사간에는 업무범위 침해 및 수익 배분에 대한 여러가지 분쟁과 소송이 이어졌고, 2000년 8월에 국제상업.. 2024. 6. 26.
삼성파운드리 사고 소식 관련 (2024/06/24에 발생) 삼성전자의 국내 파운드리 사업부에서 반도체 웨이퍼 생산 과정에서 결함이 발생한 것으로 26일 알려졌다.  이날 재계 등에 따르면, 지난 6/24에 삼성전자 파운드리 웨이퍼 제조 공장에서 품질에 영향을 미치는 결함(affect)이 발생하고 이 때문에 수율에 영향을 미치는 차질이 발생한 것으로 전해졌다. 삼성전자 파운드리 웨이퍼 제조 공장에서 3나노 2세대 공정 중 2500랏(lot) 규모의 결함(defect)이 발생해 1조원 손실이 발생했고, 이 웨이퍼들을 전량 폐기해야 한다는 루머가 돌았다. 2500랏은 12인치 웨이퍼 기준 월 6만5000장가량의 생산 규모로, 한때 '파운드리 내 사고 발생으로 웨이퍼 20만장이 훼손됐다'는 풍문까지 나왔다. 하지만, 피해 규모는 웨이퍼 50여장 정도라고 전하는 소식도 .. 2024. 6. 26.
엔비디아 대항마? - 그록(Groq) 구글 출신 조나단 로스(Jonathan Ross) CEO는 한국인에게 익숙한 알파고(2016년 이세돌 9단과 대국한 AI)에 쓰인 머신러닝용 칩 TPU(텐서 프로세싱 유닛)의 초기 설계자다. 게임 개발자가 되려다가 게임 밖 세상을 바꾸는 쪽이 더 재미있게 느껴져 소프트웨어(SW) 엔지니어의 길로 들어섰다고 했다. 뉴욕대 재학 중 얀 르쿤 교수의 머신러닝 강의를 들었고, 이후 구글에서 TPU 개발에 참여했다.  현재 사용되는 CPU 및 GPU보다 인공지능 서비스 구현에 더 적합한 반도체를 개발해 상용화하겠다는 목표를 두고 지난 2016년 그록(Groq)을 설립했다. 기계 학습을 위해 개발된 구글의 텐서 처리 장치(TPU) 설계자 10명 중 8명이 그록에 합류하며 일찌감치 시장의 기대를 받았다. 그록은 AI.. 2024. 6. 25.
엔비디아 대항마? - 삼바노바(SambaNova) 1. 개요 2017년 설립된 미국 스타트업 삼바노바(SambaNova)는 GPU를 대신해 RDU (Reconfigurable Data Unit)라는 고성능 AI반도체를 선보이고 있다.삼바노바의 창업자는 고성능 멀티코어 CPU의 대부 쿤레 올루코툰(Kunle Olukotun) 스탠퍼드대 교수와 데이터 및 인공지능 소프트웨어 전문가 크리스 레(Chris le) 스탠퍼드대 교수다. 2002년 선마이크로에 인수됐던 올루코툰 교수의 첫 스타트업 아파라 웹시스템즈(Afara Websystems)에서 일했던 로드리고 리앙이 다시 삼바노바에 합류해 CEO를 맡았다. 시작은 소프트웨어 개발이었으나 회사가 구상한 소프트웨어를 운용할 수 있는 반도체가 없어 삼바노바는 결국 직접 AI 반도체를 만들기로 결심한다. 이미 업계에.. 2024. 6. 23.

티스토리툴바