반도체 기술 탐구: HBM 채택 움직임 - 1. Intel

인텔이 제온 12세대 프로세서와 고대역폭 메모리(HBM)를 결합한 인텔 제온 CPU 맥스 시리즈(코드명 사파이어 래피즈HBM)를 공개했다. 인텔 제온 CPU 맥스 시리즈 프로세서는 칩에 HBM이 내장된 첫 x86 기반 프로세서다.

지난 6월 13일 우고나 에체루오 인텔 디자인 엔지니어링 그룹(DEG) 수석 엔지니어 겸 인텔제온 CPU 맥스 시리즈 총괄 아키텍트는 “CPU가 처리할 수 있는 정보량은 데이터를 가져오는 ‘파이프’의 크기에 의해 제약을 받는다“며 ”파이프가 클수록CPU로 처리할 수 있는 정보가 늘어나기 때문에 더 많은 작업을 처리할 수 있다”고 설명했다.

에체루오 총괄 아키텍트는 인텔 제온 CPU 맥스 시리즈가 메모리 대역폭 제한을 받는 워크로드에 특히 적합하게 설계됐다고 강조했다. 그는 “4세대 인텔 제온 스케일러블 프로세서는 대용량 워크로드를 자체적으로 처리할 수 있지만, HBM 탑재를 통해 메모리 대역폭과 연산이 제한된 워크로드 처리 개선이 가능했다“고 설명했다.
 
인텔은 해당 제품이 정부 연구소, 연방 기관 및 대학 등에서 사용될 것으로 전망했다. 인텔 제온 CPU 맥스 시리즈 프로세서는 칩에 HBM이 내장된 첫 x86 기반 프로세서다.

에체루오 총괄 아키텍트는 HBM 탑재 효과를 설명하기 위해 CPU를 자동차의 내연기관으로 가정했다. 

자동차의 성능은 연소실에 연료와 혼합되는 공기 유입량으로 인해 제한된다. 더 많은 공기를 주입하기 위해 터보와 슈퍼차저를 추가한다. CPU의 경우 HBM에 해당된다. 이를 통해 강제로 더 많은 공기를 주입할 수 있고 최고 속도도 올라가는 것이다.

CPU의 ‘파이프’는 시간이 지남에 따라 더 많은 공기를 연소실로 비유했던 곳으로 이동시킨다. 파이프가 더 넓어짐에 따라 메모리와 CPU 사이의 인터페이스 처리량이 증가한다. 파이프가 넓어지면 CPU가 더 많은 데이터를 처리가 가능하다.

그는 이번 제품 설계에 있어서 CPU와 HBM의 물리적 거리가 키 포인트라고 설명했다. HBM은 프로세서와 가까운 회로기판에 납땜돼 필요한 정보를 빠르고 편리하게 가져올 수 있다. 이러한 근접성 덕분에 전력을 절약할 수 있다. 다만, HBM을 CPU 패키지에 결합시키는 것은 쉽지 않았다고 전했다.

에체루오 총괄 아키텍트는 “4세대 인텔 제온 프로세서 설계가 확정된 후 수많은 테스트와 검증을 진행해야 했다”며 “제품 내 개별 IP를 살펴보고 HBM과 충돌하는 부분이 없는지 확인해야 했으며, 최대한 넓은 대역폭을 활용할 수 있는지 봤다“고 밝혔다. 이어 “표준 제품 일정과 제공에 영향을 주지 않으면서도 HBM이 성공적으로 작동하는 데 필요한 변경사항을 적용하는 방법을 찾아야 했다”고 말했다.

사파이어 래피즈는 서버용 CPU 점유율 대다수를 차지하는 인텔이 약 2년 반만에 내놓은 데이터센터용 프로세서다. 인텔 7 공정으로 4개 타일을 'EMIB' 적층 패키징 기술을 통해 결합해 DDR5를 통한 메모리 대역폭이 크게 향상됐다. 또한 PCle 5.0과 'CXL(Compute Express Link) 1.1 인터커넥트'를 통해 더 넓은 입출력 대역폭을 지원한다.

특히 인공지능(AI), 데이터 분석, 네트워킹, 고성능컴퓨팅(HPC) 등 주요 워크로드 성능을 대폭 높여주는 점이 특징이다. 사파이어 래피즈는 현존하는 CPU 중 가장 많은 12개 가속기를 탑재했다.

이를 통해 기본 컴퓨팅 성능은 53%, AI추론과 학습 성능은 최대 10배 이상 향상시킨다. 뿐만 아니라 5G 네트워크 및 가상화 기지국(VRAN) 워크로드는 최대 2배, 네트워킹·스토리지 성능도 최대 2배 이상 끌어올린다.

HPC의 경우 최대 3.7배 높은 성능을 구현한다. 이미 미국 아르곤 국립 연구소는 이 프로세서가 2만개 이상 탑재된 슈퍼컴퓨터 '오로라'를 운영 중이다.

워크로드 처리에 필요한 필요 전력량은 크게 줄었으며, 비용 절감 효과도 구현했다. 사파이어 래피즈는 전작 대비 평균 2.9배 더 높은 와트당 성능을 제공할 뿐만 아니라, 전력 최적화 모드에서 성능 손실없이 최대 70와트 낮은 전력으로 구동할 수 있다.

또 메모리 향상을 위해 인텔 서버용 CPU 중 처음으로 DDR5를 지원한다. DDR5는 메모리 반도체인 D램의 최신 규격이다. 전 세대인 DDR4보다 속도가 두 배 빠르고 전력 효율은 30% 높다.

사파이어 래피즈는 DDR5 지원으로 DDR4보다 메모리 대역폭을 1.5배 넓혔다. 인텔 최초 DDR5를 지원하는 제품인 만큼 DDR5 시장이 확대될 수 있을 것으로 전망한다.

4세대 제온 스케일러블 프로세서를 도입했거나 자체 탑재해 판매 중인 고객사는 AWS, 시스코, 클라우데라, 델, 후지쓰, 구글클라우드, HPE 등이 있다. AWS는 '아마존 EC2' 포트폴리오에서 이번 제품을 지원하고 있으며 시스코는 최신 7세대 UCS C시리즈와 X시리즈 서버 제품군에 도입했다.

한편, 인텔은 ISC 하이 퍼포먼스’23 컨퍼런스에서 곧 출시될 HBM 제품인 차세대 인텔 코드명 그래나이트 래피즈와 멀티플렉서 결함 랭크(MCR)를 갖춘 차세대 인텔 제온 프로세서를 선보였다.

 
출처: 디일렉, AI타임즈
 
뜨리스땅