AI 서버의 미래? 수냉식 vs. 공냉식

NVIDIA의 GPU가 고성능화 됨에 따라 더 많은 전력을 사용하게 되고, 더 많은 열이 발생하고 있다. 최근 발표된 Blackwell B200 같은 경우 수냉식 서버를 기본으로 계획하고 있다. 하지만, 수냉식 서버의 경우, 데이터 센터의 구조나 설비들이 변경되어야 한다.

 

아래 수냉식과 공냉식 서버 구축 시 장단점과 비용을 비교해보았다.

 

1. 수냉식 서버

 

[장점]

 

- 열 전달 효율이 뛰어나 고밀도 서버 냉각에 적합
- 전체 서버실 운용 전기료 최대 50% 절감 가능
- 서버실 면적 70% 이상 감소 가능
- 소음 저감 및 서버 수명 연장 효과
- 고성능 및 고집적 환경에 적합

 

[단점]

- 초기 설치 비용이 높음
- 시스템 복잡성 증가로 유지보수 어려움
- 누수 위험 존재

 

 

 

2. 공냉식 서버

 

[장점]

- 초기 설치 비용이 상대적으로 낮음
- 시스템 구조가 단순하여 유지보수 용이
- 누수 위험이 없음

[단점]

- 열 전달 효율이 수냉식보다 낮음
- 고밀도 서버 환경에서 냉각 한계 존재
- 전력 소비량이 수냉식보다 높음
- 소음 발생이 더 큼

 

 

3. 비용 비교

 

- 초기 투자 비용: 수냉식이 공냉식보다 높음
- 운영 비용: 수냉식이 공냉식보다 낮음 (전기료 최대 50% 절감 가능)
- 장기적 총 소유 비용(TCO): 수냉식이 유리할 수 있음

수냉식 서버 도입 시 기존 공냉식 대비 서버실 유틸리티 전력량 58% 절감, 서버팬 전력량 15% 절감 효과가 있다. 또한 서버실 면적 70% 이상 감소로 공간 활용도가 높아진다.

 

이러한 큰 폭의 전기료 절감이 가능한 이유는 다음과 같다

- 수냉식 시스템은 열 전달 효율이 뛰어나 고밀도 서버 냉각에 더 적합하다

- 액체 기반 쿨러를 사용하면 고밀도 열부하를 더 잘 제어할 수 있다.

- 수냉식은 공냉식보다 에너지 효율이 높아 피크 구간에서의 에너지 효율이 더 유리합니다. 

 

 

4. 주요 추가 설비

 

데이터 센터에 수냉식 서버를 도입할 때는 다음과 같은 추가 설비가 필요하다.

 

 

[주요 설비]

1) 열교환기
- 서버에서 발생한 열을 흡수한 냉각수의 열을 외부로 배출하는 역할

2) 펌핑 시스템  
- 냉각수를 지속적으로 순환시켜 서버 부품의 온도를 적절하게 유지

3) 대형 액체 탱크
- 냉각에 사용될 액체를 저장하고 순환시키기 위한 용도

4) 배관 시스템
- 냉각수를 서버와 열교환기 사이에 순환시키기 위한 파이프 네트워크

[기타 필요 설비]

- 누수 감지 및 방지 시스템
- 수질 관리 시스템 
- 백업 냉각 시스템

 

[설계 변경 사항]

- 서버실 바닥 구조 변경 (액체 순환을 위한 설계)
- 랙 구조 변경 (수냉 호환 랙으로 교체)
- 전체 데이터센터 레이아웃 재설계

수냉식 시스템 도입 시 이러한 추가 설비와 설계 변경이 필요하므로, 초기 투자 비용이 증가하게 된다. 그러나 장기적으로는 에너지 효율성 향상과 운영비용 절감 효과를 기대할 수 있다. 

결론적으로, 초기 투자 비용은 수냉식이 높지만 장기적인 운영 비용과 에너지 효율성 측면에서는 수냉식이 유리하다. 특히 고성능, 고밀도 서버 환경에서 수냉식의 장점이 더욱 부각된다. 다만 각 데이터센터의 규모, 용도, 예산 등을 종합적으로 고려하여 선택해야 한다.

 

 

뜨리스땅

출처

 

[1] https://koolance.com/files/products/kk_files/ServerSolutions.pdf
[2] https://coolingstyle.com/ko/why-is-it-important-to-have-a-cpu-water-cooling-system/
[3] https://namu.wiki/w/%EC%88%98%EB%9E%AD
[4] https://www.se.com/kr/ko/work/campaign/data-center-design-overview/
[5] https://ascentoptics.com/blog/ko/data-center-cooling/
[6] https://www.itworld.co.kr/topnews/331917
[7] https://blog.naver.com/goldmap7/223377254433
[8] https://www.hvacrj.co.kr/news/articleView.html?idxno=22756

데이터센터의 액체냉각 시스템... 서버 전력 절감에 가장 적합한 액침냉각 - 냉동공조저널

 

 

https://tristanchoi.tistory.com/672

NVIDIA의 Blackwell GPU 출시 지연