[전력]AI가 바꾼 데이터센터의 체온 조절법, 공랭에서 침지냉각까지

생성형 AI가 본격적으로 확산되기 전까지 데이터센터의 냉각은 비교적 간단한 문제였다. 서버가 만들어내는 열을 공기로 식히고 더운 공기를 밖으로 빼내는 방식이면 충분했다. 

서버 한 대가 쓰는 전력도 지금처럼 크지 않았고 랙 하나에 들어가는 장비 수도 제한적이었다. 데이터센터는 커다란 컴퓨터실에 가깝게 운영됐고 냉각은 비용 관리의 문제에 가까웠다. 

하지만 2023년 이후 상황은 급격히 달라졌다. 생성형 AI 학습과 추론에 쓰이는 GPU가 데이터센터의 주인공이 되면서 냉각은 “데이터센터가 돌아가느냐 멈추느냐”를 가르는 핵심 조건이 됐다.

먼저 이해해야 할 개념이 ‘열 밀도’다. 열 밀도는 일정 공간에서 얼마나 많은 열이 발생하느냐를 뜻한다. 과거 일반 서버는 랙당 5~10kW 정도의 열을 냈다. 이 정도면 강한 공조 장치와 팬으로 충분히 식힐 수 있었다. 하지만 최신 AI GPU 서버는 랙 하나에서 50kW를 훌쩍 넘고 일부 구성은 100kW 이상까지 올라간다. 

예전에는 선풍기와 에어컨으로 식히던 방에 갑자기 대형 보일러 여러 대를 동시에 켜 놓은 셈이다. 공기로는 열을 옮기는 속도 자체가 따라가지 못한다.

이 한계에서 가장 먼저 등장한 해법이 ‘액체냉각’이다. 액체는 공기보다 열을 옮기는 능력이 훨씬 뛰어나다. 같은 조건이라면 물이나 냉각액은 공기보다 수십 배 많은 열을 한 번에 가져갈 수 있다. 

초기 액체냉각은 서버 내부에 물이 흐르는 관을 추가하거나 CPU 주변에 냉각판을 붙여 열을 빼는 방식이었다. 여전히 공기냉각이 함께 쓰였고 액체는 보조 수단에 가까웠다. 이 단계의 핵심은 “공기를 조금 덜 쓰자”였다.

(사진 출처: Gemini AI 생성 이미지)

하지만 AI GPU의 전력 소모가 계속 커지면서 액체냉각도 더 가까이 들어오기 시작했다. 여기서 등장한 개념이 ‘직접칩냉각’이다. 말 그대로 CPU나 GPU 칩 바로 위에 냉각판을 붙이고 그 안으로 냉각수를 흘려보내 열을 즉시 제거하는 방식이다. 

이 방식은 열이 퍼지기 전에 바로 잡아내기 때문에 효율이 크게 높아진다. 비유하면 방 전체를 식히는 대신 불판 바로 아래에 얼음을 대는 것에 가깝다. 이 방식은 2024~2025년을 거치며 AI 전용 데이터센터의 사실상 표준으로 자리 잡기 시작했다. 

공기냉각은 주변 장비나 보조 역할로 밀려났고 핵심 열원은 액체가 담당하게 됐다.

(사진 출처: Gemini AI 생성 이미지)

그 다음 단계가 침지냉각이다. 침지냉각은 서버 전체를 전기가 통하지 않는 특수 냉각액에 통째로 담그는 방식이다. 서버 안의 팬도 필요 없고 공기 흐름을 설계할 이유도 없다. 

칩, 메모리, 전원부에서 나오는 열이 모두 액체로 바로 전달된다. 기술적으로는 가장 강력한 냉각 방식에 가깝다. 다만 서버 설계가 달라져야 하고 유지보수 방식도 완전히 바뀌기 때문에 모든 데이터센터가 바로 선택하기는 어렵다. 

그래서 현재 기준으로 침지냉각은 초고밀도 AI 클러스터나 실험적 대규모 시설에서 먼저 도입되고 점진적으로 확대되는 단계에 있다.

이 흐름을 다시 정리해 보자. 공기냉각은 열 밀도가 낮던 시절의 해법이었다. 액체냉각은 공기가 감당하지 못하는 구간을 메우기 위해 도입됐다. 그 다음으로 직접칩냉각은 AI 칩의 폭발적인 발열을 처리하기 위해 냉각 지점을 칩 바로 옆으로 끌어당긴 결과로 간주할 수 있다.

침지냉각은 아예 서버 전체를 열 전달 매체 안에 넣어 밀도를 더 이상 문제삼지 않겠다는 선택에 가깝다. 이 순서는 열이라는 물리적 한계에 밀려 이동한 경로다.

앞으로의 데이터센터 경쟁력은 GPU 개수보다 “얼마나 높은 열을 안정적으로 처리할 수 있느냐”에 달려 있다는 인식이 확산되고 있다. 이제 AI 시대의 데이터센터에서 냉각 능력이 성능 그 자체가 될 확률이 높다.