「CES 2026에 등장한 AI 데이터센터 에너지 효율 기술」
인공지능(AI) 시대가 열렸습니다. 개인 컴퓨터에서 회사에서 거대언어모델(LLM)로 불리는 AI를 사용하고 있습니다. 사람이 혼자 처리하는 일보다 많은 양을 처리할 수 있어서 18세기 산업혁명에 버금가는 생산성 혁명이 예상됩니다.
피지컬 AI를 탑재해 작업하고 있는 로봇 상상도. 사진=엔비디아 제공
테슬라의 CEO 일론 머스크는 AI를 탑재한 로봇이 등장하여 더는 사람이 노동할 필요가 없는 시대가 열린다고 예언하였습니다. 현대차 소속 보스턴다이나믹스 ‘아트라스’ 로봇은 작업 로봇의 미래를 보여주었습니다. CES 2026 행사가 열린 미국 라스베이거스에는 로봇 택시가 관람객들을 실어 나르고 있습니다.
이들은 해마다 성능을 개선한 AI가 등장하는데 힘입었습니다. 가령 엔비디아는 작년에 그레이스 블랙웰이라는 AI 칩·시스템을 선보였는데 올해 공개한 베라 루빈은 이보다 2배 정도 성능이 높습니다.
AI 성능이 개선될수록 에너지를 많이 소모합니다. AI 칩과 시스템을 설치한 데이터센터도 마찬가지입니다. 그래서 어떤 사람들은 AI 데이터센터를 설치하는 만큼 발전기를 늘려야 한다고 주장합니다.
엔비디아가 제시한 AI 칩 발전 현황. 사진=엔비디아 제공
"빅테크는 전력 확보 모드!"
실제로 페이스북으로 유명한 메타는 오클로·비스트로·테라파워와 같은 소형모듈원전(SMR) 제작사와 계약을 맺고 2035년까지 6.6GW 규모의 전력을 공급받기로 하였습니다. 미국 오하이오州에 건설하는 데이터센터 ‘프로메테우스’에 공급합니다.
오픈 AI는 지난해 9월에 발표한 텍사스州 소재 1.2GW 데이터센터에 태양광-에너지저장장치(ESS) 마이크로그리드를 설치하여 전력을 공급받을 예정입니다. 더 많은 발전기가 필요한 것은 사실입니다.
그렇다고 AI 칩·시스템이 마냥 ‘전기 먹는 하마’에 머물지 않습니다. 기술자들이 계속하여 에너지 효율을 높이는 기술을 개발하기 때문입니다.
"CES 2026의 해법: 전력 스무딩과 45°C 온수 냉각 기술"
베라 루빈 데이터센터. 사진=엔비디아 제공
엔비디아의 CEO 젠슨 황은 이번 CES 2026에서 베라 루빈 시스템에 △전력 스무딩 기술 △45°C 온수 냉각 기술을 적용한 베라 루빈 AI 칩·시스템을 공개하였습니다.
거대언어모델(LLM)을 학습시킬 때 데이터를 수천에서 수만 대의 GPU에 나눠 진행합니다. 각 GPU는 LLM을 어떻게 수정할지 기울기(Gradient)를 계산 후 통신 장치를 이용해 한번에 데이터를 합쳐 LLM의 가중치(Weight)를 업데이트합니다. 이 과정을 All-Reduce라고 부릅니다.
All-Reduce 과정에서 연산 장치와 통신 장치가 순간적으로 풀가동되면서 시스템에선 순식간에 전력 소비가 25%까지 치솟아 기존 AI 데이터센터는 평소에는 쓰지도 않을 전력을 25%나 확보하여 둡니다. 그만큼 낭비인 것이죠.
엔비디아는 베라 루빈 시스템 전체에 전력 스무딩 기술을 적용해 전력 스파크를 시스템 수준에서 억제하고 평탄화하였습니다. AI 데이터센터 운영자가 더는 전력 스파크에 대비해 25%의 전력을 남겨두지 않아도 되도록 조치하였습니다.
CES 2026 기간 동안 엔비디아가 공개한 고에너지 효율 AI 칩 베라 루빈. 사진=엔비디아 제공
또, 종전 7°C에서 18°C의 물 대신 45°C의 미지근한 물로 서버를 냉각시키는 기술도 소개하였습니다. AI 칩이 든 서버는 온도가 80°C 이상 올라가는 만큼 성능 유지를 위해 냉각이 필요합니다. 종전에 냉동기를 이용해 물 온도를 7°C에서 18°C로 낮춰 서버를 식힌 이유입니다. 그만큼 에너지를 많이 소비하였습니다.
하지만 젠슨 황은 물의 온도를 45°C 정도까지만 낮추어도 충분히 AI 칩·시스템을 냉각시킬 수 있는 기술을 개발하였습니다.
펄펄 끓는 여름날 물을 상온에 두어도 온도를 그 수준까지 낮출 수 있으니, 냉동기가 더는 필요 없게 되었습니다. 데이터센터에서 가장 전기를 많이 먹는 설비 중 하나인 냉동기를 사용하지 않으니, 냉각에 필요한 에너지를 40% 이상 줄일 수 있게 되었습니다.
젠슨 황은 45°C 온수 냉각 기술로 전 세계 데이터센터 소비 전력의 6%를 절감할 수 있다고 발표하였습니다.
엔지니어들은 AI 성능을 개선하는 만큼 에너지 효율도 높이며 필요한 발전기의 수를 느리게 늘리고 있습니다. 우리나라도 AI 데이터센터를 확충하고 있는 만큼 높은 에너지 효율의 AI 칩과 시스템을 주목해야 하겠습니다.
[참고 문헌]
“45°C 온수냉각·전력 스무딩…젠슨 황, 데이터센터 에너지효율 개선”
데일리한국 2026년 1월 11일字
“메타는 원전·오픈AI는 태양광…AI 데이터센터 전력확보 전쟁(종합)”
연합뉴스 2026년 1월 10일字
