Рідинне охолодження підвищує продуктивність і ефективність платформи Blackwell від Nvidia

 

Швидке зростання штучного інтелекту (ШІ), особливо в таких сферах, як Generative AI (GenAI) і великі мовні моделі (LLM), викликало безпрецедентний попит на обчислювальну потужність. Оскільки моделі штучного інтелекту стають все більш складними та вимагають більше даних, апаратне забезпечення, необхідне для підтримки цих досягнень, стикається зі значними проблемами, зокрема з розсіюванням тепла. Традиційних методів охолодження, таких як повітряне охолодження, більше недостатньо для керування енергоспоживанням передового апаратного забезпечення штучного інтелекту, і тут вступають у гру рішення з рідинним охолодженням.

 

Технологія рідинного охолодження набула популярності як високоефективний спосіб керування тепловою потужністю центрів обробки даних штучного інтелекту. Це особливо важливо для таких платформ, як архітектура Blackwell від Nvidia, де величезна обчислювальна потужність вимагає передових систем охолодження для забезпечення продуктивності та довговічності.

 

УHotchip 2024конференції Nvidia представила своє інноваційне рішення, інтегруючитепла вода Пряме рідинне охолодження мікросхемитехнологія з її архітектурою Blackwell для вирішення зростаючих проблем споживання електроенергії та охолодження. Ця розробка означає ключовий прогрес у розробці апаратного забезпечення штучного інтелекту, зниження експлуатаційних витрат і підвищення ефективності у великомасштабних додатках ШІ.

 

▲ Підручник з гарячих мікросхем: рідинне охолодження підвищує продуктивність і ефективність

 

Розвиток технології рідинного охолодження

 

Технологія рідинного охолодження стає критично важливим компонентом у проектуванні центрів обробки даних зі штучним інтелектом у зв’язку зі зростаючими вимогами до потужності чіпів зі штучним інтелектом. Очікується, що в міру зростання програм штучного інтелекту енергоспоживання в центрах обробки даних різко зросте. Багато процесорів зі штучним інтелектом, у тому числі H100 від Nvidia та її новийАрхітектура Блеквелла, споживають від 700 Вт до 1200 Вт електроенергії. Ця величезна витрата енергії посилюється, коли кластери ШІ, що складаються з тисяч графічних процесорів, працюють в унісон.

 

Наприклад,Навчальний кластер ШІ Ілона Маска, найбільший у світі зі 100000 графічним процесором H100, має повністю рідинне охолодження, щоб забезпечити потребу в енергії 31-мегават. Такі приклади демонструють, чому оптимізація технології охолодження має вирішальне значення не тільки для зниження експлуатаційних витрат, але й для підвищення загальної продуктивності систем ШІ. Оскільки потреба у високопродуктивному ШІ продовжує зростати, рідинне охолодження відіграватиме все більшу роль у підтримці високопродуктивних обчислювальних систем.

 

 

Переваги рідинного охолодження в центрах обробки даних ШІ

Рідинне охолодження виділяється завдяки своїй здатності безпосередньо відводити тепло від критичних компонентів, таких як процесори та графічні процесори, покращуючи розсіювання тепла порівняно з традиційним повітряним охолодженням. вПряме рідинне охолодження (DLC), охолоджуюча рідина безпосередньо контактує з мікросхемою, підвищуючи теплову ефективність і зменшуючи потребу в громіздких вентиляторах і системах кондиціонування повітря. Це призводить до меншого споживання енергії для охолодження, тим самим зменшуючи загальні експлуатаційні витрати центру обробки даних.

 

Крім того,Занурювальне рідинне охолодження, де цілі сервери занурені в діелектричну рідину, є ще ефективнішим рішенням для охолодження. Цей метод не тільки гарантує, що всі компоненти залишаються холодними, але й мінімізує механічний знос, що подовжує термін служби обладнання та значно зменшує шум від повітряного обладнання.

 

 

Проблеми з енергоспоживанням обладнання ШІ

 

У міру масштабування систем штучного інтелекту їх енергоспоживання стає все більшою проблемою. Обладнання ШІ, наприкладГрафічний процесор Nvidia H100іАрхітектура Блеквелла, як відомо, енергоємні, з вимогами до 1200 Вт на чіп. Типовий кластер ШІ, що містить 22 000 GPU H100, наприклад, може потребувати до31 мегават електроенергії-еквівалент енергоспоживання невеликого міста.

 

Ця величезна потреба в електроенергії не тільки збільшує експлуатаційні витрати центрів обробки даних, але й сприяє значному впливу на навколишнє середовище. Щоб вирішити ці проблеми, центри обробки даних повинні зосередитися як на зниженні енергоспоживання, так і на підвищенні ефективності охолодження.

 

 

Архітектура Blackwell від Nvidia та тепла вода безпосередньо для охолодження мікросхем

 

УКонференція Hotchip 2024Nvidia представила своє рішення для інтеграції рідинного охолодження з архітектурою Blackwell, використовуючитехнологія охолодження з теплою водою Пряме до мікросхеми. Цей підхід використовує теплу воду (на відміну від охолодженої) для поглинання та передачі тепла безпосередньо від чіпа. Використовуючи охолодження теплою водою, Nvidia може зменшити споживання енергії охолодження центрів обробки даних до 28%.

 

Ефективність цього рішення є подвійною: воно не тільки зменшує загальне споживання електроенергії для охолодження, але також дозволяє рекуперувати відпрацьоване тепло, яке можна використовувати для інших цілей, наприклад, для опалення сусідніх будівель. Крім того, охолодження теплою водою подовжує термін експлуатації серверів, утримуючи чіпи в оптимальному діапазоні температур, запобігаючи перегріву та зменшуючи знос.

 

▲Рішення для охолодження мікросхеми з теплою водою

 

Ця техніка охолодження особливо важлива, оскільки такі додатки штучного інтелекту, як GenAI і LLM, продовжують збільшувати обчислювальну потужність, необхідну в центрах обробки даних. Здатність підтримувати оптимальні температури безпосередньо впливає на продуктивність і масштабованість робочих навантажень штучного інтелекту, гарантуючи, що ці системи можуть справлятися з інтенсивними вимогами, які до них пред’являються.

 

 

 

Занурювальне рідинне охолодження: крок вперед

 

Крім прямого рідинного охолодження,Занурювальне рідинне охолодженнятакож набирає популярності як рішення нового рівня для великомасштабних систем ШІ. Цей метод занурює цілі сервери в непровідну діелектричну рідину, яка повністю поглинає та розсіює тепло від усіх компонентів. Охолоджуючи всю систему таким чином, занурювальне рідинне охолодження забезпечує такі переваги:

 

• Підвищена ефективність охолодження: Оточуючи всі компоненти охолоджувальною рідиною, цей метод забезпечує рівномірне та ефективне відведення тепла.
• Нижчі витрати на технічне обслуговування: відсутність рухомих частин, таких як вентилятори, менший механічний знос, що зменшує витрати на обслуговування та подовжує термін служби обладнання.
• Покращена енергоефективність: Охолодження зануренням може значно зменшити споживання енергії, оскільки усуває потребу в системах кондиціонування повітря та інших компонентах активного охолодження.

 

▲Занурювальна система рідинного охолодження

 

Крім того,Занурювальне рідинне охолодженнямає високу масштабованість, що робить його ідеальним для центрів обробки даних, які обробляють робочі навантаження штучного інтелекту, які генерують значну кількість тепла, наприклад ті, які працюють на архітектурі Blackwell від Nvidia. Оскільки більші моделі штучного інтелекту стають все більш поширеними, занурювальне охолодження може стати основним рішенням для центрів обробки даних, які прагнуть масштабувати свою роботу, мінімізуючи витрати на електроенергію та вплив на навколишнє середовище.

 

 

 

Інвестиції Кремнієвої долини в технології охолодження

 

Зростаючий попит на більш ефективні рішення для охолодження в центрах обробки даних ШІ привернув увагу компаній венчурного капіталу, особливо вСиліконова долина. Ці фірми активно інвестують у стартапи, які спеціалізуються нарідинне охолодженнятехнологій, визнаючи, що інновації в цій галузі є важливими для майбутнього обладнання ШІ.

 

Розвиток стартапівпередові рішення для охолодженняне тільки забезпечить негайні переваги для систем штучного інтелекту поточного покоління, але й закладе основу для наступної хвилі апаратного забезпечення штучного інтелекту, яке, ймовірно, вимагатиме ще більш складних методів охолодження. Ці технології мають задовольняти як вимоги до високої потужності, так і теплові проблеми систем штучного інтелекту, що робить їх привабливими інвестиціями для тих, хто хоче розширити межі того, що можливо у високопродуктивних обчисленнях.

 

▲Тенденції інвестицій у ЦОД

 

 

Висновок

 

У міру того як апаратне забезпечення ШІ продовжує розвиватися, попит на інноваційні технології охолодження зростає. NvidiaАрхітектура Блеквеллазнаходиться в авангарді цієї зміни, використовуючитепла вода Прямо до Чіпаохолодження для підвищення ефективності та зниження експлуатаційних витрат.Рідинне охолодженняЗавдяки методам прямого контакту чи занурення виявився найефективнішим способом керування величезним енергоспоживанням і тепловіддачею сучасних систем ШІ.

 

Фірми венчурного капіталу звертають увагу, і багато хто інвестує в стартапи, які можуть запропонувати рішення для охолодження наступного покоління. Оскільки центри обробки даних зі штучним інтелектом стають все більшими та складнішими, важливість ефективних і масштабованих систем охолодження лише зростатиме, що робить рідинне охолодження наріжним каменем майбутньої високопродуктивної обчислювальної інфраструктури.