Szybki rozwój obliczeń AI prowadzi do coraz większego zużycia energii przez procesory serwerowe i większej gęstości strumienia ciepła. Ponieważ obliczenia oparte na GPU stają się coraz ważniejsze dla treningu i wnioskowania AI, zarządzanie termiczne nie jest już tylko kwestią wyboru większego radiatora. Interfejs termiczny między źródłem ciepła a strukturą chłodzącą może mieć znaczący wpływ na ogólną wydajność systemu.

W serwerach AI o dużej gęstości różne komponenty generują różne poziomy ciepła i mają różne geometrie interfejsów. Pakiety GPU i CPU mogą wymagać ekstremalnie niskiej rezystancji termicznej, podczas gdy pamięć i komponenty pomocnicze mogą potrzebować cienkich i dopasowujących się materiałów. Komponenty zasilające PCB mogą wymagać zarówno przewodności cieplnej, jak i izolacji elektrycznej, podczas gdy struktury na poziomie systemu mogą skorzystać z rozpraszania ciepła w poziomie.

Ten przypadek klienta pokazuje, jak kombinacja ciekłego metalu TIM, materiału zmieniającego fazę, podkładek termicznych i materiałów interfejsu termicznego na bazie grafenu może być wykorzystana do zbudowania wielopoziomowej strategii zarządzania termicznego dla systemów obliczeniowych AI o dużej gęstości.

Nowoczesne serwery AI integrują wiele wysokowydajnych GPU, procesorów, urządzeń pamięci, komponentów zasilających i innych elementów generujących ciepło w stosunkowo zwartej przestrzeni.

Stwarza to szereg wyzwań termicznych.

Wysokowydajne procesory generują skoncentrowane ciepło na stosunkowo małych obszarach. Wraz ze wzrostem zużycia energii przez GPU, rezystancja termiczna między chipem a strukturą chłodzącą staje się coraz ważniejsza.

Nawet jeśli płyta chłodząca lub radiator mają wystarczającą wydajność chłodzenia, źle zaprojektowany interfejs może ograniczyć transfer ciepła.

Architektury serwerów AI zawierają komponenty o różnej wysokości pakietu i geometriach powierzchni. Małe szczeliny między komponentem generującym ciepło a jego strukturą chłodzącą mogą wprowadzać kieszenie powietrzne, zwiększając rezystancję termiczną.

TIM musi zatem zapewniać wystarczającą dopasowalność i wypełnianie szczelin bez wprowadzania niepotrzebnej grubości materiału.

Komponenty zasilające i zespoły PCB mogą wymagać zarządzania termicznego przy jednoczesnym zachowaniu izolacji elektrycznej. Materiał o samej wysokiej przewodności cieplnej może nie być wystarczający.

Należy również wziąć pod uwagę zgodność mechaniczną, wydajność kompresji, metodę montażu i właściwości dielektryczne.

Wiele GPU działających jednocześnie może tworzyć skoncentrowane strefy termiczne. Jeśli ciepło nie zostanie skutecznie rozprowadzone, mogą pojawić się lokalne punkty gorące na radiatorze, obudowie lub innych strukturach termicznych.

To sprawia, że rozpraszanie ciepła jest ważną częścią ogólnego projektu termicznego serwera AI.

Zamiast używać jednego TIM dla każdego komponentu, projekt przyjął strategię materiałową specyficzną dla zastosowania.

Każdy interfejs termiczny był oceniany pod kątem generowania ciepła, szczeliny interfejsu, docelowej rezystancji termicznej, wymagań mechanicznych i elektrycznych.

Wynikowa architektura połączyła cztery różne technologie TIM:

Takie podejście pozwala każdemu materiałowi pełnić funkcję, do której jest najlepiej przystosowany.

GPU i CPU są zazwyczaj jednymi z najbardziej wymagających termicznie komponentów w serwerze AI.

Dla tych interfejsów głównym celem jest minimalizacja rezystancji termicznej między pakietem półprzewodnikowym a strukturą chłodzącą.

W projekcie zastosowano ciekły metal TIM z serii TIG78 do interfejsów o dużej mocy.

Według dostarczonych danych przypadku, materiał zapewnia:

• Przewodność cieplna do 78 W/m·K

• Zgłoszona impedancja termiczna tak niska jak 0,02 °C·in²/W

• Zakres temperatur pracy -45°C do 200°C

Połączenie wysokiej przewodności cieplnej i niskiej zgłoszonej impedancji termicznej pomaga stworzyć wydajną ścieżkę transferu ciepła z procesora do radiatora lub struktury chłodzącej.

Ciekły metal TIM może być szczególnie atrakcyjny dla zastosowań o dużej mocy, gdzie liczy się każdy przyrost rezystancji termicznej interfejsu.

Jednak inżynierowie muszą również wziąć pod uwagę izolację elektryczną, kompatybilność materiałów, proces aplikacji, zamknięcie i długoterminową niezawodność podczas projektowania interfejsu z ciekłego metalu.

Nie każdy interfejs termiczny w serwerze AI wymaga ekstremalnie niskiej rezystancji termicznej związanej z ciekłym metalem.

Pamięć i komponenty pomocnicze często mają różne wymagania termiczne i mogą skorzystać z bardzo cienkiego materiału interfejsu zdolnego do dopasowania się do współpracujących powierzchni.

Do tych zastosowań wybrano materiał zmieniający fazę TIC800.

Dostarczone specyfikacje obejmują:

• Przewodność cieplna: 5,0 W/m·K

• Zakres grubości: 0,102–0,305 mm

Podczas pracy zachowanie zmiany fazy pozwala materiałowi dopasować się do interfejsu w odpowiednich warunkach, pomagając zminimalizować mikroskopijne szczeliny powietrzne.

W przypadku kompaktowych architektur serwerów AI, cienki interfejs zmieniający fazę może zapewnić praktyczną równowagę między wydajnością termiczną, dopasowaniem interfejsu a integracją na poziomie pakietu.

Wymagania dotyczące zarządzania termicznego są różne w przypadku elektroniki mocy i komponentów PCB.

Obszary te mogą mieć nieregularne powierzchnie lub różnice w wysokości komponentów, a także mogą wymagać izolacji elektrycznej.

Do tych zastosowań użyto podkładki termicznej TIF800TU-16W.

Dostarczone dane produktu podają:

• Przewodność cieplna: 16 W/m·K

• Twardość: 45 Shore 00

• Opcje grubości: 0,5–5,0 mm

• Charakterystyka izolacji termicznej i elektrycznej

W porównaniu z ciekłym metalem, podkładka termiczna zapewnia wygodniejszy interfejs w stanie stałym do zastosowań, w których ważne jest wypełnianie szczelin, zgodność mechaniczna, izolacja i wydajność montażu.

Możliwość wyboru różnych grubości pozwala również materiałowi na dopasowanie się do różnych szczelin między komponentem a radiatorem.

Zarządzanie ciepłem na interfejsie chip-radiator to tylko część wyzwania termicznego.

W systemach AI o dużej gęstości ciepło lokalne może również gromadzić się w radiatorach, strukturach obudowy i innych częściach ścieżki termicznej.

W tych zastosowaniach materiały interfejsu termicznego na bazie grafenu mogą zapewnić dodatkową funkcję rozpraszania ciepła.

Dostarczone dane projektu podają przewodność cieplną w płaszczyźnie do:

130 W/m·K

Głównym celem nie jest tylko pionowy transfer ciepła przez interfejs. Zamiast tego, wysoka przewodność cieplna w płaszczyźnie pomaga rozprowadzić ciepło lokalne na większym obszarze.

Potencjalne zastosowania obejmują:

• Płyty podstawy radiatora

• Rozpraszanie ciepła w obudowie

• Systemy wielo-GPU

• Zarządzanie lokalnymi punktami gorącymi

• Wyrównanie temperatury

Ponieważ materiały termiczne na bazie grafenu mogą wykazywać anizotropowe zachowanie termiczne, inżynierowie powinni oceniać zarówno wydajność termiczną w płaszczyźnie, jak i prostopadłą do płaszczyzny, zgodnie z rzeczywistym kierunkiem przepływu ciepła.

Częstym błędem w projektowaniu termicznym jest wybór TIM wyłącznie na podstawie jego przewodności cieplnej.

W rzeczywistości wydajność termiczna zależy od kompletnego interfejsu.

Na przykład materiał o ekstremalnie wysokiej przewodności cieplnej może nie być najlepszym wyborem, jeśli zastosowanie wymaga:

• Wypełniania dużych szczelin

• Izolacji elektrycznej

• Wysokiej ściśliwości

• Łatwego montażu

• Złożonego dopasowania do powierzchni

• Automatycznego dozowania

• Niskiego naprężenia mechanicznego

Z drugiej strony, podkładka termiczna o umiarkowanej przewodności cieplnej może być bardziej odpowiednia dla komponentu zasilającego PCB, jeśli izolacja elektryczna i kompensacja szczelin są kluczowe.

Dlatego proces wyboru powinien rozpocząć się od wymagań interfejsu termicznego, a nie od prostego pytania, który TIM ma najwyższą wartość W/m·K.

Uproszczona strategia wyboru dla zarządzania termicznego serwerów AI:

Rozważyć TIM o niskiej rezystancji, taki jak ciekły metal, gdy zastosowanie spełnia wymagane warunki elektryczne, mechaniczne, kompatybilności i niezawodności.

Materiały zmieniające fazę mogą zapewnić cienki i dopasowujący się interfejs dla kontrolowanych szczelin.

Podkładki termiczne mogą zapewnić kombinację transferu ciepła, izolacji elektrycznej, wypełniania szczelin i zgodności mechanicznej.

Materiały interfejsu termicznego na bazie grafenu mogą pomóc w rozprowadzaniu ciepła w poziomie i zmniejszeniu koncentracji temperatury.

Tworzy to architekturę termiczną, w której każdy materiał ma jasno określoną rolę.

Według dostarczonych materiałów projektowych, rozwiązania zarządzania termicznego zostały ocenione w zastosowaniach serwerów AI i inteligentnych centrów obliczeniowych.

Jeden zgłoszony projekt serwera AI dla dostawcy usług chmurowych osiągnął:

Temperatura chipu: 88°C → 65°C

Ten sam materiał przypadku zgłosił 28% poprawę wydajności obliczeniowej.

W innym projekcie optymalizacji chłodzenia inteligentnego centrum obliczeniowego, dostarczone dane podają:

PUE: 1,42 → 1,08

Materiały projektowe zgłosiły również roczne oszczędności energii elektrycznej przekraczające 5 milionów kWh.

Dla samodzielnie opracowanego wysokowydajnego serwera AI, dostarczony materiał przypadku zgłosił:

• 10 000 godzin ciągłej pracy

• Fluktuacja temperatury ≤ ±2°C

• Zero zgłoszonych awarii

Te dane powinny zostać zweryfikowane w odniesieniu do odpowiednich warunków testowych, raportów z testów, zatwierdzeń klienta i ostatecznych specyfikacji produktu przed publikacją zewnętrzną.

Najważniejszą lekcją z tego projektu jest to, że zarządzanie termiczne serwerów AI musi być rozpatrywane jako kompletna ścieżka termiczna.

System chłodzenia obejmuje więcej niż tylko GPU i płytę chłodzącą.

Obejmuje również:

Półprzewodnik → TIM → Rozpraszacz ciepła / Płyta chłodząca → Radiator → Obudowa → System chłodzenia

Każda znacząca rezystancja termiczna w tej ścieżce może wpłynąć na końcową temperaturę systemu.

Dlatego różne technologie TIM mogą współpracować w tym samym serwerze.

Ciekły metal może zmniejszyć rezystancję termiczną na interfejsach o dużej mocy.

Materiał zmieniający fazę może zapewnić cienkie i dopasowujące się interfejsy.

Podkładki termiczne mogą dopasować się do większych szczelin, zapewniając jednocześnie izolację elektryczną.

Materiały grafenowe mogą rozprowadzać ciepło w poziomie i poprawiać jednorodność temperatury.

Razem te technologie zapewniają bardziej elastyczne podejście do zarządzania termicznego serwerów AI o dużej gęstości.

Prawidłowo zaprojektowana wielomateriałowa strategia termiczna może zapewnić szereg korzyści:

• Niższa rezystancja termiczna interfejsu

• Lepsza kompensacja szczelin

• Poprawione bezpieczeństwo elektryczne

• Poprawiona jednorodność temperatury

• Większa elastyczność projektowania

W miarę ewolucji serwerów AI w kierunku większej gęstości mocy GPU, kompaktowych architektur i zaawansowanych systemów chłodzenia, materiały interfejsu termicznego będą odgrywać coraz ważniejszą rolę w utrzymaniu wydajności obliczeniowej i niezawodności systemu.

Kluczem nie jest tylko wybór TIM o najwyższej przewodności cieplnej.

Skuteczne rozwiązanie zarządzania termicznego musi uwzględniać pełną kombinację:

Przewodność cieplna + Rezystancja termiczna + Szczelina + Kompresja + Izolacja elektryczna + Proces montażu + Niezawodność

W tym projekcie klienta, kombinacja ciekłego metalu TIM, materiału zmieniającego fazę, podkładek termicznych o wysokiej przewodności cieplnej i materiałów interfejsu termicznego na bazie grafenu została użyta do rozwiązania różnych interfejsów termicznych w serwerze AI o dużej gęstości.

To podejście specyficzne dla zastosowania zapewnia elastyczną ścieżkę do zarządzania zarówno punktami gorącymi na poziomie chipu, jak i dystrybucją ciepła na poziomie systemu, wspierając dalszy rozwój infrastruktury obliczeniowej AI o wysokiej wydajności.

Nie ma uniwersalnie najlepszego TIM. W przypadku interfejsów GPU-chłodzenie o dużej mocy, materiały o niskiej rezystancji termicznej, takie jak ciekły metal, mogą być rozważane, gdy zastosowanie spełnia wymagane warunki elektryczne, mechaniczne, kompatybilności i niezawodności.

Podkładki termiczne pozostają użyteczne dla interfejsów wymagających wypełniania szczelin, izolacji elektrycznej, zgodności mechanicznej i wygodnego montażu. Są one szczególnie odpowiednie dla zastosowań PCB i komponentów zasilających.

Materiały zmieniające fazę mogą zapewnić cienki interfejs, jednocześnie poprawiając dopasowanie do współpracujących powierzchni w odpowiednich warunkach pracy. Mogą być użyteczne dla pamięci i innych kompaktowych interfejsów komponentów.

Materiały interfejsu termicznego na bazie grafenu mogą być używane do rozpraszania ciepła w poziomie i wyrównania temperatury. Ich wysoka przewodność cieplna w płaszczyźnie czyni je szczególnie interesującymi do zarządzania punktami gorącymi i dystrybucji ciepła na poziomie systemu.

Grubość TIM powinna być oparta na rzeczywistej szczelinie interfejsu, tolerancji komponentu, wymaganym nacisku i zalecanym przez producenta zakresie zastosowania. Zbyt mała ilość materiału może pozostawić szczeliny powietrzne, podczas gdy nadmierna grubość może zwiększyć rezystancję termiczną.

Tak. Różne komponenty mają różne wymagania termiczne i mechaniczne. Strategia wielo-TIM może łączyć ciekły metal, materiały zmieniające fazę, podkładki termiczne, żele termiczne i materiały na bazie grafenu w różnych częściach tej samej architektury termicznej.

ZIITEK dostarcza wiele technologii interfejsu termicznego i może ocenić wybór TIM na podstawie przewodności cieplnej, rezystancji termicznej, szczeliny, twardości, izolacji elektrycznej, procesu montażu, temperatury pracy i wymagań niezawodności.