Aplikacje AI napędzają rynek pamięci, a HBM (High Bandwidth Memory) jest niewątpliwie poszukiwanym produktem w branży, przyciągającym zwiększone nakłady inwestycyjne i rozwój produkcji ze strony producentów pamięci.
Tymczasem, jak analizuje temat TrendForce, formuje się nowa siła na rynku pamięci: oczekuje się, że GDDR7 będzie stale napędzać rynek pamięci jako HBM w obliczu fali sztucznej inteligencji.
Zarówno GDDR7, jak i HBM należą do kategorii graficznych pamięci DRAM o dużej przepustowości i możliwościach szybkiej transmisji danych, zapewniając silne wsparcie dla obliczeń AI. Jednak GDDR7 i HBM różnią się nieznacznie pod względem technologii, scenariuszy zastosowań i wydajności.
GDDR7 to najnowsza technologia w rodzinie GDDR, używana głównie w celu zwiększenia dostępnej przepustowości i pojemności pamięci procesora graficznego. W marcu 2024 r. JEDEC, czyli stowarzyszenie Solid State Technology Association, oficjalnie wypuściło standard JESD239 GDDR7, który znacznie zwiększa przepustowość, ostatecznie osiągając 192 GB/s na sprzęt.
Można obliczyć, że prędkość pamięci wynosi 48 Gb/s, dwukrotnie większa niż GDDR6X, liczba niezależnych kanałów podwoiła się z 2 w GDDR6 do 4 w GDDR7 i obsługuje gęstości w zakresie 16-32 Gbit, w tym obsługę trybu 2-kanałowego do podwójna pojemność systemu. Ponadto JESD239 GDDR7 to pierwsza pamięć DRAM w standardzie JEDEC, która wykorzystuje interfejs modulacji amplitudy impulsu (PAM) do pracy z wysokimi częstotliwościami. Interfejs PAM3 poprawia stosunek sygnału do szumu (SNR) w operacjach o wysokiej częstotliwości, jednocześnie poprawiając efektywność energetyczną. GDDR7 jest stosowany głównie w przetwarzaniu grafiki, grach, informatyce, sieciach i sztucznej inteligencji, szczególnie w grach, gdzie jego duża przepustowość i możliwości szybkiej transmisji danych mogą znacznie poprawić płynność klatek i prędkość ładowania, zapewniając lepsze wrażenia dla graczy.
W dziedzinie sztucznej inteligencji GDDR7 może pochwalić się ogromnym potencjałem, umożliwiając szybkie przetwarzanie danych i obliczenia dla dużych modeli sztucznej inteligencji, przyspieszając w ten sposób uczenie i wnioskowanie modeli.
Michael Litt, przewodniczący grupy zadaniowej JEDEC GDDR, stwierdził, że GDDR7 jako pierwszy skupia się nie tylko na przepustowości, ale także na integracji najnowszych funkcji integralności danych, aby spełnić wymagania rynku dotyczące RAS (niezawodność, dostępność i łatwość serwisowania). Funkcje te pozwalają urządzeniom GDDR lepiej obsługiwać istniejące rynki, takie jak gry w chmurze i przetwarzanie danych, a także rozszerzać swoją obecność na sektor sztucznej inteligencji.
Oparty na technologii układania pamięci, HBM łączy warstwy za pośrednictwem Through-Silicon Via (TSV) i charakteryzuje się dużą pojemnością, dużą przepustowością, niskimi opóźnieniami i niskim zużyciem energii. Jego siła polega na przełamywaniu wąskiego gardła w zakresie przepustowości pamięci i zużycia energii. Obecnie HBM jest używany głównie w zastosowaniach serwerów AI i superkomputerów. Od czasu wprowadzenia pierwszej generacji w 2013 r. firma HBM opracowała drugą generację (HBM2), trzecią generację (HBM2E), czwartą generację (HBM3) i piątą generację (HBM3E).
W tym roku HBM3e będzie głównym nurtem rynku, a skoncentrowane dostawy spodziewane są w drugiej połowie 2024 roku. Poza tym przewiduje się, że szósta generacja HBM4 zadebiutuje już w 2025 roku. Podobno HBM4 przyniesie rewolucyjne zmiany, przyjmując 2048-bitowy interfejs pamięci, który teoretycznie może ponownie podwoić prędkość transmisji.
