Podczas keynote’u na targach Computex 2024, Prezes i CEO, Dr. Lisa Su, ogłosiła rozszerzoną, wieloletnią mapę drogową dla akceleratorów AMD Instinct, która przyniesie coroczne zwiększenie wydajności AI.
Nowy plan AMD rozpoczyna się od akceleratora AMD Instinct MI325X, który będzie dostępny już w IV kwartale 2024 roku. Następnie pojawi się seria AMD Instinct MI350, oparta na nowej architekturze AMD CDNA™ 4, któa trafi na rynek w 2025 roku, oferując aż 35-krotny wzrost wydajności w obliczeniach na potrzeby AI w porównaniu do serii AMD Instinct MI300. Seria AMD Instinct MI400, oparta na architekturze AMD CDNA “Next”, spodziewana jest w 2026 roku.
“Akceleratory AMD Instinct MI300X nadal cieszą się dużą popularnością wśród licznych partnerów i klientów, takich jak Microsoft Azure, Meta, Dell Technologies, HPE, Lenovo i inni, co jest bezpośrednim rezultatem wyjątkowej wydajności i wartości akceleratorów AMD Instinct MI300X” – powiedział Brad McCredie, wiceprezes AMD ds. przyspieszonego obliczania danych w centrach danych – “Dzięki naszej zaktualizowanej rocznej mapie produktów, nieustannie wprowadzamy innowacje, zapewniając wiodące możliwości i wydajność, jakich branża AI i nasi klienci oczekują, aby napędzać kolejną ewolucję szkolenia i wnioskowania AI w centrach danych.”
Jak podaje AMD, na serwerze z ośmioma akceleratorami AMD Instinct MI300X i ROCm 6, działającym z modelem AI Meta Llama-3 70B, klienci mogą uzyskać o 1.3x lepszą wydajność wnioskowania i generowania tokenów w porównaniu do konkurencji. Na pojedynczym akceleratorze AMD Instinct MI300X z ROCm 6, klienci mogą uzyskać o 1.2x lepszą wydajność wnioskowania i przepustowość generowania tokenów w porównaniu do konkurencji przy użyciu Mistral-7B. AMD podkreśliło także, że Hugging Face, największe i najpopularniejsze repozytorium modeli AI, testuje 700,000 swoich najpopularniejszych modeli każdej nocy, aby zapewnić ich zgodność z akceleratorami AMD Instinct MI300X.
AMD podkreśliło także, że zapotrzebowanie na akceleratory AMD Instinct MI300X nadal rośnie, z wieloma partnerami i klientami korzystającymi z nich do obsługi wymagających obciążeń AI. Użytkownikami są m.in. Microsoft (w Azure OpenAI i nowych maszynach wirtualnych Azure ND MI300X V5), Dell Technologies (w PowerEdge XE9680) czy HPE (w HPE Cray XD675).
