Generatywna sztuczna inteligencja (GenAI) jest najbardziej obiecującym akceleratorem innowacji dekady, a 78% decydentów IT jest pozytywnie nastawiona do potencjału, jaki GenAI może mieć dla ich organizacji. Większość postrzega GenAI jako sposób na zwiększenie produktywności, usprawnienie procesów i oszczędność kosztów. Wykorzystanie tej technologii ma kluczowe znaczenie dla zapewnienia organizacjom możliwości konkurowania w nowej erze cyfrowej.
Firmy Dell i AMD łączą siły, aby zaprezentować rozszerzenie oferty rozwiązań Dell Generative AI Solutions, kontynuując prace nad akceleracją zaawansowanych obciążeń roboczych i oferując firmom większy wybór w zakresie działań z wykorzystaniem sztucznej inteligencji.
Najszybsze rozwiązanie w historii firmy Dell, Dell PowerEdge XE9680, będzie obsługiwać najnowszy akcelerator AMD Instinct™ MI300X, oferując klientom nowe możliwości w zakresie wydajności sztucznej inteligencji. Serwer PowerEdge XE9680 z procesorem AMD Instinct MI300X zapewni wysoką wydajność firmom, które chcą uwolnić potencjał swoich danych i wyróżnić się na tle konkurencji stosując odpowiednio dostosowane duże modele językowe (LLM). Dzięki ośmiu procesorom graficznym MI300X, 192 GB pamięci o wysokiej przepustowości (HBM3) 5,3 TB/s na procesor graficzny, co daje łączną pojemność HBM3 wynoszącą 1,5 TB na serwer i ponad 21 petaflopów wydajności w 16. kolejce FP, serwer PowerEdge XE9680 z technologią MI300X jest gotowy do dalszej demokratyzacji dostępu do GenAI dla firm, które chcą pracować z większymi modelami, zmniejszać powierzchnię zajmowaną przez centra danych, obniżyć całkowity koszt posiadania i zyskać przewagę nad konkurencją.
Wraz ze wsparciem dla AMD MI300X Instinct Accelerator Dell stawia kolejny krok w rozwoju rozwiązań generatywnej sztucznej inteligencji, ułatwiający organizacjom jej wdrażanie w kontrolowanych warunkach, dzięki nowemu projektowi Dell Validated Design dla Generative AI z AMD.
Ten nowy, zatwierdzony przez firmę Dell projekt generatywnej sztucznej inteligencji z platformami sztucznej inteligencji opartymi na AMD ROCm, dostępny w przyszłym roku, rozszerzy ekosystem rozwiązań generatywnej sztucznej inteligencji Dell i będzie obejmował programy LLM typu open source AMD ROCm™. Jest to pełen stack sterowników, zestawów narzędzi programistycznych i interfejsów API typu open source dla akceleratorów AMD Instinct. Zatwierdzone przez firmę Dell projekty generatywnej sztucznej inteligencji ułatwiają klientom tworzenie zaufanych platform GenAI dostosowanych do ich potrzeb, eliminując niepewności związane z kwestii integracji, wydajności i rozmiaru.
Najnowszy e-book i infografiki firmy Dell pokazują, w jaki sposób zoptymalizowane pod kątem ROCm platformy sztucznej inteligencji i uczenia maszynowego typu open source, takie jak PyTorch, TensorFlow, ONNX-RT, JAX i Triton, wspierają natywną obsługę serwerów PowerEdge XE9680 z MI300X, umożliwiając prostą obsługę LLM opartych na tych popularnych platformach. Zapraszamy do przeczytania artykułów, aby dowiedzieć się więcej i zapoznać się z przykładami kodu:
- Część 1: Czy AMD ROCm jest gotowy do wdrożenia wiodących obciążeń AI?
- Część 2: Jak uruchamiać modele Hugging Face z AMD ROCm na serwerze Dell PowerEdge
- Część 3: Jak uruchomić Lamę 2 za pomocą modeli Hugging Face z AMD ROCm
Serwer PowerEdge XE9680 to wyjątkowa wydajność, bezpieczeństwo i prostota. Oprogramowanie Dell Open Manage Enterprise upraszcza i przyspiesza wdrażanie infrastruktury GenAI, a oprogramowanie CloudIQ zapewnia inteligentną automatyzację z dowolnego miejsca. Serwer PowerEdge XE9680 pozwala wprowadzić zintegrowane funkcje odzyskiwania danych cybernetycznych i podejście Zero Trust w celu zwiększenia bezpieczeństwa.
Na serwer PowerEdge XE9680 działa platforma AMD Instinct korzystającą z ośmiu akceleratorów AMD Instinct MI300X, rozwiązanie to zapewnia niemal liniowe skalowanie oraz niskie opóźnienia podczas trenowania modeli GenAI w środowisku rozproszonym. Jest to możliwe dzięki technologii Global Memory Interconnect (xGMI) łączącej klaster serwerów PowerEdge wyposażonych procesory graficzne MI300X za pośrednictwem sieci szkieletowej AI opartej na Ethernet. Sieć ta jest budowana w oparciu o architekturę referencyjna pozwalającą na łączenie GPU w z wykorzystaniem przełączników PowerSwitch Z9664F-ON.
Jako członek konsorcjum Ultra Ethernet Consortium (UEC) firma Dell nadal opowiada się za sieciami opartymi na standardach. Dell Technologies ma wyjątkową pozycję, aby w pełni wykorzystać potencjał otwartego podejścia, wdrażając je w całym rozwiązaniu GenAI: obliczeniowym, szkieletowym i pamięci masowej. Serwer Dell PowerEdge XE9680 z akceleratorami AMD Instinct™ MI300X i zweryfikowaną architekturą referencyjną dla generatywnej sztucznej inteligencji z procesorem AMD będzie dostępny w pierwszej połowie 2024 roku.
