NVIDIA pokazała, że serwer wyposażony w układ graficzny A100 i procesor ARM ma bardzo podobną wydajność, co podobna konfiguracja z układem x86.
Nie jest tajemnicą, że układy ARM radzą sobie lepiej niż x86 w scenariuszach o niskim poborze mocy. Tam gdzie liczy się relacja mocy obliczeniowej do poboru prądu osiągają rzeczywiście znakomite rezultaty. Nie są jednak w stanie skalować tej wydajności w nieskończoność – ograniczenia pojawiają się, w gruncie rzeczy dość szybko – stąd układy ARM nie wyparły jeszcze x86 z platform data center, a zdołały zrobic to w urządzeniach mobilnych. Serwery to obszar, w którym zazwyczaj króluje x86, chociaż NVIDIA chciałaby zmienić narrację w tym zakresie. Firma wskazuje, że serwer oparty na architekturze ARM, wykorzystujący GPU A100, faktycznie zdołał pokonać x86 w niszowym obciążeniu 3d-Unet, podczas gdy bardziej popularne, takie jak ResNet 50 nadal wypadają korzystniej na x86.
„Arm, jako członek założyciel MLCommons, angażuje się w proces tworzenia standardów i testów porównawczych, aby lepiej stawiać czoła wyzwaniom i inspirować innowacje w branży przyspieszonego przetwarzania danych” – powiedział David Lecomber, starszy dyrektor ds. HPC i narzędzi w ARM – „Najnowsze wyniki wnioskowania pokazują gotowość systemów opartych na ARM, napędzanych przez procesory ARM i GPU NVIDIA do radzenia sobie z szeroką gamą obciążeń roboczych AI w centrum danych”
Oczywiście, gdy mówimy o wnioskowaniu, to znaczenie CPU spada drastycznie na rzecz GPU. Dlatego komunikat proponowany przez NVIDIĘ należy traktować z pewnym dystansem. Zresztą, NVIDIA sama przyznaje, że układ graficzny A100 radzi sobie z testami wnioskowania MLPerf 104 razy lepiej niż CPU. Testy wnioskowania MLPerf opierają się na najpopularniejszych obecnie obciążeniach i scenariuszach sztucznej inteligencji, obejmujących widzenie maszynowe, obrazowanie medyczne, przetwarzanie języka naturalnego, systemy rekomendacji itp.
Z drugiej strony, to, czego w podanych wynikach nieco brakuje, to zapotrzebowanie na energie elektryczną obu platform podczas wykonywania obliczeń. Oczywiste jest jednak, że celem “zielonych” było przedstawienie w jasnym świetle zarówno swojego GPU A100, jak i układów ARM. NVIDIA stoi przed finalnymi decyzjami regulatorów w przejęciu firmy ARM, ale już teraz prowadzi działania mające podbudować znaczenie ARM w obszarze data center. Tak czy owak, NVIDIA korzysta na tej strategii – nawet jeśli deal zostanie ostatecznie zablokowany, to wskazanie i podkreślanie, że CPU nie ma aż takiego znaczenia przy obliczeniach wnioskowania AI jak GPU, będzie tylko z korzyścią dla autorów A100.
