Uruchomienie 2000 procesorów graficznych Nvidia AI w Teksasie kosztuje 2 mln USD rocznie

Według firmy Liftr Insights działanie 1000 procesorów graficznych H100 i 1000 A200 od Nvidii może kosztować rocznie 2 miliony dolarów, jeśli chodzi o samą energię elektryczną.

Taki klaster złożony z 2000 produktów Nvidii miałby wydajność na poziomie 44,7 petaflopów FP64.

Liftr wskazuje też, że nadal trwa duży popyt na procesory zielonego giganta w związku z ciągle trwającym rozwojem możliwości AI.

– Pomimo wiadomości o opóźnieniu w procesach Blackwell główni dostawcy usług w chmurze, tacy jak AWS (Amazon Web Services), Azure i GCP, zwiększają wykorzystanie najnowszych półprzewodników Nvidia – powiedział Tab Schadt, dyrektor generalny Liftr Insights.

Według raportu TechInsights ze stycznia 2024 r., w 2023 r. dostawcy usług w chmurze korzystali z około 878 000 akceleratorów. Firma analityczna jednak zauważyła, że ​​przy przepracowaniu siedmiu milionów godzin procesora graficznego oznaczało to, że prawdopodobnie nie były one w pełni wykorzystywane.