Generatory obrazów AI zwykle działają z pomocą mocnej karty graficznej PC lub centrum danych, ale Qualcomm wymyślił sposób, aby uruchomić jeden przy użyciu tylko smartfona z systemem Android.
W czwartek, firma przedstawiła demo, które pokazuje generator grafiki AI Stable Diffusion działający na procesorze Qualcomm Snapdragon 8 Gen 2, który jest teraz w smartfonach, w tym w serii Samsung Galaxy S23. W demonstracji, Qualcomm wysyła zapytanie tekstowe i prosi, aby Stable Diffusion stworzył obraz “super słodkiego puszystego kociego wojownika w zbroi”. Program napędzany przez AI robi właśnie to, wykorzystując procesor Snapdragon do wygenerowania obrazu w zaledwie 14,4 sekundy.
Demonstracja została osiągnięta dzięki “kwantyzacji”, która polega na zmniejszeniu modelu obliczeniowego AI dla Stable Diffusion i zoptymalizowaniu go do działania na najnowszym chipie Qualcomm.
“Kwantyzacja nie tylko zwiększa wydajność, ale także oszczędza energię, pozwalając modelowi efektywnie działać na naszym dedykowanym sprzęcie AI i zużywać mniejszą przepustowość pamięci” – podała firma w komunikacie.
“Techniki te stosowano we wszystkich modelach składowych w Stable Diffusion, a mianowicie w opartym na transformacie koderze tekstu, dekoderze VAE i UNet. Było to krytyczne dla dopasowania modelu do urządzenia” – dodał Qualcomm. Rezultat może generować obrazy tworzone przez SI w rozdzielczości 512 na 512 pikseli, czyli takie jak domyślne dla Stable Diffusion.
Firma nie powiedziała, czy i kiedy wprowadzi Stable Diffusion na smartfony z Androidem, czy też implementacja ma pewne ograniczenia. Demo podkreśla jednak, jak najnowszy procesor Snapdragon firmy Qualcomm może uruchamiać intensywne modele komputerowe AI na urządzeniu przenośnym, zamiast polegać na aplikacji lub stronie internetowej innej firmy. Te same możliwości działają również na laptopach i zestawach słuchawkowych do rozszerzonej rzeczywistości lub VR, które wykorzystują technologie Qualcomm.
