Qualcomm AI Hub oferuje dostęp do generatywnych modeli sztucznej inteligencji kompatybilnych z układami Snapdragon

Qualcomm uruchomił nowe centrum AI dla programistów, którzy chcą wykorzystać moc dużych modeli językowych (LLM) kompatybilnych z wieloma układami SoC Snapdragon. Wszystkie modele zostały przetestowane i zweryfikowane przez Qualcomm i obejmują mobilne, kompatybilne z Windows on Arm i IoT wersje modeli, w tym Stable Diffusion, Whisper, ControlNet, Baichuan 7B, LlaMA 2 i LLaVA.

LLaVA to duży model multimodalny (LLM), który może akceptować zarówno tekstowe, jak i wizualne dane wejściowe użytkownika i działa z ponad 7 miliardami parametrów. Oznacza to, że jest on obsługiwany na urządzeniu przez Snapdragon 8 Gen 3 który jest w stanie obsługiwać modele do 10 miliardów parametrów, podczas gdy Snapdragon 8 Gen 2 z obsługą modeli działających z prędkością do 7 miliardów parametrów. Dla porównania, Google Gemini Nano jest dostępny w dwóch wariantach, z których jeden obsługuje 1,8 miliarda parametrów, a drugi do 3,6 miliarda parametrów.

Qualcomm AI Hub oferuje programistom szereg narzędzi przyspieszających rozwój aplikacji AI w oparciu o ponad 75 modeli AI dostępnych obecnie na platformie. Obejmuje to programy szkoleniowe, samouczki i dokumentację w celu optymalizacji aplikacji, które w dużym stopniu opierają się na uczeniu maszynowym, głębokim uczeniu lub wizji komputerowej. Wraz z rewolucją generatywnej sztucznej inteligencji i wyścigiem o jak najszybsze i jak najszersze wdrożenie tej technologii, Qualcomm nie marnuje czasu na uzbrojenie się do bitwy.

Samsung Galaxy S24 z procesorem Snapdragon 8 Gen 3 można nabyć w sklepie Amazon.