MWC 2024 | Sztuczna inteligencja wszędzie: Qualcomm pokazuje imponujące demonstracje na urządzeniach na Snapdragon X Elite PC, telefonach i IoT
Odkąd OpenAI po raz pierwszy zaprezentowało ChatGPT zdumionej światowej publiczności w 2022 roku, temat generatywnej sztucznej inteligencji nie znika z nagłówków gazet, czy to w listach giełdowych, czy w sektorze technologicznym. Skrót sztucznej inteligencji był również wszechobecny na Mobile World Congress 2022. Ważne jest jednak, aby rozróżnić, gdzie sztuczna inteligencja ma swój dom. Widać to w nowym smartfonie Samsunga Galaxy S24 "telefon AI" z wieloma nowymi funkcjami Galaxy Aipodczas gdy niektóre z nich działają bezpośrednio na urządzeniu i działają również w trybie offline, wiele z nich wymaga dostępu do chmury.
"On-device" jest zatem ważnym czynnikiem, na przykład ze względu na ochronę danych, ale oczywiście także ze względu na możliwości offline i wydajność, niezależnie od dostępności odpowiedniego dostawcy chmury. Na targach MWC 2024 w Barcelonie, które rozpoczynają się dzisiaj, Qualcomm zademonstrował dzisiejsze możliwości techniczne algorytmów AI działających bezpośrednio na urządzeniu lub to, co wkrótce będzie możliwe, najpóźniej latem, kiedy pierwszy Snapdragon X Elite-oparte na Snapdragonie X Elite wejdą na rynek.
Snapdragon X Elite NPU kontra Intel Core Ultra 7 155H
Na powyższym filmie demonstracyjnym obraz jest generowany przy użyciu Stable Diffusion 1.5 w edytorze open source Gimp z pomocą generatywnej sztucznej inteligencji: po lewej stronie znajduje się 45 TOPs Hexagon NPU w urządzeniu demonstracyjnym Snapdragon X Elite, a po prawej laptop Intel z Core Ultra 7 155H. Czerwone urządzenie testowe Qualcomm, znane już znane ze szczytu Qualcomm w październiku 2023 rokuukończyło generowanie obrazu w 7,25 sekundy, trzy razy szybciej niż komputer Intela obok niego, co zajęło 22,26 sekundy.
Drugi test jest prawie jeszcze bardziej imponujący: Podczas gdy laptop Snapdragon X Elite wypluwa obraz co sekundę, generowanie obrazu przez Intela zajmuje średnio 12 sekund, mimo że Meteor Lake ma również zintegrowaną jednostkę NPU. Oczywiście należy zauważyć, że nie znamy konkretnych parametrów tego testu, ale przynajmniej w świecie Qualcomm, notebooki Snapdragon X Elite spodziewane w 2024 roku mają wymierne zalety, zwłaszcza dzięki sztucznej inteligencji na urządzeniu.
Indywidualna regulacja obrazu za pomocą LoRA na telefonie Android
Powyższe demo jest również ekscytujące, pokazując po raz pierwszy, w jaki sposób generatywna sztuczna inteligencja może dostosować wynik do wymagań użytkownika za pomocą "Low Rank Adaptation" lub w skrócie LoRA. Czy to koty z kryształami, czy makaron zamiast klasycznego futra - wyobraźnia praktycznie nie ma granic. Wszystko to działa bezpośrednio na telefonie Android z chipem Snapdragon.
Pierwszy multimodalny model o ponad 7 miliardach parametrów lokalnie na smartfonie ...
Innym pierwszym jest LMM (Large Multimodal Model) z ponad 7 miliardami parametrów pokazany przez zespół badawczy Qualcomm AI, który działa lokalnie na telefonie Android. Powyższy film pokazuje, jak sztuczna inteligencja akceptuje nie tylko tekst, ale także mowę i obrazy jako dane wejściowe i wykorzystuje je do prowadzenia rozmowy z użytkownikiem. Całość nosi nazwę LLAVA lub Large Language and Vision Assistant firmy Qualcomm.
... i oczywiście również na komputerze Snapdragon X Elite PC
W ostatnim powyższym demo LMM o ponad 7 miliardach parametrów działa również na komputerze z systemem Windows-on-ARM, oczywiście opartym na Snapdragon X Elite, który również akceptuje pliki audio jako dane wejściowe i może je analizować - w tym przypadku na przykład muzykę. Qualcomm nazywa to Audio Reasoning. Oprócz tych demonstracji, Qualcomm ogłosił również AI Hub na MWC 2024, z którego twórcy aplikacji mogą korzystać, aby ich aplikacje były gotowe na AI w mgnieniu oka. Qualcomm ma również nowy sprzęt w dziedzinie komunikacji. Dowiedz się więcej o modemie Snapdragon X80 5G i FastConnect 7900, pierwszym chipie łączącym Wi-Fi 7, Bluetooth 5.4 i Ultrawideband, tutaj.
Sztuczna inteligencja w urządzeniach IoT i obecnych smartfonach
Niektóre konsumenckie urządzenia IoT oparte na Snapdragonie również wykorzystują już funkcje AI, czego wybitnym przykładem jest kontrowersyjny AI Pin od Humane. Flagowe smartfony wprowadzone na rynek w weekend - Xiaomi 14, Xiaomi 14 Ultrai Honor Magic6 Pro - przedstawiają różne przykłady tego, jak sztuczna inteligencja na urządzeniu może być wykorzystywana do ustalania różnych priorytetów. W przypadku Xiaomi głównym obszarem zainteresowania jest kamera, podczas gdy Honor koncentruje się bardziej na obsłudze użytkownika niż na zadaniach.
Źródło(a)
Qualcomm
