Programiści mogą teraz testować model Google Gemini Nano AI na urządzeniach Pixel 9
Gemini Nano to bardziej wyspecjalizowana, lekka wersja szerszego modelu Gemini rodziny AI. Chociaż oba należą do tej samej linii Gemini, wersja Nano została zaprojektowana specjalnie do zadań związanych ze sztuczną inteligencją na urządzeniu, która twierdzi, że rozmowy są bardziej wydajne i prywatne, po prostu przetwarzając dane lokalnie na urządzeniu użytkownika.
Google otworzył teraz Gemini Nano do eksperymentów na urządzeniach Android przy użyciu AI Edge SDK poprzez AIcore. Model sztucznej inteligencji na urządzeniu twierdzi, że jest zoptymalizowany pod kątem zadań takich jak generowanie tekstu i przeformułowywanie. Po tym ogłoszeniu programiści będą mieli szansę przetestować funkcje sztucznej inteligencji bez polegania w dużym stopniu na zasobach chmury. Jest jednak pewien haczyk - początkowo będzie on dostępny tylko dla Urządzeń z serii Pixel 9 urządzeń.
Gemini Nano wyróżnia się szczególnie w przypadkach użycia sztucznej inteligencji opartej na tekście, takich jak podsumowywanie, korekta i generowanie inteligentnych odpowiedzi. Zestaw SDK AI Edge pozwoli programistom kontrolować określone parametry, takie jak temperatura, próbkowanie top-K i długość wyjściowa, aby precyzyjnie dostroić odpowiedzi modelu. Dla porównania, próbkowanie top-K to metoda w modelach sztucznej inteligencji, która ogranicza liczbę potencjalnych następnych słów do K najbardziej prawdopodobnych, próbując osiągnąć równowagę między spójnością a losowością. Takie podejście pomaga generować bardziej trafny i mniej powtarzalny tekst, jednocześnie pozwalając na zmienność odpowiedzi - a wszystko to przy jednoczesnym zminimalizowaniu zapotrzebowania na serwery o dużej mocy.
Jeśli chodzi o wydajność, Gemini Nano twierdzi, że ma solidną poprawę w stosunku do swojego poprzednika. Dokładność modelu w zadaniach takich jak parafrazowanie i problemy matematyczne wzrosła odpowiednio do 90% i 23%, jak twierdzi firma. Google oferuje obecnie eksperymentalny dostęp dla programistów, pozwalając im zintegrować wszystkie wyżej wymienione funkcje z ich aplikacjami.
Aby rozpocząć, deweloperzy mogą zapoznać się z dokumentacją SDKktóra zawiera przewodnik krok po kroku dotyczący korzystania z Gemini Nano w aplikacjach mobilnych.