Awaria Pixel 8 Gemini uwydatnia błędy Google Pixel AI

Google należy pochwalić za to, co udało mu się osiągnąć dzięki sztucznej inteligencji w linii smartfonów Pixel. Od samego początku firma definiowała linię Pixel poprzez swoje możliwości AI z jasną wizją tego, dokąd zmierzają smartfony i jak AI może poprawić wrażenia użytkownika. Niezależnie od tego, czy było to wprowadzenie i późniejsza popularyzacja fotografii obliczeniowej, czy też sprytne funkcje, takie jak wyświetlanie połączeń, firma była liderem w zakresie wykorzystania sztucznej inteligencji do uczynienia smartfonów jeszcze inteligentniejszymi.

Jednak teraz jest całkowicie jasne, że dobrze i naprawdę potknął się z wiadomościami pojawiającymi się w zeszłym tygodniu, że Pixel 8 wprowadzony na rynek w październiku ubiegłego roku nie jest w stanie obsłużyć żadnego z dwóch Gemini generatywnych modeli opartych na sztucznej inteligencji. Dla jasności, podczas gdy OpenAI mogło odebrać Google przywództwo w zakresie sztucznej inteligencji, jego oprogramowanie AI jest nadal bardzo konkurencyjne. Problem leży w tym, co samo Google określiło jako "ograniczenia sprzętowe"."

Pixel 8 jest wyposażony w ten sam Tensor G3 zamontowany w Pixel 8 Pro, ale tam, gdzie ten ostatni ma 12 GB pamięci RAM, Pixel 8 utknął z zaledwie 8 GB pamięci RAM, co wydaje się być przyczyną wąskiego gardła systemu przy tej okazji. Jest to nadal nieco zaskakujące, ponieważ Gemini Nano jest dostępny w dwóch rozmiarach; jeden działa z zaledwie 1,8 miliarda parametrów, a drugi z 3,6 miliarda parametrów. Nie jest jasne, który z tych dwóch modeli działa na Pixelu 8 Pro, ale przynajmniej może on obsługiwać pierwszy mobilny LLM Google na urządzeniu.

Jeśli chodzi o modele sztucznej inteligencji na urządzeniach, oba są jednak stosunkowo skromne. Qualcomm, który właśnie uruchomił nowy AI Hub z ponad 75 modelami AI kompatybilnymi z jego chipami Snapdragon, podkreślił, że jego Snapdragon 8 Gen 3 może obsługiwać modele AI do 10 miliardów parametrów. Nawet jego Snapdragon 8 Gen 2 może obsługiwać tryby AI działające z prędkością do 7 miliardów parametrów.

Jest to istotne z dwóch powodów. Po pierwsze, im większa liczba parametrów, tym potencjalnie bardziej wyrafinowany i dokładny model. Po drugie, podkreśla to, że nie tylko systemowa pamięć RAM, na której cierpi Pixel 8, ale także Tensor G3, jak już wcześniej sprawdziliśmy wcześniej zbadanetensor G3 jest daleki od bycia mistrzem sztucznej inteligencji, w co marketing Google mógłby nas przekonać. Google przedstawiło serię Pixel jako poświęconą sztucznej inteligencji i broniło Tensora za brak wydajności, udając, że wydajność jest mniej ważna niż możliwości sztucznej inteligencji.

Oczywiście możliwości AI i wydajność chipów idą w parze, zwłaszcza jeśli chodzi o rozmiar dużych modeli językowych (LLM) i dużych modeli multimodalnych (LMM). Google był w stanie uniknąć niedociągnięć w wydajności Tensora, ponieważ do tej pory używał mniejszych modeli uczenia maszynowego. To pozwoliło mu oszukać niektórych fanów Pixeli, aby myśleli, że jego chipy zostały w jakiś sposób specjalnie "dostrojone" do sztucznej inteligencji i że ich wydajność w testach porównawczych nie ma znaczenia - newsflash - mają.

LLM i LMM wymagają pełnej mocy obliczeniowej, jaką ma do zaoferowania chip, z rdzeniem neuronowym działającym jako akcelerator z pełnym wykorzystaniem zarówno CPU, jak i GPU do przetwarzania modeli uczenia maszynowego i głębokiego uczenia się na urządzeniu. Im potężniejszy układ scalony, tym bardziej wydajne są te wielomiliardowe parametry modeli sztucznej inteligencji. To nie przypadek, że Snapdragon 8 Gen 3 pokonuje Tensor G3 w testach porównawczych i może również obsługiwać znacznie większe modele sztucznej inteligencji na urządzeniu.

Właśnie dlatego, jak również podkreśliliśmygoogle zostało zmuszone do przeniesienia wielu nowych funkcji generatywnej sztucznej inteligencji dostępnych dla użytkowników Pixel 8 Pro do Google Cloud w celu przetwarzania poza urządzeniem. Tensor G3 po prostu nie jest w stanie "sprostać wymaganiom", podobnie jak 8 GB pamięci RAM zamontowane w Pixelu 8.

Porzucając chipy Snapdragon firmy Qualcomm, aby stworzyć własne chipy Tensor, Google powiedział, że celem było stworzenie chipów, które mogłyby "nadążać" ze swoim oprogramowaniem AI. Najwyraźniej cel ten jest obecnie w strzępach, zwłaszcza w przypadku ostatniego fiaska Pixel 8 Gemini. Zaledwie pięć miesięcy po premierze nie nadąża za Gemini Nano - mimo że jest również dostępny w stosunkowo niewielkim modelu o 1,8 miliarda parametrów. Z drugiej strony, Pixel 8 Pro, który choć jest w stanie uruchomić Gemini Nano na urządzeniu, nadal jest zmuszony do przeniesienia wielu nowych funkcji generatywnej sztucznej inteligencji do chmury.

To także kpina z ogłoszenia Google https://blog.google/products/pixel/software-support-pixel-8-pixel-8-pro/ podczas premiery serii Pixel 8, że telefony będą dostarczane z 7-letnim okresem aktualizacji oprogramowania. Nie jesteśmy nawet w połowie ich pierwszego pełnego roku premiery, a Pixel 8 nie jest w stanie nadążyć za swoim stabilnym kolegą. Chociaż jest to godny pochwały cel, rzeczywistość jest taka, że nie minie zbyt wiele lat, zanim "aktualizacje" systemu operacyjnego Pixel 8 i Pixel 8 Pro będą w dużej mierze ograniczone do poprawek bezpieczeństwa i innych poprawek systemowych. Ponieważ sztuczna inteligencja jest raison d'etre dla samego istnienia serii Pixel, oba urządzenia nie są w stanie prawidłowo obsługiwać najnowszych funkcji sztucznej inteligencji Google nawet teraz.

Google nawiązało współpracę z Samsung LSI i Samsung Foundry w zakresie projektowania, rozwoju i produkcji. Do tej pory było to ich piętą achillesową, ponieważ chipy te cierpiały z powodu nieefektywności i przegrzewania się z powodu wycieków prądu i obaw związanych z pakowaniem. Ograniczało to potencjał wydajności ich architektury opartej na architekturze Arm pod względem szczytowej i trwałej wydajności.

Jednakże pozorny sukces układu Exynos 2400 w modelach Galaxy S24 i Galaxy S24+ dzięki udoskonaleniu węzłów i wykorzystaniu nowego opakowania typu fan-out na poziomie wafla (FOWLP), dobrze wróży modelom Tensor G4. Układ ten trafi do nadchodzącej serii Serii Pixel 9 jeszcze w tym roku, podczas gdy Google dostarczy swój pierwszy całkowicie niestandardowy chip, Tensor G5, który zostanie wyprodukowany przez bardziej fantazyjne TSMC.

To oczywiście niewielka pociecha dla posiadaczy Pixela 8. Nie tylko przegapią funkcje generatywnej sztucznej inteligencji zarezerwowane dla właścicieli Pixel 8 Pro, ale nie mogą nawet posmakować Gemini Nano. Pixel 8 nadal jest solidnym telefonem ze średniej półki, ale naprawdę zwraca uwagę na obecne - i spowodowane przez siebie - niedociągnięcia Google Pixel AI.