Trzy chipy i Google Tensor jest na podtrzymaniu życia

Smartfony Google Pixel zawsze były w czołówce pod względem wykorzystania uczenia maszynowego i sztucznej inteligencji do dostarczania wyjątkowych wrażeń, a wszystko to dzięki wykorzystaniu specjalistycznej wiedzy Google w zakresie oprogramowania do tworzenia sprytnych algorytmów. Oryginalny Pixel był pierwszym smartfonem Android wyposażonym w Asystenta Google, a także pierwszym smartfonem z funkcjami fotograficznymi opartymi na sztucznej inteligencji, takimi jak Lens Blur i Smartburst. Każdy kolejny telefon opierał się na tym dziedzictwie i aż do Pixela 5, Google współpracował z Qualcomm, aby wykorzystać swoje chipy Snapdragon do zasilania tych doświadczeń AI i ML.

Zmieniło się to wraz z premierą Pixel 6 i Pixel 6 Pro w 2021 roku, które były zasilane przez Google Tensor, pierwszy dostosowany chip. W tamtym czasie, Google powiedział, że jego celem było stworzenie własnego chipu, aby "... zapewnić użytkownikom Pixeli zupełnie nowe możliwości, dotrzymując kroku najnowszym osiągnięciom w dziedzinie ML" Wynika z tego, że gdyby firma pozostała przy Qualcomm, po prostu nie byłaby w stanie osiągnąć swoich celów. W szczególności:

Współprojektowanie Google Tensor z Google Research dało nam wgląd w to, dokąd zmierzają modele ML, a nie gdzie są dzisiaj. Pozwoliło nam to zbudować platformę AI/ML, która mogła nadążyć za naszą pracą w Google.

Podkreślono również, w jaki sposób Tensor umożliwił nowe funkcje sztucznej inteligencji, takie jak Live Translate, aby "pracować nad mediami, takimi jak filmy, przy użyciu modeli mowy i tłumaczeń na urządzeniu" Jeśli chodzi o oryginalne możliwości uczenia maszynowego pierwszego Tensora, to zostały one spełnione. Jeśli seria chipów Google Tensor została stworzona specjalnie w celu obsługi funkcji sztucznej inteligencji Google - zarówno dotrzymując kroku modelom sztucznej inteligencji Google, jak i obsługując je na urządzeniu zgodnie z przeznaczeniem - od tego czasu coś poszło nie tak.

Opracowanie wiodących na rynku niestandardowych chipów jest kosztownym przedsięwzięciem. Appledecyzja o zainwestowaniu w pełni spersonalizowane chipy oparte na architekturze Arm sięga czasów Steve'a Jobsa, kiedy to firma przejęła kilka firm projektujących chipy specjalizujące się w krzemie o niskim poborze mocy i wysokiej wydajności. Pierwszy prototyp komputera Mac oparty na architekturze Arm również pochodzi z ery Jobsa, a plotki o jego istnieniu pojawiły się po raz pierwszy w 2011 rokurok przed smutną śmiercią Jobsa z powodu raka trzustki. W tym samym roku zespół zajmujący się układami scalonymi Apple został już rozbudowany do co najmniej 1000 osób. Firma zainwestowała również znaczne środki w TSMC, aby zapewnić sobie priorytetowy dostęp do najnowszych technologii produkcji. Krótko mówiąc, Apple zainwestował wiele miliardów dolarów w swoje niestandardowe krzemowe wysiłki, aby zapewnić bezkonkurencyjną jedność między sprzętem a oprogramowaniem.

Google również chciał naśladować podejście Apple, dostosowując krzem do swoich wiodących na rynku możliwości oprogramowania opartego na sztucznej inteligencji. Jednak do tej pory jego wysiłki nie były tak ambitne jak Apple. Pierwsze trzy chipy Tensor są uważane za projekty pół-niestandardowe, ponieważ zostały zaprojektowane i opracowane wspólnie z Samsung LSI, zespołem stojącym za własnymi chipami Samsung Exynos. Są one również produkowane przez Samsung Foundry. Pochodzenie oryginalnego układu Tensor i jego bliski związek z układami Samsung Exynos zostały zidentyfikowane przez przez Andreia Frumansu, który pisał wtedy dla Anandtech. (Frumansu, od tego czasu przeszedł do większych i lepszych rzeczy i obecnie jest głównym inżynierem w Qualcomm pracującym nad układem Układem Snapdragon X Elite -- więc wie co nieco o chipach).

Podczas gdy Apple od wielu lat opracowuje w pełni spersonalizowane procesory oparte na architekturze Arm, a od niedawna także w pełni spersonalizowane rdzenie GPU, w pełni spersonalizowane rdzenie GPU, współprojektowane i rozwijane przez Google układy Tensor firmy Samsung wykorzystują standardowe rdzenie CPU Arm Cortex i rdzenie GPU Arm Mali. Zawierają one jednak w pełni niestandardowe bloki IP Google, w tym Tensor Processing Unit (TPU), bezpieczną enklawę Titan M i inne niestandardowe bloki IP, jak opisał Frumansu. Opiera się to na niestandardowym krzemowym IP, które Google opracowało, gdy nadal korzystało z chipów Qualcomm Snapdragon, w tym Pixel Visual Core po raz pierwszy widziany w Pixel 2 i pierwszy Titan M bezpieczna enklawa, która zadebiutowała w Pixel 3. Było to podejście, którego Google trzymało się do tej pory dla wszystkich swoich chipów Tensor - oryginalnego Tensora, Tensor G2 i najnowszym Tensor G3.

Według najnowszych plotek, Google projektuje w pełni spersonalizowany Tensor w pełni dostosowany Tensor. Zostanie on wyprodukowany na jednym z 3 nm węzłów TSMC zamiast na węzłach Samsunga - mimo że Samsung wydaje się odzyskiwać część klientów których stracił w ciągu ostatnich dwóch lub trzech lat na rzecz TSMC, wygląda na to, że Google straciło cierpliwość do koreańskiego giganta. Niestety dla fanów Pixeli, chip ten ma pojawić się dopiero w 2025 roku, co oznacza, że możemy spodziewać się przynajmniej jeszcze jednego układu Tensor z obecnej współpracy z Samsungiem. Wczesne oznaki nie są jednak obiecujące. Podobnie jak Tensor G2, który był skromnym ulepszeniem w stosunku do OG Tensor, model Tensor G4 ma być skromnym ulepszeniem w stosunku do Tensor G3. Może to stanowić problem dla Google, biorąc pod uwagę, że Tensor G3 jest nie jest w stanie obsłużyć najnowszych algorytmów AI Google na urządzeniu zgodnie z pierwotnymi planami.

Nawet jeśli Tensor G3 znaczące ulepszenia architekturyjego wydajność w testach porównawczych plasuje go pomiędzy średniej klasy procesorem Qualcomm Snapdragon 7+ Gen 2 i Snapdragon 8+ Gen 1. Podczas gdy wydajność jest wystarczająca, aby utrzymać Pixel 8 Pro płynne działanie interfejsu użytkownika systemu i innych zadań, nadal jest podatny na nagrzewanie się podczas wykonywania prostych zadań, takich jak pobieranie aplikacji i nagrywanie wideo. Kiedy telefony nagrzewają się w ten sposób podczas ogólnego użytkowania, odzwierciedla to rodzaj nieefektywności, która jest znaną cechą charakterystyczną chipów produkowanych w węzłach 5 nm i 4 nm firmy Samsung - w tym w węźle 4LPP używanym do produkcji Tensor G3. Google próbowało zamaskować te niedociągnięcia termiczne, ładując Pixel 8 Pro dużą ilością grafitu. Ta sama nieefektywność jest również widoczna w licznych standardowych testach baterii znalezionych na stronie , które zazwyczaj pokazują pixel 8 Pro daleko w tyle za iPhone 15 Pro Max i Galaxy S23 Ultrajego dwóch kluczowych konkurentów.

Być może największym problemem związanym z Tensor G3 jest (jak podkreśliliśmy niedawno), że wiele najnowszych funkcji sztucznej inteligencji, które Google reklamowało wraz z premierą Pixela 8 Pro, nie może być obsługiwanych na urządzeniu. Dzieje się tak pomimo tego, że Google pozycjonuje chip jako zdolny do tego na swoim oficjalnym blogu. Chociaż Google wyjaśnił podczas premiery, że nowa funkcja Video Boost jest odciążana do chmury w celu przetwarzania, nie wyjaśnił dokładnie, które funkcje wymagają połączenia z Internetem. Jedyną wskazówką, że przetwarzanie AI jest przenoszone do chmury, aby nowa funkcja AI działała, jest to, że Google wyraźnie zaznacza drobnym drukiem, że funkcja "wymaga aplikacji Zdjęcia Google". Nowe funkcje AI, których Tensor G3 nie jest wystarczająco wydajny, aby przetwarzać na urządzeniu, obejmują Asystenta Google z Bardem, Night Sight Video, korektę Gboard, Magic Editor, AI Wallpaper, Audio Magic Eraser i generatywną aktualizację AI nadchodzącą do Magic Eraser.

Oczywiste jest, że zaledwie trzy chipy i tak wiele nowych funkcji sztucznej inteligencji jest przekazywanych do Google Cloud, projekt Google Tensor jest na podtrzymaniu życia. Proszę sobie przypomnieć, że Google zrezygnowało z używania chipów Snapdragon, ponieważ robiło to wcześniej:

Współprojektowanie Google Tensor z Google Research dało nam wgląd w to, dokąd zmierzają modele ML, a nie gdzie są dzisiaj. To pozwoliło nam zbudować platformę AI/ML, która mogła nadążyć za naszą pracą w Google.

Tensor G3 po prostu nie jest w stanie spełnić pierwotnych założeń Google dotyczących tworzenia własnych chipów. Według Google korzyści płynące z możliwości przetwarzania zadań AI na urządzeniu obejmują: niskie opóźnienia (ponieważ przetwarzanie odbywa się lokalnie); prywatność (ponieważ dane użytkownika nie są przenoszone na zdalne serwery); oraz dłuższą żywotność baterii (ponieważ połączenia komórkowe lub Wi-Fi wyczerpują energię). Zamiast tego, poprzez przeniesienie zadań sztucznej inteligencji do chmury, opóźnienia na Pixel 8 Pro są zwiększone, prywatność jest zmniejszona, a żywotność baterii spada za każdym razem, gdy użytkownik korzysta z jednej z nowych funkcji sztucznej inteligencji, która wymaga połączenia komórkowego lub Wi-Fi.

Wprowadzając na rynek potężny Snapdragon 8 Gen 3 zaledwie kilka tygodni po Tensor G3, Qualcomm nie przegapił okazji, aby wysłać wiadomość do Google, że nigdy nie powinien był ich porzucić. Podczas premiery Qualcomm położył szczególny nacisk na możliwości przetwarzania generatywnej sztucznej inteligencji na urządzeniu Snapdragon 8 Gen 3, nazywając go "tytanem inteligencji na urządzeniu". Qualcomm nie przesadzał - Snapdragon 8 Gen 3 to pierwszy mobilny SoC z możliwością obsługi Stable Diffusion na urządzeniu i dużych modeli AI o wartości do 10 miliardów parametrów.

Snapdragon 8 Gen 3 ujawnił również twierdzenie Google, że "tradycyjne wskaźniki wydajności" są nieistotne jako farsa. Powodem, dla którego Snapdragon 8 Gen 3 miażdży możliwości przetwarzania sztucznej inteligencji na urządzeniu Tensor G3, jest to, że również miażdży go w benchmarkach. Qualcomm nazywa połączenie Snapdragon 8 Gen 3 CPU, GPU i NPU składającym się na "AI Engine". Dzieje się tak dlatego, że CPU, GPU i NPU SoC smartfona są intensywnie wykorzystywane podczas przetwarzania modeli uczenia maszynowego, które zasilają funkcje AI na smartfonach. Testy porównawcze wyraźnie pokazują, że Tensor G3 ma stosunkowo słabe CPU i GPU, podczas gdy jego niestandardowy TPU nie jest w stanie tego zrekompensować.

Surowa moc obliczeniowa ma znaczenie i ma większe znaczenie niż kiedykolwiek wcześniej dzięki rozwojowi generatywnej sztucznej inteligencji w ciągu ostatnich 12-18 miesięcy. W tym momencie jedyną zaletą Tensor G3 dla fanów Pixela jest to, że Google obiecało 7 lat aktualizacji systemu operacyjnego dla serii Pixel 8, co jest znacznie więcej niż byłoby to możliwe w przypadku Qualcomm. Jednak na tym etapie jest to tylko obietnica i muszą istnieć znaki zapytania dotyczące zdolności Tensor G3 do rzeczywistej obsługi Android 21, która jest rzekomo ostatnią z aktualizacji systemu operacyjnego, które otrzymają Pixel 8 Pro i Pixel 8.

Sprawy nie wyglądają na znacznie lepsze dla Pixel 9 Pro, gdy pojawi się w 2024 roku, ponieważ wczesne oznaki wskazują, że Tensor G4 będzie kontynuował obecną architekturę procesora Tensor G3, podczas gdy może otrzymać aktualizację TPU i GPU. Byłoby to podobne podejście do Tensor G2, który był skromnym ulepszeniem w stosunku do OG Tensor. Dopiero w 2025 roku możemy w końcu zobaczyć, jak Google dostarcza Tensor, który może spełnić pierwotną obietnicę Google, który jest w pełni dostosowanyale - co najważniejsze - wyprodukowany w węźle 3NE TSMC. Powinno to sprawić, że Tensor G5 będzie znacznie bardziej konkurencyjny w stosunku do innych flagowych chipów na rynku.

W tej chwili jednak Pixel 8 Pro tylko się trzyma - czy może przetrwać aktualizację podobną do Tensor G2, gdy potrzebna jest zupełnie nowa architektura i znacznie lepszy proces produkcyjny tak szybko, jak to możliwe? Oczywistym krótkoterminowym rozwiązaniem byłoby upuszczenie Snapdragona 8 Gen 3 w Pixel 9 Pro w przyszłym roku. Stanowiłoby to jednak wyzwanie marketingowe, biorąc pod uwagę ogromny wysiłek, jaki Google włożył w markę Tensor, przed uwzględnieniem utopionych kosztów poniesionych na opracowanie Tensor G4 i kosztów przeprojektowania związanych z wymianą chipów. Jest to tak duża przeszkoda, że wydaje się, że Google jest zablokowane na swojej obecnej trajektorii. Jeśli Google będzie postępować zgodnie z planem, może to zabić wszelką pamięć podręczną pozostałą w markach Tensor i Pixel.

Nawet na tym wczesnym etapie wydaje się, że sprzedaż serii Pixel 8 jest po miękkiej stronie. Podczas gdy Google tradycyjnie dyskontuje swoje Pixele na wyprzedaże w Czarny piątek, ogromne rabaty wynoszące ponad 400 AUD były już dostępne na Pixel 8 Pro zaledwie cztery tygodnie po jego premierze i półtora tygodnia przed oficjalnym rozpoczęciem wyprzedaży w Czarny piątek. Jest to niezwykle niezwykłe. Seria Pixel nadal oferuje świetne oprogramowanie i doskonałą wydajność aparatu. Google jest pionierem funkcji sztucznej inteligencji na smartfonach, a jego funkcje AI pozostają wiodące w swojej klasie. Ale jego chipy Tensor są jego piętą achillesową.