Nvidia i Apple: Wrogowie odkładają na bok urazy, aby zwiększyć wydajność sztucznej inteligencji

Powszechnie wiadomo, że Apple i Nvidia nie dogadują się zbyt dobrze. Był czas, kiedy linia komputerów Mac Apple korzystała z układów graficznych Nvidii, ale sprawy przybrały zły obrót, gdy w 2008 roku pojawiły się powszechne problemy w MacBookach z układami graficznymi Nvidii GeForce 8400M i 8600M dGPU zaczęły wypływać na powierzchnię ze względu na wady opakowania, prowadzące do przegrzewania się, błędów graficznych, a w skrajnych przypadkach do całkowitej awarii GPU. Chociaż MacBooki nadal posiadały procesory graficzne Nvidii, ich relacje niewątpliwie spadły, a w ciągu kilku następnych lat Apple przeszedł na AMD i nigdy nie oglądał się za siebie.

W rezultacie, bez obrazy dla fanów Team Red, komputery Mac cierpiały z powodu słabej wydajności graficznej w porównaniu do laptopów z systemem Windows wyposażonych w karty GTX i RTX. Tak było oczywiście do czasu pojawienia się komputerów Mac z układamiApple Silicon. Pomimo tego, że entuzjaści komputerów Mac czekali, aż Nvidia i Apple zakopią topór wojenny, tak naprawdę nigdy do tego nie doszło - aż do teraz. Cóż, w pewnym sensie. Apple ogłosiło niedawno współpracę z Nvidią mającą na celu przyspieszenie wnioskowania o dużych modelach językowych, oznaczając swego rodzaju zawieszenie broni między dwoma gigantami wartymi wiele bilionów dolarów.

Sercem tej nieoczekiwanej współpracy jest Apple's ReCurrent Drafter (ReDrafter), który jest w zasadzie dość innowacyjną metodą dekodowania spekulacyjnego zaprojektowaną w celu poprawy generowania tokenów LLM wprowadzoną na początku tego roku. Nvidia najwyraźniej współpracowała z Apple, aby w jakiś sposób włączyć ReDrafter do swojego frameworka TensorRT-LLM framework. Co więcej, gigant AI zaktualizował również swój framework o nowe zoptymalizowane operatory, umożliwiając płynną adopcję. Wyniki, nawet dla laika takiego jak ja, brzmią obiecująco - LLM wykorzystujące GPU Nvidii z ReDrafterem osiągają aż 2,7-krotny wzrost prędkości generowania tokenów, zmniejszając tym samym opóźnienia i zużycie energii.

Oczywiście nadal nie wiadomo, czy ta współpraca wskazuje na to, że dwie największe firmy na świecie szykują coś więcej, czy też oznacza to raczej jednorazowy rozejm. Tak czy inaczej, jakakolwiek odmiana sojuszu R&D prawdopodobnie przyniesie pozytywne wieści dla konsumentów. W końcu kto nie chce szybszego oprogramowania?