Zhaoxin wdraża modele DeepSeek-R1 w całej gamie procesorów, od komputerów stacjonarnych po serwery

Firma Zhaoxin poinformowała na stronie https://news.mydrivers.com/1/1032/1032195.htm że z powodzeniem wdrożyła modele DeepSeek-R1 Distill w całej swojej ofercie - od codziennych komputerów stacjonarnych po serwery o dużej mocy.

Chiński producent procesorów ogłosił, że jego procesory obsługują teraz kilka wersji modelu DeepSeek-R1 Distill, niezależnie od tego, czy jest to 1,5B, 7B, 14B, 32B, 70B, czy nawet kolosalny wariant 671B. Wdrożenie to obejmuje cały ich sprzęt kompatybilny z x86, pokazując elastyczność ich technologii.

Ponadto procesory Zhaoxin natywnie obsługują systemy Linux, Windows i różne rodzime chińskie systemy operacyjne, a jednocześnie są w pełni kompatybilne z lokalnymi kartami akceleracji GPU AI. Tworzy to solidną platformę obliczeniową gotową do wszelkiego rodzaju zadań związanych ze sztuczną inteligencją.

Wdrożenie AI na komputerach stacjonarnych

Procesor stacjonarny KaiXian KX-7000 zademonstrował udane lokalne wdrożenie modelu DeepSeek-R1-7B w połączeniu z krajowymi kartami graficznymi i akceleracyjnymi. Dzięki wykorzystaniu zaawansowanego rozumienia języka i rozumowania DeepSeek, konfiguracja ta umożliwia takie funkcje, jak inteligentna obsługa dokumentów, analiza danych i pomoc w kodowaniu, a wszystko to płynnie zintegrowane z aplikacjami takimi jak WPS Office i VSCode.

KX-7000 jest częścią najnowszej generacji chipów Zhaoxin do komputerów stacjonarnych. Charakteryzuje się on mikroarchitekturą "Century Avenue" z innowacyjnym połączeniem chipletów, zawiera 8 rdzeni CPU z 32 MB współdzielonej pamięci podręcznej L3 i może osiągnąć prędkość do 3,7 GHz.

Wydajność stacji roboczej

Stacja robocza Lianhe Donghai XRS302, napędzana procesorem serwerowym KH-40000/16, z powodzeniem wdrożyła modele DeepSeek-R1-7B, 14B i 32B. Wyposażona w cztery wysokowydajne krajowe karty akceleracji wnioskowania GPU, ta stacja robocza zapewnia opłacalne, ale solidne możliwości wnioskowania AI.

Zhaoxin dopracował swój system połączeń CPU-GPU, aby zwiększyć przepustowość danych przy jednoczesnym zmniejszeniu opóźnień. Stacja robocza korzysta również z cichej konstrukcji o niskim poborze mocy - idealnej do ustawień biurowych, które wymagają lokalnego wnioskowania AI bez hałasu i narzutu energetycznego.

Przetwarzanie AI klasy serwerowej

Na wyższym poziomie, procesor Kaisheng KH-40000/32 posiada konfigurację z dwoma gniazdami, 64 rdzeniami i obsługą do 2 TB pamięci. W połączeniu z krajowymi kartami akceleratorów, procesor ten wygodnie wdrożył model DeepSeek-R1-70B.

KH-40000/32 zdołał również wdrożyć pełny model DeepSeek-R1-671B całkowicie samodzielnie - bez zewnętrznych kart akceleracji. Wyczyn ten podkreśla, jak zdolne są procesory serwerowe Zhaoxin do bezproblemowej obsługi modeli z setkami miliardów parametrów.

Chociaż twierdzenia Zhaoxin są imponujące, te wyniki wydajności należy traktować z przymrużeniem oka. Podobnie jak w przypadku wszystkich benchmarków dostarczanych przez dostawców, rzeczywista wydajność może różnić się od kontrolowanych środowisk testowych, a firma może przedstawiać zoptymalizowane scenariusze, które podkreślają jej produkty w najlepszym możliwym świetle.