Ant Group szkoli modele AI na chińskich chipach, obniżając koszty o 20 procent

Potęga fintechowa Jacka Ma wykorzystała domowe chipy https://www.bloomberg.com/news/articles/2025-03-24/jack-ma-backed-ant-touts-ai-breakthrough-built-on-chinese-chips od Alibaba i Huawei do trenowania modeli sztucznej inteligencji, które wydają się rywalizować z procesorami graficznymi H800 firmy Nvidia.

Według osób posiadających wiedzę na ten temat, Ant Group znalazła sposób na trenowanie modeli sztucznej inteligencji na półprzewodnikach produkowanych w Chinach, obniżając koszty o około 20 procent w porównaniu z konwencjonalnymi metodami.

Wtajemniczeni twierdzą, że wyniki Ant wypadają korzystnie w porównaniu z chipami H800 firmy Nvidia Corp., które nie są obecnie dostępne dla chińskich firm ze względu na Amerykańskie kontrole eksportu. Chociaż Ant nadal wykorzystuje sprzęt Nvidii do niektórych prac związanych ze sztuczną inteligencją, firma podobno kładzie teraz większy nacisk na procesory AMD i chińskie alternatywy dla swoich najnowszych modeli.

Ant opublikował w tym miesiącu artykuł badawczy, w którym twierdzi, że jego modele Ling-Plus i Ling-Lite pokonały nawet Meta Platforms Inc. w niektórych testach porównawczych. Jeśli te ustalenia się utrzymają, systemy te mogą stanowić duży krok naprzód dla chińskiej sztucznej inteligencji, drastycznie obniżając koszty szkolenia i wdrażania usług AI.

W artykule zauważono, że wykorzystanie wysokowydajnego sprzętu do szkolenia 1 biliona tokenów kosztuje około 6,35 miliona juanów (około 880 000 USD). Jednak dzięki zoptymalizowanemu podejściu firmy - i sprzętowi o niższej specyfikacji - liczba ta spada do około 5,1 miliona juanów (około 700 000 USD). Dla tych, którzy nie są zaznajomieni z tą tematyką, tokeny są zasadniczo jednostkami informacji wykorzystywanymi przez te modele do uczenia się i generowania wyników.

Patrząc w przyszłość, Ant zamierza wykorzystać te modele sztucznej inteligencji do zastosowań w opiece zdrowotnej i finansach. Na początku tego roku nabyła chińską platformę internetową Haodf.com, aby wzmocnić swoje usługi AI skoncentrowane na opiece zdrowotnej. Ant obsługuje również aplikację "asystenta życia" AI o nazwie Zhixiaobao oraz narzędzie AI do doradztwa finansowego o nazwie Maxiaocai.

Oba modele Ling są open source: Ling-Lite ma 16,8 miliarda parametrów, podczas gdy Ling-Plus waży 290 miliardów. Chociaż są to ogromne liczby, nadal są mniejsze niż niektóre inne główne modele sztucznej inteligencji - eksperci szacują, że GPT-4.5 ma około 1,8 biliona parametrów, a DeepSeek-R1 ma 671 miliardów.

Ant przyznał się do pewnych wybojów na drodze, szczególnie w odniesieniu do stabilności podczas treningu. W artykule badawczym zauważono, że niewielkie zmiany w sprzęcie lub projekcie modelu czasami powodowały duże skoki wskaźników błędów.