Wspierany przez Adobe SlimLM zapewnia możliwości mobilnej sztucznej inteligencji bez chmury

Dzięki nowemu małemu modelowi językowemu (SLM), który został opracowany przez zespół badaczy AI w Adobe Inc. wraz z kolegami z Auburn University i Georgia Tech, nowe aplikacje AI na smartfony będą mogły przetwarzać dokumenty lokalnie bez dostępu do chmury. Ten SLM nazywa się SlimLM, a wszystkie szczegóły na jego temat zostały opublikowane na arXiv.

"Poprzez szeroko zakrojone eksperymenty na Samsungu Galaxy S24, identyfikujemy optymalne kompromisy między rozmiarem modelu (od 125M do 7B parametrów), długością kontekstu i czasem wnioskowania w celu wydajnego przetwarzania na urządzeniu. SlimLM jest wstępnie wytrenowany na SlimPajama-627B i dostrojony na DocAssist, naszym skonstruowanym zestawie danych do podsumowywania, odpowiadania na pytania i sugerowania zadań. Nasz najmniejszy model demonstruje wydajną wydajność na S24, podczas gdy większe warianty oferują rozszerzone możliwości w ramach ograniczeń mobilnych"

ujawnił zespół badawczy.

SlimLM nie jest jeszcze dostępny dla mas, ale może to nastąpić już wkrótce. Dzięki temu fragmentowi kodu smartfon może lokalnie wykorzystywać moc sztucznej inteligencji do przetwarzania dokumentów bez konieczności łączenia się z Internetem. Podczas gdy rozwiązania AI oparte na chmurze często zużywają znacznie mniej lokalnej mocy obliczeniowej niż aplikacje działające lokalnie, najważniejszym atrybutem, jaki oferują, jest prywatność. Do tej pory największe marki w tej dziedzinie, takie jak Google, Apple i Meta, opracowały już takie aplikacje. Niestety, ich status pozostaje raczej eksperymentalny i żadna z nich nie trafiła do mas. Jeśli plany wspomnianych badaczy dojdą do skutku, SlimLM może stać się pierwszym tego typu rozwiązaniem.

Osoby zainteresowane SlimLM i podobnymi rozwiązaniami powinny sięgnąć po książkę Jesse'ego Sprintera Demystifying AI: Your Guide to Mastering Small Language Models, która jest obecnie dostępna za 7,11 USD w formacie Kindle, podczas gdy wersja papierowa kosztuje 18,99 USD.