Xiaomi MiLM przetestowany w trybie offline, aby zaprezentować przyszłe możliwości AI na urządzeniu”

Xiaomi MiLM testowany w trybie offline – sztuczna inteligencja na urządzeniu

Dokonując znaczącego kroku w kierunku rozwijania możliwości sztucznej inteligencji, Xiaomi zaprezentowało swój imponujący model językowy MiLM-6B. Odsłonięcie to pierwsze pojawienie się zarówno w C-Eval, jak i CMMLU, dwóch głównych listach oceny modeli AI, podkreślając zaangażowanie Xiaomi w innowacje w przestrzeni AI.

MiLM-6B, wstępnie wyszkolony model językowy na dużą skalę, został opracowany przez Xiaomi z oszałamiającą wielkością parametrów 6,4 miliarda. To imponujące osiągnięcie toruje drogę bardziej złożonym i świadomym kontekstowo interakcjom między ludźmi a maszynami. Zgodnie z informacjami udostępnionymi na stronie GitHub projektu, sprawność modelu nie ogranicza się do wykorzystania w chmurze.

Dzisiaj Xiaomi zaprezentowało możliwości MiLM za pomocą demonstracyjnego wideo testowego offline. Film zawierał kluczowe pytanie: „Czy sztuczna inteligencja nadal działa z dala od sygnałów sieciowych?” Xiaomi udzieliło stanowczej odpowiedzi, demonstrując możliwości offline modelu.

Film przedstawia Xiaomi MiLM działający po stronie mobilnej, wykorzystujący lokalną arytmetykę NPU i uzyskujący dostęp do lokalnych danych w celu generowania tekstu z niezwykłą szybkością i wydajnością. Ten przełom umożliwia szybkie generowanie tekstu przy minimalnym zużyciu energii.

Kluczowe wyniki testów z demonstracji offline obejmują:

• Szybkość generowania tekstu: 11,2 słowa na sekundę
• Użycie procesora: 11,0%
• Wykorzystanie pamięci: 2798,0 MB

W niektórych przypadkach duży model po stronie końcowej rywalizuje nawet z wydajnością odpowiedników opartych na chmurze, co ilustruje zaangażowanie Xiaomi w zapewnianie wyjątkowych wrażeń użytkownikom. Wdrożenie Xiaomi MiLM w scenariuszach offline oferuje potencjał zwiększonej prywatności i bezpieczeństwa danych, co stanowi znaczący krok naprzód w erze sztucznej inteligencji.

Nacisk Xiaomi na prywatność użytkowników i bezpieczeństwo danych ma ogromne znaczenie. Firma zdaje sobie sprawę ze znaczenia ochrony informacji o użytkownikach i rozwiązuje ten problem poprzez wdrożenie dużego modelu po stronie końcowej. Osiągnięcie Xiaomi to nie tylko technologiczny triumf, ale kluczowe rozwiązanie w zakresie bezpieczeństwa danych w erze sztucznej inteligencji.

Źródło