Apple planuje lokalnie uruchomić Siri AI podobną do ChatGPT

Wyróżniony obraz Siri na iPhonie

Apple pracuje nad czymś, co wydaje się imponującym technicznie rozwiązaniem, które może zmienić na lepsze sposób, w jaki korzystamy z iPhone'ów. Firma planuje uruchamiać zaawansowane modele językowe (LLM), podobne do ChatGPT, bezpośrednio na iPhone'ach.

Ten krok mógłby znacznie poprawić funkcjonalność i inteligencję Siri i wreszcie sprawić, że wcześniej stosunkowo „głupia” Siri stanie się mądrzejsza – bez wysyłania danych do chmury i poruszania kwestii prywatności. Zespół badawczy Apple ustalił, jak powinno to działać od strony technicznej w tym papierze opisane.

Wielu użytkowników iPhone'a chciałoby zobaczyć inteligentniejszą Siri z możliwościami ChatGPT (Zdjęcie: Omid Armin).
Wielu użytkowników iPhone'a chciałoby zobaczyć inteligentniejszą Siri z możliwościami ChatGPT (Zdjęcie: Omid Armin).

LLM na iPhonie – teoria

Zespół badawczy Apple opublikował niedawno wspomniany powyżej artykuł, w którym opisano innowacyjne podejście do uruchamiania modeli dużych języków (LLM) na iPhone'ach. Badanie to pokazuje, że możliwe jest uruchamianie złożonych algorytmów sztucznej inteligencji, które zazwyczaj wymagają wydajnych serwerów, przy stosunkowo ograniczonych zasobach smartfona.

Korzystając ze specjalistycznych technik optymalizacji i wydajnego zarządzania kodem, Apple znalazł sposób na zmniejszenie obciążenia obliczeniowego tych modeli, dzięki czemu można je uruchamiać bezpośrednio na iPhonie bez znaczącego wpływu na wydajność i czas pracy baterii.

Wykonanie techniczne

Wdrażając modele wielkojęzyczne (LLM) na iPhone'ach, Apple staje przed poważnym wyzwaniem: modele te wymagają dużo danych i miejsca na dysku, ale iPhone'y mają ograniczoną pamięć w porównaniu do serwerów. Aby rozwiązać ten problem, badacze Apple opracowali sprytną technologię wykorzystującą pamięć flash iPhone'a – pamięć, w której przechowywane są również aplikacje i zdjęcia.

Zamiast polegać na powszechnie używanej pamięci głównej (RAM), metoda ta przechowuje dane modelu AI w pamięci flash. Ma to dwie zalety:

  • Po pierwsze, pamięć flash w urządzeniach mobilnych jest często szerzej dostępna niż pamięć RAM.
  • Po drugie, Apple stosuje dwie specjalne techniki, które minimalizują transfer danych i maksymalizują przepustowość pamięci flash.
Pamięć Flash oferuje znacznie większą pojemność, ale ma znacznie mniejszą przepustowość w porównaniu z pamięciami podręcznymi i rejestrami DRAM oraz CPU/GPU.
Pamięć Flash oferuje znacznie większą pojemność, ale ma znacznie mniejszą przepustowość w porównaniu z pamięciami podręcznymi i rejestrami DRAM oraz CPU/GPU.

Okienkowanie i łączenie wierszy i kolumn

Pierwsza technika nazywa się „Okienkowanie” i działa podobnie do recyklingu: zamiast ciągle ładować nowe dane, model AI ponownie wykorzystuje część danych, które już przetworzył. Zmniejsza to potrzebę ciągłego dostępu do pamięci i sprawia, że ​​proces jest szybszy i płynniejszy.

Druga technika „Grupowanie wierszy i kolumn„, można porównać do czytania większych fragmentów tekstu w książce zamiast pojedynczych słów. Metoda ta efektywniej agreguje dane, dzięki czemu można je szybciej odczytać z pamięci flash, co z kolei poprawia zdolność sztucznej inteligencji do rozumienia i generowania języka.

Jak wynika z artykułu badawczego, metody te umożliwiają uruchamianie modeli AI odpowiadających nawet dwukrotnie większej pojemności pamięci iPhone'a. Ta metoda może zwiększyć prędkość od 4x do 5x w przypadku standardowych procesorów (CPU) i 20x do 25x w przypadku procesorów graficznych (GPU). Dlatego jest to krytyczny przełom we wdrażaniu złożonych rozwiązań LLM w środowiskach o ograniczonych zasobach, takich jak iPhone.

Potencjalny wpływ na nas, użytkowników

Wdrożenie LLM na iPhone'ach może mieć daleko idący wpływ na wygodę użytkownika.

Po pierwsze, umożliwiłoby to wreszcie Siri obsługę bardziej złożonych żądań i zapewnianie bardziej precyzyjnych, kontekstowych odpowiedzi. Dzięki temu interakcja z iPhonem może być bardziej intuicyjna i wydajna.

Po drugie, technologia ta może otworzyć nowe zastosowania w takich obszarach, jak zarządzanie wiedzą osobistą, zaawansowane możliwości tłumaczenia, a nawet tworzenie interaktywnych aplikacji edukacyjnych.

Są to jednak na razie jedynie spekulacje i teoretyczne możliwości. Nie ma wątpliwości, że Apple planuje udostępnić jakiś rodzaj ChatGPT na iPhonie, iPadzie i komputerze Mac. Na razie jednak nie możemy zbyt wiele powiedzieć o tym, jak będzie wyglądało wdrożenie.

Korzyści z ochrony danych i wydajności

Chociaż możliwość uruchamiania LLM na komputerze Mac lub iPhonie wydaje się dobra, stwarza jednak również wyzwania, szczególnie jeśli chodzi o prywatność i bezpieczeństwo. Apple jest znane z tego, że skupia się na ochronie danych użytkowników i wysyłaniu jak najmniejszej ich ilości z samych urządzeń na serwery Apple.

Firma musi także dopilnować, aby te nowe funkcje sztucznej inteligencji były zgodne ze ścisłymi wytycznymi UE dotyczącymi ochrony danych. Obejmuje to przetwarzanie wrażliwych danych, zapobieganie niepożądanemu gromadzeniu danych i dbanie o to, aby modele sztucznej inteligencji nie były wykorzystywane do niewłaściwych celów.

Ale sprawa będzie również wymagać wielu zasobów technicznych. Integracja sztucznej inteligencji opartej na modelach językowych, z których następnie korzystają miliony ludzi każdego dnia, stanowiłaby ogromne obciążenie dla usługi w chmurze. Również pod tym względem lokalne wykonanie sztucznej inteligencji może być dla Apple lepszą opcją – zwłaszcza, że ​​z wielu funkcji inteligentnego asystenta można byłoby wówczas korzystać nawet bez połączenia z Internetem.

Nasz wniosek

Badania Apple nad możliwością lokalnego uruchamiania aplikacji LLM na iPhone'ach i komputerach Mac stanowią ekscytujący kamień milowy w rozwoju Siri. Pokazuje, że Apple – podobnie jak użytkownicy – ​​zdali sobie sprawę, że obecna wersja Siri znacznie odstaje od chatbotów takich jak ChatGPT.

Chociaż mamy teraz dokument, który pokazuje nam możliwości techniczne na przyszłość i w następnym iOS nie uwzględniono żadnych bieżących funkcji, zakładamy, że czegoś takiego można się spodziewać w iOS 18.

Moje wskazówki i porady dotyczące technologii i Apple

Podobał Ci się artykuł i czy instrukcje na blogu Ci pomogły? Wtedy byłbym szczęśliwy, gdybyś bloga poprzez stałe członkostwo będzie wspierać.

Napisz komentarz

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone * oznakowane

Na blogu Sir Apfelot znajdziesz porady, instrukcje i recenzje produktów Apple, takich jak iPhone, iPad, Apple Watch, AirPods, iMac, Mac Pro, Mac Mini i Mac Studio.

Promocje
Zakupy
  •  
  •