Para peneliti AI Apple telah mengembangkan metode terobosan untuk menjalankan model bahasa besar (LLM) pada iPhone dan perangkat Apple lainnya dengan memori terbatas. Mereka telah menemukan teknik pemanfaatan memori flash yang inovatif untuk mengatasi kendala memori chatbot berbasis LLM. Teknik ini melibatkan penyimpanan data model AI pada memori flash, yang lebih banyak tersedia di perangkat seluler daripada RAM tradisional. Para peneliti menggunakan dua teknik utama, yaitu windowing dan bundling baris-kolom, untuk meminimalkan transfer data dan memaksimalkan throughput memori flash. Hal ini memungkinkan model AI untuk menjalankan hingga dua kali lipat ukuran memori yang tersedia di iPhone, sehingga menghasilkan kecepatan pemrosesan yang jauh lebih cepat. Terobosan ini membuka kemungkinan untuk kemampuan Siri yang canggih, terjemahan bahasa waktu nyata, dan fitur-fitur yang digerakkan oleh AI dalam fotografi dan augmented reality pada iPhone masa depan. Apple juga mengembangkan model AI generatifnya sendiri yang disebut “Ajax & #8221; untuk menyaingi GPT-3 dan GPT-4 dari OpenAI. Ajax beroperasi pada 200 miliar parameter dan bertujuan untuk mengintegrasikan AI lebih dalam ke dalam ekosistem Apple. Apple diharapkan dapat menawarkan kombinasi AI berbasis cloud dan pemrosesan di perangkat untuk fitur AI generatif di iPhone dan iPad pada akhir tahun 2024.
