Výskumníci spoločnosti Apple v oblasti umelej inteligencie vyvinuli prelomovú metódu na spúšťanie veľkých jazykových modelov (LLM) v telefónoch iPhone a iných zariadeniach Apple s obmedzenou pamäťou. Vymysleli inovatívnu techniku využívania pamäte flash, ktorá umožňuje prekonať pamäťové obmedzenia chatbotov založených na LLM. Táto technika zahŕňa ukladanie údajov modelu umelej inteligencie’ na pamäť flash, ktorej je v mobilných zariadeniach viac ako tradičnej pamäte RAM. Výskumníci využívajú dve kľúčové techniky, windowing a row-column bundling, na minimalizáciu prenosu dát a maximalizáciu priepustnosti pamäte flash. To umožňuje modelom umelej inteligencie pracovať až s dvojnásobnou veľkosťou dostupnej pamäte iPhonu’, čo vedie k výrazne vyššej rýchlosti spracovania. Tento prelomový objav otvára možnosti pre pokročilé funkcie Siri, preklad jazyka v reálnom čase a funkcie poháňané umelou inteligenciou v oblasti fotografie a rozšírenej reality v budúcich iPhonoch. Apple vyvíja aj vlastný generatívny model umelej inteligencie s názvom “Ajax”, ktorý má konkurovať modelom OpenAI’GPT-3 a GPT-4. Ajax pracuje s 200 miliardami parametrov a jeho cieľom je hlbšie integrovať umelú inteligenciu do ekosystému Apple. Očakáva sa, že spoločnosť Apple ponúkne kombináciu cloudovej AI a spracovania v zariadení pre generatívne funkcie AI v telefónoch iPhone a iPad do konca roka 2024.
