Apple делает ставку на локальные вычисления в работе с большенными языковыми моделями

В прошлые выходные популярный колумнист Блумберг Марк Эпикуреец (Mark Gurman) не только лишь предавался рассуждениям о том, почему Apple очень нужен новый телефон за $250, да и поведал о подходе компании к интеграции в свои устройства функций искусственного ума. Из его слов, компания пробует значительную часть вычислений доверить локальным компонентам пользовательских устройств.
Подругому, если речь идёт о телефонах марки, то некоторый нейронный микропроцессор снутри iPhone должен будет производить локальные вычисления при обработке запросов, в наименьшей степени полагаясь на обмен информацией с пасмурной инфраструктурой. Таковой подход дозволит ускорить отклик системы на поступающие запросы, а для юзера это станет видимым преимуществом. Также, локальная обработка чувствительной инфы повысит степень информационной защищённости.
При всем этом, как утверждает агент Блумберг, компания Apple не отметает финально идею использования посторониих огромных языковых моделей, которые предлагаются Гугл либо Microsoft. Свою языковую модель Apple тоже разрабатывает, но ориентирует её точно на применение локальных вычислительных ресурсов. Подробности об этой концепции Apple могут быть оглашены уже посреди июня на конференции для разработчиков WWDC 2024, как объясняет источник.