Apple заинтересовалась технологией PrismML для локального запуска больших ИИ-моделей на iPhone

Переговоры между Apple и PrismML

Компания Apple ведет переговоры со стартапом PrismML по поводу возможного использования технологий этой компании для запуска на iPhone значительно более крупных моделей искусственного интеллекта. Об этом сообщает издание The Information со ссылкой на свои источники.

Технологический прорыв PrismML

Разработчикам PrismML удалось адаптировать открытую большую языковую модель Qwen 3.6 от компании Alibaba таким образом, чтобы она полностью работала непосредственно на iPhone 17 Pro. Данная модель насчитывает 27 миллиардов параметров, что превышает показатель собственной модели Apple под названием AFM 3 Core Advanced, работающей на устройстве и имеющей 20 миллиардов параметров.

Стартап PrismML, созданный на базе подразделения Калифорнийского технологического института (Caltech), предлагает решение, построенное на сверхплотных 1-битных и троичных архитектурах. Эта технология снижает объем используемой памяти до 14 раз при этом работая до 8 раз быстрее. С помощью технологии PrismML можно сократить занимаемый ИИ-моделью объем в памяти с 54 до менее чем 4 Гбайт.

Преимущества локального ИИ

Для Apple использование локального ИИ означает полную конфиденциальность пользователя, мгновенное время отклика и полную независимость от сотовой связи. К тому же компании не придется оплачивать астрономические счета за использование вычислительных мощностей ЦОД.

В отличие от AFM 3 Core Advanced, в модели Qwen 3.6 все параметры могут быть активны одновременно. Модель Apple использует разреженную архитектуру, при которой единовременно задействуется лишь от 1 до 4 миллиардов параметров, тогда как в решении PrismML активны сразу все 27 миллиардов параметров.

Влияние на экосистему Apple

Возможность запуска более крупных моделей непосредственно на iPhone позволила бы Apple переносить больше функций Apple Intelligence на устройство вместо серверов Private Cloud Compute. Это могло бы снизить издержки компании и дополнительно повысить уровень конфиденциальности пользователей.

Модель AFM 3 Core Advanced, работающая на 20 миллиардах параметров, отвечает за такие функции iOS 27, как более выразительные голоса Siri и улучшенный системный ввод текста на моделях iPhone 17 Pro и iPhone Air. При внедрении технологий PrismML эти возможности могут стать еще более мощными.