27 млрд параметров прямо в смартфоне: iPhone 18 Pro показал, на что способен A20 Pro

Iphone18pro2 Iphone18pro2

Эксперимент с iPhone 18 Pro показал, что производительность мобильных устройств в ИИ-задачах уже нельзя оценивать только по результатам традиционных процессорных тестов. Энтузиаст Адриен Грондин запустил на новом смартфоне Apple модель Bonsai-27B и сообщил примерно о двукратном увеличении скорости генерации по сравнению с iPhone 17 Pro.

Важный момент: модель работала локально, то есть запросы обрабатывались самим смартфоном, а не удаленным сервером.

Это один из наиболее показательных примеров того, как меняется архитектура современных флагманов: производителям теперь приходится оптимизировать устройства не только под игры, камеры и автономность, но и под выполнение больших ИИ-моделей непосредственно на телефоне.

27 млрд параметров звучит впечатляюще, но есть важная оговорка

Bonsai-27B нельзя сравнивать с обычной 27-миллиардной моделью «один к одному».

PrismML использовала крайне агрессивное сжатие. 1-битная версия модели хранит веса в бинарном представлении и занимает около 3,9 ГБ. Для сравнения, аналогичная модель в FP16 потребовала бы примерно 54 ГБ памяти только под веса.

Именно поэтому эксперимент вообще стал возможен на смартфоне с 12 ГБ оперативной памяти.

Более того, разработчики заявляют, что 1-битная Bonsai-27B сохраняет около 90% показателей исходной модели в наборе из 15 тестов. Для тернарной версии показатель еще выше — около 95%.

Иными словами, речь идет не просто о том, чтобы «запихнуть» огромную модель в память телефона. Задача заключалась в том, чтобы сохранить приемлемые возможности ИИ после радикального уменьшения размера модели.

A20 Pro получает преимущество не только за счет ядер

Apple оснастила iPhone 18 Pro чипом A20 Pro, выполненным по 2-нм технологии. Процессор получил шесть ядер, графическую подсистему на семь ядер и двойной 16-ядерный Neural Engine. В GPU также появились Neural Accelerators.

Apple заявляет до 40% прироста графической производительности и на 50% более высокую пропускную способность памяти по сравнению с A19 Pro.

Для локальных языковых моделей второй показатель может быть особенно важен.

Когда смартфон генерирует ответ, ему приходится многократно обращаться к весам модели. Если вычислительные блоки достаточно быстрые, но данные поступают медленно, часть потенциальной производительности теряется.

Поэтому новый A20 Pro интересен не только количеством CPU-ядер или результатами Geekbench. Его архитектура все больше заточена под смешанную нагрузку, в которой одновременно используются CPU, GPU, специализированные ИИ-блоки и быстрая память.

Почему iPhone 17 Pro оказался заметно медленнее

На первый взгляд ситуация выглядит парадоксально: iPhone 17 Pro тоже имеет 12 ГБ оперативной памяти, поэтому двукратный рост скорости нельзя объяснить просто увеличением RAM.

В случае Bonsai-27B гораздо важнее сочетание аппаратных и программных оптимизаций.

Модель изначально рассчитана на работу с крайне низкой разрядностью весов. Это позволяет сократить объем данных, который необходимо передавать между памятью и вычислительными блоками. Для мобильного устройства такой подход особенно полезен: уменьшается не только занимаемый объем, но и объем данных, который приходится постоянно обрабатывать.

Поэтому результат iPhone 18 Pro — это одновременно демонстрация возможностей нового чипа и прогресса в разработке самих ИИ-моделей.

Что изменится для пользователей

Переход к локальному ИИ может постепенно изменить сценарии использования смартфона.

Сегодня многие сложные ИИ-сервисы требуют подключения к удаленному серверу. Телефон отправляет запрос в облако, получает результат и отображает его пользователю.

Локальные модели позволяют перенести часть этой работы непосредственно на устройство.

Это особенно интересно для:

Приватности. В зависимости от конкретного приложения и настроек данные могут обрабатываться без передачи на удаленный сервер.

Работы без интернета. Локальная модель не требует постоянного подключения к облачному сервису.

Задержки. Ответ не должен проходить полный путь от смартфона до дата-центра и обратно.

Стоимость. Для разработчика массового приложения перенос части вычислений на устройство потенциально снижает расходы на серверную инфраструктуру.

При этом локальный ИИ не отменяет облачные модели. Более крупные и тяжелые системы по-прежнему требуют значительно больших вычислительных ресурсов.

Главный вывод эксперимента

Эксперимент с Bonsai-27B интересен не тем, что iPhone 18 Pro внезапно стал аналогом серверной станции.

Его значение в другом: 27-миллиардная ИИ-модель впервые становится достаточно компактной и быстрой для интерактивной работы на мобильном устройстве.

Именно комбинация низкобитного сжатия и мощной мобильной платформы превращает то, что еще недавно требовало большого компьютера, в функцию смартфона. PrismML ранее сообщала о запуске Bonsai-27B на iPhone 17 Pro примерно на 11 токенах в секунду, поэтому новая демонстрация особенно показательна именно как сравнение поколений мобильного железа.

При этом не стоит воспринимать один пользовательский тест как универсальный бенчмарк. Скорость зависит от конкретной сборки модели, используемого движка, режима генерации, температуры устройства и других параметров.

Но направление уже очевидно: гонка мобильных процессоров постепенно превращается в гонку за способность запускать все более сложный ИИ непосредственно на смартфоне. И A20 Pro показывает, что Apple делает на это серьезную ставку.