В вашем Galaxy уже есть всё необходимое для LLM

Смартфоны Galaxy позволяют запускать языковые модели локально. Выберите подходящий размер — и Samsung отвечает на вопросы без облака.

Galaxy уже готов

Современные флагманы Galaxy оснащены быстрыми чипами и достаточным объёмом оперативной памяти — всего, что нужно для запуска языковой модели на устройстве. Даже смартфоны Galaxy среднего класса уверенно справляются с компактными моделями, поэтому весьма вероятно, что Samsung, который уже лежит у вас в кармане, сможет запускать полноценную языковую модель локально. Подписка на облачные сервисы не нужна — самая сложная часть уже выполнена аппаратной платформой.

Подберите модель под смартфон

Открытые модели насчитывают примерно от 0.5B до 12B параметров. Малые модели быстро работают даже на скромном железе, а крупным нужны объёмы памяти и накопителя, как у флагманов. Встроенный браузер моделей Local AI показывает все варианты и сразу загружает выбранную модель, поэтому подбор модели под Galaxy превращается в эксперимент в одно касание, а не в исследовательский проект. Если модель кажется медленной, просто выберите меньшую.

Одно скачивание — и работа без сети

После загрузки модели каждый ответ вычисляется на самом смартфоне. В чате текст появляется токен за токеном, модели для работы с изображениями анализируют ваши фотографии, а голосовой помощник отвечает на устные вопросы — без единого обращения к сети. Всё работает в самолёте, в тоннелях и в любых местах, где пропадает сигнал. Интернет нужен только один раз; дальше смартфон справляется сам.

Установите разумные ожидания

Самые большие модели на любом смартфоне требуют терпения, поэтому начните с малой и наслаждайтесь скоростью, а затем попробуйте более крупную модель, когда вопросу стоит посвятить больше ресурсов. Выбор между мгновенным ответом и глубиной решения остаётся за вами. Поскольку переключение между моделями требует лишь скачивания, можно смело экспериментировать. Оставьте маленькую модель установленной для быстрых вопросов.