Google выпустила компактную версию своей открытой ИИ-модели — Gemma 3 270M, рассчитанную на работу прямо на устройствах, включая смартфоны и даже браузеры. Модель имеет 270 миллионов параметров — значительно меньше, чем у предыдущих версий (от 1 до 27 миллиардов), но сохраняет приличный уровень производительности, пишут СМИ.
Главные преимущества работы ИИ локально — это конфиденциальность и высокая скорость отклика. В тестах на смартфоне Pixel 9 Pro Gemma 3 270M смогла провести 25 диалогов, используя всего 0,75% заряда батареи.
По тесту IFEval, который проверяет способность ИИ следовать инструкциям, модель показала результат 51,2% — выше, чем у многих аналогов большего размера.
Google отмечает, что модель можно быстро и недорого дообучить под конкретные задачи.
Gemma 3 270M доступна бесплатно на Hugging Face, Kaggle и в Google Vertex AI в двух вариантах — предварительно обученном и с настройкой под инструкции.