Microsoft создала сверхлёгкую ИИ-модель для работы на обычных процессорах

Microsoft создала сверхлёгкую ИИ-модель для работы на обычных процессорах Исследователи Microsoft разработали BitNet b1.58 2B4T — первую 1-битную модель искусственного интеллекта (ИИ) с 2 миллиардами параметров, способную работать на обычных процессорах, таких как Apple M2. Как сообщает Tom’s Hardware, модель, выпущенная под открытой лицензией MIT, доступна на платформе Hugging Face. Её уникальность в использовании 1-битных весов (значения -1, 0, +1), что резко снижает потребность в памяти и вычислительных ресурсах по сравнению с традиционными моделями, использующими 16- или 32-битные форматы.

Microsoft создала сверхлёгкую ИИ-модель для работы на обычных процессорах

Исследователи Microsoft разработали BitNet b1.58 2B4T — первую 1-битную модель искусственного интеллекта (ИИ) с 2 миллиардами параметров, способную работать на обычных процессорах, таких как Apple M2. Как сообщает Tom’s Hardware, модель, выпущенная под открытой лицензией MIT, доступна на платформе Hugging Face. Её уникальность в использовании 1-битных весов (значения -1, 0, +1), что резко снижает потребность в памяти и вычислительных ресурсах по сравнению с традиционными моделями, использующими 16- или 32-битные форматы.

BitNet, обученная на 4 триллионах токенов (единиц текста), сравнима по производительности с моделями, такими как Google Gemma 3 1B, но потребляет всего 400 МБ памяти — в разы меньше конкурентов. Это делает её идеальной для устройств с ограниченными ресурсами, снижая зависимость от мощных видеокарт (GPU) или нейронных процессоров (NPU). Однако для максимальной эффективности требуется специальный фреймворк bitnet.cpp, пока не поддерживающий GPU.