Компанія Microsoft зробила гучну заяву. Її команда дослідників створила BitNet b1.58 2B4T — найпотужнішу на сьогодні 1-розрядну модель штучного інтелекту. Розробка вже доступна для завантаження за відкритою ліцензією MIT. Це відкриває шлях до її використання як розробниками-ентузіастами, так і науковцями по всьому світу. На відміну від традиційних ШІ-систем, BitNet може працювати на звичайних процесорах, зокрема на популярному чипі Apple M2, без потреби у високопродуктивних графічних прискорювачах.
Про це розповідає Techcrunch.
Особливістю BitNet є її надзвичайна ефективність. Модель була створена в межах концепції так званих бітнетів — нейронних мереж, які використовують максимально спрощене квантування параметрів. Якщо звичайні моделі зберігають ваги з точністю до 16 або навіть 32 біт. Натомість в бітнетах вони обмежені лише трьома значеннями:
- Мінус один
- Нуль
- Один
Це дозволяє не тільки зекономити пам’ять, а й значно прискорити обчислення на пристроях з невеликим обсягом оперативної пам’яті.
BitNet b1.58 2B4T має два мільярди параметрів, а це означає, що вона оперує величезною кількістю внутрішніх зв’язків, які відповідають за генерацію відповідей. Ще більш вражаючим є обсяг даних, використаних під час навчання, 4 трильйони токенів, що еквівалентно десяткам мільйонів книг. Саме завдяки цьому масиву інформації модель продемонструвала здатність конкурувати з провідними гравцями галузі.
Під час серії тестів BitNet змогла перевершити кількох конкурентів із подібною кількістю параметрів. Зокрема, модель Microsoft показала кращі результати за такими критеріями, як розв’язання математичних задач початкового рівня (тест GSM8K). І перевірка знань, що базуються на повсякденній логіці (тест PIQA). Вона обійшла Llama 3.2 1B від Meta, Gemma 3 1B від Google і Qwen 2.5 1.5B від Alibaba, що підтверджує її здатність працювати не гірше за популярні продукти, але з меншими витратами.
Переваги швидкості та ощадливості в пам’яті
Ключовою перевагою BitNet стала не лише точність, а й надзвичайна швидкодія. Розробники стверджують, що в деяких задачах модель працює у два рази швидше за інші системи того ж класу. При цьому вона споживає в рази менше пам’яті, що робить її ідеальним кандидатом для використання на мобільних пристроях або компактних серверах без потужних графічних процесорів.
Ця ефективність досягається завдяки простій структурі самої моделі, що мінімізує обсяг оброблюваних даних. Немає потреби у складних алгоритмах оптимізації або великій кількості оперативної пам’яті. BitNet чудово виконує свої завдання навіть у простому середовищі. Це відкриває нові можливості для інтеграції ШІ в системи, де раніше використання великих моделей було економічно чи технічно недоцільним.
Втім, нова технологія не обійшлася без нюансів. Для повноцінної роботи BitNet потребує використання спеціального середовища виконання bitnet.cpp, створеного Microsoft. Наразі ця структура сумісна лише з обмеженим переліком апаратного забезпечення, і в ньому відсутня підтримка графічних прискорювачів. Саме тих, які домінують у сучасній інфраструктурі ШІ.
Це може стати бар’єром на шляху масового впровадження бітнетів у комерційних продуктах. Розробники зазначають, що питання сумісності залишається відкритим, і хоча сама модель є відкритою, її запуск на звичайних платформах поки що вимагає додаткової роботи. Проте з огляду на високу ефективність BitNet, аналітики прогнозують, що в найближчі роки технологію адаптують до ширшого спектра пристроїв.
Можливості для майбутнього розвитку
Попри нинішні обмеження, BitNet відкриває перспективи для розвитку нового класу штучного інтелекту – економного, легкого й доступного. У світі, де мобільні пристрої та периферійні обчислення набирають ваги, такі моделі можуть стати ключем до розгортання ШІ на мільйонах гаджетів без потреби в хмарних ресурсах. Це може кардинально змінити підхід до проєктування застосунків, де раніше використання генеративних моделей було неможливим через апаратні вимоги.
І хоча BitNet лише робить перші кроки на шляху комерціалізації, сама концепція 1-розрядних моделей уже довела свою життєздатність. У випадку успішного розширення сумісності та підтримки спільнотою, технологія має всі шанси зайняти нішу на ринку, де ефективність і мобільність важать більше, ніж масштаб і обчислювальна потужність.
