Французький стартап зі штучного інтелекту Mistral випустив свої перші генеративні моделі штучного інтелекту, призначені для роботи на периферійних пристроях, таких як ноутбуки та телефони.
Про це пише techcrunch.
Французький стартап Mistral представив нові моделі ШІ для периферійних пристроїв
Французький стартап зі штучного інтелекту Mistral випустив нове сімейство генеративних моделей штучного інтелекту під назвою «Les Ministraux», які призначені для використання на периферійних пристроях, таких як ноутбуки та мобільні телефони. Ці моделі можуть працювати як автономно, так і в поєднанні з більш потужними системами для виконання широкого спектра завдань.
Ministral 8B вже доступний для завантаження, однак поки що лише для дослідницьких цілей. Для комерційного використання необхідна спеціальна ліцензія від компанії. Вартість використання цих моделей через хмарні сервіси Mistral La Platforme чи інші платформи, з якими компанія співпрацює, становить 10 центів за мільйон токенів для Ministral 8B та 4 центи за Ministral 3B.
Нові моделі Les Ministraux: можливості та характеристики
У нову лінійку входять дві моделі: Ministral 3B та Ministral 8B. Кожна з них має контекстне вікно на 128 000 токенів, що дозволяє опрацьовувати тексти обсягом приблизно 50 сторінок. Це робить моделі зручними для використання в різноманітних додатках, таких як текстогенерація, переклад та локальна аналітика.
Компанія заявляє, що ці моделі розроблені для ефективної роботи у критично важливих умовах, наприклад, при перекладі тексту без підключення до Інтернету або в автономних роботах. Це забезпечує високу обчислювальну ефективність та низьку затримку.
Тенденції на ринку штучного інтелекту
Ринок штучного інтелекту продовжує рухатися в бік компактних моделей, які дешевші та швидші у навчанні й експлуатації. Компанії-гіганти, такі як Google і Microsoft, також активно розробляють свої власні невеликі моделі, оптимізовані для периферійних пристроїв. Наприклад, Google просуває свою лінійку моделей Gemma, а Microsoft працює над колекцією Phi.
За словами Mistral, їхні нові моделі перевершують конкурентів, таких як Llama від Meta та Gemma від Google, за результатами кількох тестів ШІ, що оцінюють здатність до виконання інструкцій і вирішення складних завдань.
Плани на майбутнє та фінансування
Після залучення 640 мільйонів доларів венчурного капіталу, Mistral продовжує розширювати свій портфель продуктів. У недавньому часі стартап запустив низку інструментів, серед яких генеративна модель коду Codestral і SDK для точного налаштування моделей.
Місія Mistral полягає в тому, щоб створювати моделі, які могли б конкурувати з провідними рішеннями на ринку, такими як GPT-4 від OpenAI та Claude від Anthropic. Компанія поступово виходить на прибуток, і вже цього літа Mistral вдалося почати приносити дохід, що є рідкістю для стартапів у галузі генеративного штучного інтелекту.
