IBM не припиняє дивувати світ новими версіями своїх мовних моделей Granite Large Language Models (LLM) із відкритим кодом. Нещодавно компанія представила Granite 3.1 — оновлення, яке базується на успіху попередньої версії Granite 3.0. Ця модель має розширені можливості, оптимізовані для бізнес-застосувань, та значно покращену продуктивність.
Про це інформує Zdnet.
Однією з головних переваг Granite 3.1 є збільшене контекстне вікно токенів до 128 КБ. Це дозволяє моделі обробляти значно більші обсяги тексту — еквівалент приблизно 85 000 англійських слів. Для порівняння, ChatGPT 3 від OpenAI міг обробляти лише 2000 токенів. Завдяки цьому нове рішення від IBM пропонує ширші можливості для аналізу й генерації тексту.
Конкуренція та переваги для бізнесу
Granite 3.1 також вражає своєю продуктивністю в порівнянні з конкурентами. За словами IBM, нова модель Granite 8B Instruct перевершує рішення таких компаній, як Google (Gemma 2), Meta (Llama 3.1) і Qwen 2.5, у тестах OpenLLM Leaderboard від Hugging Face.
Ця версія включає як щільні моделі, так і варіанти Mixture of Experts (MoE). Щільні моделі, такі як Granite 2B і 8B, навчалися на 12 трильйонах токенів і призначені для задач генерації тексту, перекладу, виправлення помилок і оптимізації коду. Моделі MoE, натомість, навчалися на 10 трильйонах токенів і розроблені для роботи на пристроях із низькою затримкою, що робить їх ідеальними для інтеграції в мобільні або вбудовані системи.
Нові Granite 3.1 не обмежуються лише текстовими завданнями. Вони також підтримують введення та виведення зображень, що розширює можливості для компаній, які працюють із графікою.
Ще однією важливою інновацією є покращене знання іноземних мов. Окрім англійської, моделі тепер можуть працювати з такими мовами, як:
- Німецька
- Французька
- Японська
- Португальська
- Арабська
- Чеська
- Корейська
- Голландська
- Спрощена Китайська
Це робить Granite 3.1 ідеальним рішенням для міжнародних компаній. Випуск Granite 3.1 демонструє амбіції IBM зробити свої мовні моделі основним інструментом для підприємств. Потужні та надійні, ці моделі здатні вирішувати складні бізнес-завдання, відкриваючи нові можливості для впровадження інновацій. У контексті швидкого розвитку штучного інтелекту Granite 3.1 є важливим кроком вперед, який визначає майбутнє корпоративних рішень у цій сфері.
Відкритість, безпека і платформи для впровадження
Granite 3.1 доступний за ліцензією Apache 2, що підтримує відкритий код. IBM публікує навчальні набори даних і документацію, забезпечуючи прозорість і доступність своїх рішень. Для компаній, стурбованих питаннями інтелектуальної власності, IBM пропонує необмежену компенсацію за претензії третіх сторін щодо використання її моделей.
Моделі Granite 3.1 інтегровані на платформі IBM Watsonx, а також доступні через Google Vertex AI, Hugging Face, NVIDIA та інші сервіси. Компанія також пропонує метод InstructLab для адаптації моделей до специфічних завдань, що дозволяє досягати високої продуктивності за менших витрат.
Нещодавно редакція AI360, вже писала про те, як IBM дебютує з відкритим вихідним кодом Granite 3.0 LLM для корпоративного ШІ, який вже приносив компанії дохід в понад 2 мільярди доларів.
