Ілон Маск, власник компанії xAI, висловив свою позицію щодо сучасного стану розвитку штучного інтелекту (ШІ). За його словами, індустрія ШІ вичерпала більшість наявних даних для навчання моделей. У своїй розмові з головою Stagwell Марком Пенном Маск зазначив, що ця проблема стала очевидною ще минулого року: «Ми вичерпали загальний обсяг людських знань для навчання ШІ».
Про це інформує Techcrunch.
Колишній головний науковий співробітник OpenAI Ілля Суцкевер також підтвердив цю тенденцію під час конференції NeurIPS. Він назвав цю ситуацію «піковими даними» та припустив, що нестача реальних даних змінить підходи до створення моделей.
Синтетичні дані – шлях уперед
Маск запропонував використовувати синтетичні дані, створені самими моделями ШІ, як альтернативу реальним. За його словами, синтетичні дані дозволять моделям вдосконалюватися через самонавчання. Такий підхід вже активно використовують компанії Microsoft, Meta, OpenAI і Anthropic. Зокрема, Microsoft застосувала синтетичні дані для навчання своєї моделі Phi-4, а Google використав цей метод для розробки Gemma. Meta вдосконалила свою серію моделей Llama, а Anthropic використала синтетичні дані для створення ефективної системи Claude 3.5 Sonnet.
Синтетичні дані також є економічно вигідними. Наприклад, модель Palmyra X 004 від Writer, створена майже виключно на основі синтетичних даних, обійшлася лише в 700 тисяч доларів, тоді як розробка моделі OpenAI коштувала 4,6 мільйона доларів.
Незважаючи на переваги, використання синтетичних даних має свої недоліки. Наукові дослідження показали, що такі дані можуть зробити моделі менш креативними та більш упередженими. Якщо вихідні дані містять помилки чи обмеження, результати ШІ також будуть неточними.
Режим “Unhinged Mode” у чат-боті Grok
Маск також поділився інформацією про новий режим для свого чат-бота Grok. Цей режим, який ще не активований, надаватиме відповіді, «що мають бути неприйнятними або провокативними». За задумом Маска, Grok стане нефільтрованим і здатним відповідати на суперечливі запитання. Однак наявна версія чат-бота все ще обмежена у своїх функціях, особливо щодо політичних тем. Маск пообіцяв зробити Grok політично нейтральним, хоча визнав, що навчальні дані з Інтернету містять упередження.
xAI планує випустити окремий застосунок для Grok на iOS, який вже доступний у США, Австралії та Індії. Чат-бот матиме доступ до реальних даних з Інтернету, функції текстового аналізу, створення зображень та інших інструментів генеративного ШІ.
Крім того, xAI працює над сайтом Grok.com, де чат-бот буде доступний для всіх користувачів. Маск активно розширює функціонал Grok, роблячи його доступним навіть у безкоштовній версії.
Ілон Маск залишається в грі
Ілон Маск залишається на передовій розвитку ШІ, пропонуючи сміливі рішення для подолання викликів галузі. Синтетичні дані відкривають нові горизонти для навчання моделей, хоча водночас потребують обережного підходу через можливі ризики. У свою чергу, чат-бот Grok продовжує еволюціонувати, стаючи більш функціональним і доступним для користувачів.
Раніше редакція сайту AI360 писала про те, як Ілон Маск інтегрує новий генератор зображень у Grok. Соціальна мережа X, раніше відома як Twitter, під керівництвом Ілона Маска запустила генератор зображень Aurora, інтегрований у помічник штучного інтелекту Grok.
