OpenAI застосував популярний subreddit r/ChangeMyView, щоб перевірити здатність своїх моделей штучного інтелекту формулювати переконливі аргументи. Ця інформація була розкрита в системній картці, опублікованій разом із новою моделлю o3-mini.
Про це повідомляє Techcrunch.
На платформі r/ChangeMyView мільйони користувачів діляться своїми думками, запрошуючи інших висловити контраргументи. OpenAI використав ці дані для тестування своїх моделей, пропонуючи їм відповідати на дописи в закритому середовищі. Потім компанія оцінювала, наскільки ефективно штучний інтелект переконував користувачів змінити свою точку зору.
OpenAI має офіційну угоду з Reddit, яка дозволяє використовувати контент платформи для навчання моделей.
Однак компанія заявила, що тест на основі ChangeMyView не пов’язаний із цією угодою. Незрозуміло, яким чином OpenAI отримала доступ до даних цього субредіту.
Reddit активно ліцензує свій контент штучному інтелекту: Google, наприклад, платить за це 60 мільйонів доларів на рік. Водночас компанія звинувачувала OpenAI, Microsoft, Anthropic та Perplexity у несанкціонованому зборі її даних.
Переконливість моделей ШІ та ризики маніпуляцій
Тестування показало, що моделі OpenAI, включаючи GPT-4o та o3-mini, у своїй аргументації перевершують більшість користувачів r/ChangeMyView. Вони демонструють результат у 80-90-му процентилі порівняно з людьми, хоча поки що не є “надлюдськими” у переконливості.
OpenAI визнає потенційні ризики, якщо штучний інтелект стане надто ефективним у маніпулюванні думками людей. У відповідь компанія розробляє запобіжні заходи, щоб запобігти використанню ШІ для дезінформації чи впливу на громадську думку. OpenAI опинилася під тиском через конкуренцію з китайськими технологічними компаніями, такими як DeepSeek. CEO OpenAI Сем Альтман визнав, що китайський конкурент скоротив відставання та змусив OpenAI переглянути свою стратегію відкритості.
DeepSeek, наприклад, відкрито демонструє “ланцюги міркувань” своїх моделей, тоді як OpenAI поки що приховує цей процес. Компанія вже працює над тим, щоб у майбутньому представити більше деталей про те, як її моделі приходять до своїх висновків.
Вплив ШІ на ядерні дослідження та майбутнє OpenAI
OpenAI також уклала партнерство з урядом США, щоб надати свої моделі Національним лабораторіям для досліджень у сфері ядерної безпеки. Деякі користувачі висловили занепокоєння щодо можливого використання ШІ у військових цілях, однак компанія запевняє, що її технології контролюються експертами. Більш детально редакція сайту AI360 писала у своїй статті про те, як OpenAI відкриє доступ до своїх технологій для досліджень ядерної зброї США.
Крім того, OpenAI продовжує розширювати свою обчислювальну інфраструктуру. Проект Stargate, спрямований на будівництво масштабного дата-центру, має підвищити продуктивність нових моделей.
Альтман також визнав, що можливість “рекурсивного самовдосконалення” ШІ виглядає реальнішою, ніж здавалося раніше. Це означає, що моделі можуть покращувати власний інтелект без участі людини.
