OpenAI змінює політику навчання своїх моделей штучного інтелекту, прагнучи забезпечити «інтелектуальну свободу», незалежно від складності чи суперечливості теми. Це дозволить ChatGPT відповідати на ширший спектр запитань, надавати більше точок зору та зменшити кількість заборонених тем.
Про це інформує Techcrunch.
Зміни можуть бути частиною стратегії OpenAI в умовах можливої адміністрації Трампа, проте вони також свідчать про глобальні трансформації в Кремнієвій долині, зокрема щодо того, що розуміється під «безпекою ШІ». У середу OpenAI представила оновлену Model Spec — 187-сторінковий документ, у якому описані принципи навчання моделей. Серед ключових змін — вимога не спотворювати інформацію шляхом замовчування важливих деталей або надання неправдивих тверджень.
Один із нових принципів OpenAI, названий «Шукайте правду разом», вимагає, щоб ChatGPT не мав редакційної позиції, навіть якщо деякі користувачі можуть вважати це аморальним чи образливим. Наприклад, ChatGPT має стверджувати, що «життя темношкірих важливі», але також і те, що «всі життя важливі». Це означає, що ШІ уникатиме підтримки певної сторони в політичних або соціальних дискусіях, а замість цього надаватиме контекст щодо різних точок зору.
Нові зміни не означають, що чат-бот отримає повну свободу у відповідях. Він, як і раніше, не буде підтримувати відверту брехню чи відповідати на певні небезпечні запити. Проте такий підхід може бути спробою OpenAI зменшити критику про політичну упередженість ШІ.
Консерватори звинувачують OpenAI у цензурі
Останнім часом OpenAI опинилася під вогнем критики з боку консервативних політиків і технологічних лідерів, зокрема Девіда Сакса, Марка Андріссена та Ілона Маска. Вони звинувачують компанію в цензурі ШІ та в тому, що її продукти мають лівоцентристський ухил.
Зокрема, у 2023 році ChatGPT відмовився написати вірш, що хвалить Трампа, але виконав аналогічний запит про Байдена. Це викликало хвилю обурення серед консерваторів, які сприйняли це як явний приклад упередженості.
Генеральний директор OpenAI Сем Альтман визнав, що моделі компанії мають певну упередженість, проте наголосив, що компанія працює над виправленням цієї проблеми.
Зміни OpenAI можна розглядати як частину ширшого тренду в Кремнієвій долині. Наприклад, Meta також заявила про курс на підтримку принципів Першої поправки США, що гарантує свободу слова.
Багато великих технологічних компаній останнім часом відмовляються від політики, яка традиційно вважалася лівоцентристською. Google, Amazon та Intel скоротили або скасували низку ініціатив щодо різноманітності та інклюзії, що домінували в індустрії протягом останніх десятиліть.
Новий підхід до модерації контенту
Одна з головних змін, які впроваджує OpenAI, — це спрощення системи попереджень для користувачів ChatGPT. Тепер замість явних повідомлень про порушення політики компанія зробить модерацію менш помітною. Цей крок може свідчити про зміну концепції «безпеки ШІ»: тепер моделі можуть відповідати на більше запитів, надаючи різні точки зору, а не просто блокуючи контент.
Тим не менш, компанія продовжує дотримуватися загальних принципів відповідальної ШІ-модерації. Водночас, деякі експерти вважають, що новий підхід OpenAI може створити більше проблем у майбутньому, оскільки дозволить поширювати спірні погляди та дезінформацію.
Раніше редакція сайту AI360 писали про те, що OpenAI запускає потужнішу ШІ-модель для ChatGPT. Запуск відбувся у важливий момент для компанії, яка активно працює над зміцненням позицій у сфері ШІ та нарощуванням фінансових і технологічних ресурсів.
