Лабораторія досліджень штучного інтелекту OpenAI спрямовує значні ресурси на вивчення складного питання: чи може штучний інтелект вивчити мораль? У межах трирічного гранту обсягом 1 мільйон доларів компанія фінансує дослідження Університету Дьюка, яке присвячене розробці алгоритмів для передбачення моральних суджень людей. Хоча проєкт стартував кілька років тому, деталі роботи поки що залишаються невідомими, за винятком того, що завершення заплановане на 2025 рік.
Про це інформує Techcrunch.
Лідер дослідницької групи, професор етики Уолтер Сінотт-Армстронг, і його колеги вивчають, як алгоритми можуть допомогти в етичному прийнятті рішень. Серед уже створених ними інновацій — система, яка визначає пріоритетність розподілу донорських органів. Цей підхід, названий “моральним GPS“, покликаний орієнтувати людей у складних моральних дилемах.
Технологічні межі і виклики етики ШІ
Попри прогрес у дослідженнях, створення “морального ШІ” стикається із серйозними обмеженнями. Сучасні моделі машинного навчання не розуміють мораль у традиційному сенсі. Вони лише аналізують статистичні закономірності в даних, які можуть відображати вузькі культурні й соціальні погляди.
Відомий приклад — система Ask Delphi, створена Allen Institute for AI. Її розробники намагалися створити інструмент для вирішення моральних питань. У базових ситуаціях алгоритм працював коректно, однак зміна формулювання запитів призводила до непередбачуваних, а іноді й абсолютно неправильних рішень.
Це демонструє, наскільки складно адаптувати етику для машин, оскільки алгоритми, побудовані на статистичних закономірностях, не здатні враховувати глибину людських емоцій, культурних відмінностей і контекстів, які відіграють ключову роль у моральних рішеннях.
Філософські питання без відповіді
Головною проблемою є суб’єктивність моральних принципів. Від античних часів до сьогодення філософи сперечаються про найкращий підхід до етики, однак єдиної системи досі не існує. Наприклад, одні теорії акцентують увагу на універсальних правилах, інші — на результатах дій.
Ця суб’єктивність ускладнює створення алгоритмів, які могли б об’єктивно оцінювати моральні ситуації. Наприклад, ChatGPT схиляється до утилітарного підходу, тоді як інші системи можуть віддавати перевагу правилам кантіанства. У такій ситуації постає питання: як визначити, який із підходів є “правильним”?
Чому це важливо
Мета OpenAI — зробити ШІ інструментом, який допомагає людям у складних моральних конфліктах, особливо в медицині, праві та бізнесі. Однак для цього потрібно врахувати багато культурних, соціальних та етичних нюансів, що робить завдання надзвичайно складним.
Чи можливо створити ШІ, який би розумів мораль так само, як це роблять люди? Сьогодні це питання залишається відкритим, але дослідження, підтримувані OpenAI, можуть стати важливим кроком до того, щоб такі системи стали реальністю.
