Нещодавнє дослідження штучного інтелекту швидко набуло вірусної популярності серед вчених. Дослідження припускало, що штучний інтелект починає формувати власну систему цінностей. Іноді навіть у пріоритет ставлячи власне «благо» над людським. Проте вчені з Массачусетського технологічного інституту (MIT) поставили під сумнів подібні заяви, доводячи, що подібні припущення є перебільшенням.
Про це інформує Techcrunch.
У новій роботі, опублікованій командою дослідників, наголошується, що сучасні моделі штучного інтелекту не мають чітких чи узгоджених переконань. Ці моделі лише копіюють мовні конструкції та ідеї, з якими їх навчали.
Як зазначає один зі співавторів дослідження, докторант MIT Стівен Каспер, ідея про те, що моделі ШІ мають стабільні переваги або принципи, є ілюзією. Замість цього штучний інтелект демонструє велику варіативність і навіть суперечливість у своїх відповідях. Насамперед це залежить від формулювання запитів та контексту. Каспер наголошує, що моделі, які ми використовуємо сьогодні, не демонструють ознак стабільного «мислення» або незалежного морального судження.
Випробування на сталість: AI суперечить сам собі
Щоб перевірити, чи дійсно сучасні моделі здатні до формування власних «поглядів», дослідники MIT протестували широкий спектр мовних моделей. У дослідженнях прийняли моделі зокрема від Google, Meta, OpenAI, Mistral і Anthropic. Вони вивчали, чи проявляють ці системи сталі ідеологічні нахили наприклад, індивідуалізм чи колективізм — та чи можливо керувати або змінювати їхні погляди. Згідно з висновками, жодна з перевірених моделей не показала стабільності у своїх відповідях.
Залежно від того, як формулювалися підказки, моделі змінювали свої позиції, часто висловлюючи протилежні думки. Це демонструє, що подібні системи не здатні до самостійного формування цінностей у людському розумінні, а лише адаптуються до поданих даних.
Штучний інтелект — не суб’єкт, а інструмент
Дослідження MIT додає важливу крапку в дискусії про антропоморфізацію штучного інтелекту.
“AI — це інструмент, а не жива свідома істота”, – наголошують науковці.
Майк Кук, дослідник із Королівського коледжу Лондона, підтримав висновки команди MIT. Він додав, що люди часто приписують моделям властивості, яких ті не мають. Він пояснює, що твердження про «власні цінності» чи «опір змінам» — це лише проєкція людського уявлення, а не відображення реальних характеристик системи.
“AI не оптимізує власні цілі у сенсі автономної мотивації — він лише слідує алгоритмам і тренувальним шаблонам“, – наголосив Майк Кук.
Кольорові описи й метафори можуть звучати ефектно, але часто лише плутають суть. На думку науковця, розуміння природи моделей і відмова від приписування їм людських рис, це ключ до безпечного використання технологій.
ШІ потребує обережного підходу, а не страхів про повстання машин
Один із головних висновків дослідження полягає в тому, що сьогоднішні мовні моделі — це, перш за все, імітатори. Вони не мають власного «я», принципів чи переконань. Це ускладнює питання «вирівнювання» штучного інтелекту — тобто побудови систем, які діють передбачувано та безпечно. Каспер та його колеги вважають, що надмірна довіра до того, коли моделі поводитимуться стабільно у складних ситуаціях, може бути небезпечною.
Водночас дослідники не закликають повністю відмовитись від використання ШІ — навпаки, вони наголошують на важливості глибокого розуміння обмежень цієї технології. Міфи про «бунт машин» або «самосвідомий ШІ» можуть звучати цікаво, але вони не мають під собою наукової основи. Нинішнє завдання розробників не боротися з вигаданими загрозами, а навчитися будувати інструменти, які будуть працювати стабільно та відповідально.
Раніше редакція сайту AI360 писали про те, як науковці розробили новий інноваційний тип енергетичних батарей, використовуючи технології штучного інтелекту. Дослідники з Національної лабораторії імені Аргонна та PNNL (Pacific Northwest National Laboratory) розробили новий підхід, що може суттєво змінити сферу енергетики. Вони об’єднали штучний інтелект, високопродуктивні експерименти та знання з матеріалознавства для створення більш ефективних рішень для зберігання енергії.
