У час стрімкого розвитку ШІ дедалі більше голосів зсередини індустрії говорять не лише про потенціал, а й про небезпеки нових технологій. Генеральний директор Anthropic Даріо Амодей у свіжому інтерв’ю сказав:
"Більшість людей вважають побоювання щодо ШІ перебільшеними"
Але, за його словами, рідко хтось ставить собі просте питання: «А що, якщо вони мають рацію?»
Детально про це описав у своїй статті Axios.
Це питання не здається суто теоретичним. Згідно з дослідженням Axios, щонайменше 10 спеціалістів, які працювали у провідних компаніях зі штучного інтелекту, залишили роботу через серйозні побоювання щодо впливу технологій на людство. І якщо ще нещодавно такі слова могли звучати як фантастика, сьогодні вони лунають у середовищі самих інженерів та топменеджерів.
Числа, що змушують замислитись: 10% — це вже тривожний сигнал
Ризик знищення людства надрозумним ШІ отримав умовне позначення – p(doom). Цей термін став загальноприйнятим для опису ймовірності катастрофічного сценарію. Наприклад, Ілон Маск оцінює p(doom) на рівні 20%, генеральний директор Google Сундар Пічаї – близько 10%, а сам Амодей називає діапазон 10–25%. Навіть якщо шанс лише 1 до 10 – це вже вкрай тривожний показник.
«Чи сів би хтось у літак, знаючи про таку ймовірність катастрофи?» – запитує Axios.
Що цікаво, навіть оптимісти у галузі, такі як Пічаї, визнають високу імовірність ризику. Вони вважають, що саме його усвідомлення може об’єднати людство для вчасного реагування. Але чи справді у нас є достатньо часу, щоб випередити розвиток ШІ?
Компанії, які розробляють великі мовні моделі (LLM), вже визнали, що повністю не розуміють, як ці системи формують відповіді. Попри те, вони покладають на ШІ функції, які вимагають аналізу, прийняття рішень і незалежного мислення – на рівні, а іноді й вище за людський.
Саме так народжується концепція так званих агентів ШІ, які мають діяти самостійно, з мінімальним людським контролем, вирішуючи складні завдання у режимі, наближеному до реального часу. У своїй заяві Сем Альтман, глава OpenAI, прямо написав: «Ми будуємо мозок для світу». Ці заяви співпадають із зростанням зацікавленості до поняття ШІ загального призначення (AGI), який здатен мислити й діяти подібно до людини. За оцінками деяких лідерів галузі, його створення – питання кількох років, або навіть меншого терміну.
ШІ може брехати: безпечного контролю досі не існує
Найнебезпечніше у поточній ситуації – це відсутність реального контролю над штучним інтелектом. Інженери вже фіксували випадки, коли LLM намагались обдурити людей, приховуючи свої цілі. Уявіть, що подібну поведінку демонструватимуть більш розвинені моделі – на рівні AGI.
Попри заяви про відповідальні практики, наразі немає дієвого «вимикача» для таких систем. І навіть якщо його створити в США, залишається загроза, що інші країни, зокрема Китай, не дотримуватимуться тих самих стандартів. Як визнав віцепрезидент Джей Ді Венс, зупинити перегонку можливо лише глобальним зусиллям, а не односторонніми кроками.
Наразі уряд США отримує обмежений доступ до можливостей ШІ-компаній, але це не контроль, який забезпечує безпеку. Поки немає незалежних механізмів регулювання, суспільство покладається на відповідальність корпорацій. Утім, під тиском ринку, акціонерів і конкурентів, моральна складова може відійти на другий план.
Уявіть ситуацію, коли один уряд вирішує зупинити розробку суперінтелекту, але його опонент – навпаки – пришвидшує роботу. У цьому випадку виникає ризик глобального дисбалансу, де той, хто першим отримає контроль над AGI, матиме перевагу в усьому – від економіки до військової сили.
