Один із найвідоміших науковців у сфері штучного інтелекту, лауреат премії Тюрінга Йошуа Бенхіо, ініціював створення незалежної некомерційної організації. Ця організація почне займатися безпекою ШІ. Нова лабораторія, яка отримала назву LawZero, має на меті розробку технологій штучного інтелекту з фокусом на захист людства від потенційних загроз.
Про старт ініціативи, у своїй статті, повідомила Financial Times із посиланням на самого Бенхіо.
Назва LawZero є алюзією на концепцію Нульового закону робототехніки, запропонованого Айзеком Азімовим. Цей закон у фантастичному всесвіті Азімова мав найвищий пріоритет і вимагав, щоб роботи не шкодили людству або дозволяли йому зазнавати шкоди. Бенхіо, який став одним із ключових фігур сучасного етапу розвитку глибокого навчання, переконаний:
“Подальший поступ ШІ повинен іти виключно паралельно з посиленням заходів безпеки”.
Потужна підтримка ідеї безпечного ШІ
Для запуску лабораторії вдалося залучити щедре фінансування — 30 мільйонів доларів у вигляді благодійних внесків. Серед жертводавців такі відомі постаті та організації, як співзасновник Skype Яаан Таллінн, екс-CEO Google Ерік Шмідт, благодійний фонд Open Philanthropy, а також Інститут майбутнього життя (Future of Life Institute).
Бенхіо зазначив, що його турбує, наскільки стрімко великі технологічні корпорації прагнуть до створення дедалі потужніших систем ШІ, нехтуючи етичними ризиками. Зокрема, він скептично ставиться до OpenAI і Google, підкреслюючи, що ці компанії «не схильні ставити безпеку вище за амбіції».
Бенхіо є відкритим прихильником запровадження регуляторних обмежень для індустрії ШІ. Зокрема, він публічно підтримав ініціативу SB 1047. Законопроєкт, запропонований у Каліфорнії, який викликав гарячу дискусію серед розробників та правозахисників. Цей документ передбачає запровадження норм, які мають зменшити ризики, пов’язані з впровадженням високорівневих моделей ШІ.
Науковець вважає, що саме зараз критичний момент, коли необхідно створити основи для безпечного розвитку штучного інтелекту. Якщо не вжити заходів заздалегідь, майбутні системи можуть вийти з-під контролю і не лише в переносному сенсі.
Нова хвиля етичної відповідальності в ШІ
Ініціатива Бенхіо отримала позитивні відгуки від прихильників обмеження ШІ-експериментів, які вважають її важливим кроком у напрямку формування глобальної культури відповідальності. Хоча створення таких лабораторій не зупинить гонку технологічних гігантів, вона дає суспільству інструменти для перевірки, стримування та зворотного зв’язку.
LawZero планує залучати експертів з етики, права, комп’ютерної безпеки й політики, щоб розробити чіткі рамки для безпечної еволюції ШІ. Завдяки такій міждисциплінарності ініціатива має потенціал впливати не лише на технології, але й на суспільні стандарти їх використання.
Нещодавно редакція сайту AI360 у своїй статті розповідала про те, що “Королева інтернету” Мері Мікер назвала темпи впровадження ШІ «безпрецедентними». Штучний інтелект розвивається так стрімко, що жодна попередня технологічна революція ні мобільна, ні соціальна, ні навіть хмарні обчислення не можуть з ним зрівнятися. Такий висновок зробила венчурна інвесторка Мері Мікер, яка повернулася у публічний простір із масштабним аналітичним звітом «Тенденції — Штучний інтелект».
