У Кремнієвій долині обговорюють, чи можна дозволити зброї зі штучним інтелектом приймати рішення про вбивство.
Про це пише techcrunch.
Загроза автономної зброї: дебати у Кремнієвій долині
У кінці вересня Брендон Ценг, співзасновник компанії Shield AI, заявив, що в США ніколи не дозволять створювати повністю автономну зброю, де алгоритми штучного інтелекту прийматимуть остаточні рішення про вбивства. За його словами, це неприпустимо для Конгресу і громадськості. Однак його заяви можуть бути передчасними.
Через п’ять днів після його виступу Палмер Лакі, співзасновник Anduril, висловив інший погляд на автономну зброю. Він зауважив, що хоча багато хто боїться надавати роботам повну свободу прийняття рішень, питання слід розглядати в ширшому контексті. Лакі порівняв це зі старими мінами, які не можуть відрізнити цивільний транспорт від військових цілей. За його словами, важливо розглянути ситуацію в глобальному контексті, де у ворогів можуть бути більш небезпечні технології.
Етика і технічні можливості: розбіжності у поглядах
Незважаючи на різні позиції, як Лакі, так і інші фахівці, наприклад, співзасновник Anduril Трей Стівенс, підкреслюють важливість контролю людини у прийнятті ключових рішень. Стівенс зазначив, що технічно необхідно зберігати відповідальність за будь-які дії, які можуть призвести до летальних наслідків, і що це має залишатися в руках людини.
Це питання залишається складним і для уряду США. Американські збройні сили не закуповують повністю автономну зброю, але й не забороняють її виробництво або продаж іноземним країнам. Американські рекомендації щодо безпеки штучного інтелекту в армії, які були ухвалені союзниками США, є лише добровільними, і офіційні особи продовжують заявляти, що наразі не на часі вводити обов’язкові обмеження.
Автономія в зброї: світові тенденції та український контекст
Незважаючи на глобальні дебати, багато компаній, зокрема Anduril та Palantir, продовжують лобіювати впровадження більш автономних систем у військових технологіях. Джо Лонсдейл, співзасновник Palantir, нещодавно висловив думку, що США повинні прагнути до гнучкішого підходу щодо застосування штучного інтелекту в зброї. Він зазначив, що важливо оцінювати ситуацію в реальному часі, зважаючи на загрози від ворогів, таких як Китай.
На фото ми бачимо, як США тестують платформу ППО на базі ШІ, здатну відслідковувати та збивати до тисячі дронів.
Паралельно в Україні активісти закликають до збільшення автоматизації зброї, що може дати стратегічні переваги у війні з Росією. Міністр цифрової трансформації України Михайло Федоров заявив, що максимальна автоматизація технологій є критично важливою для перемоги.
Загроза з боку конкурентів: Китай і Росія
Багато хто в Кремнієвій долині і в уряді США висловлює занепокоєння, що якщо Китай чи Росія почнуть використовувати повністю автономну зброю, США можуть бути змушені приєднатися. На засіданнях ООН щодо штучного інтелекту Росія вже висловлювала інші пріоритети, відмінні від тих, які обговорюють багато західних держав.
У цьому контексті важливою залишається роль технологічних компаній. Лонсдейл і Лакі працюють над тим, щоб переконати Конгрес у необхідності впровадження нових технологій, витрачаючи мільйони на лобіювання. Станом на сьогодні Anduril і Palantir витратили понад 4 мільйони доларів для забезпечення підтримки своїх ініціатив у цій галузі.
