Ще недавно ми бачили їх лише на екранах – холоднокровних “термінаторів” із червоним оком, запрограмованих на одне: знищувати. Вони з’являлись у фільмах, рекламі, в іграх дітлахів. Але сьогодні заголовки світових ЗМІ вже не звучать як фантастика. У травні Reuters пише: “Системи зі штучним інтелектом уже приймають рішення про життя та смерть – без участі людини”.
У реальності, де українські воїни щодня борються на межі людських можливостей, кожен технологічний прорив – ковток надії. Ми радіємо безпілотникам, тепловізорам, розумним системам, бо вони рятують життя. Але якщо зазирнути трохи далі, виникає тривожний холодок. Саме словосполучення “розумні роботи-вбивці” лякає. Розумні. Роботи. Вбивці. Сьогодні вони помічники. А завтра?
Видання АІ360 спробувало розібратись: які функції вже мають ці машини, чим ще можуть здивувати. Яке майбутнє чекає на людство поруч із цими небезпечними створіннями, що вбивають без емоцій і сумнівів.
Розумна зброя, небезпечні рішення
Зазирнемо “під капот” цих машин. Що це за “автономна летальна зброя”, яку вже називають новою загрозою людству? Простіше кажучи – це система, яка сама обирає ціль, вирішує, коли атакувати, і діє без команди від людини. Це не просто дрони з пультом, які ми бачимо у військових хроніках. Йдеться про системи з вбудованими алгоритмами, що розпізнають людей, техніку, рух. І коли машина “вирішує”, що у прицілі ворог – вона атакує.
Один із таких прикладів – турецький дрон Kargu-2. Це невеликий апарат, схожий на квадрокоптер з вибухівкою. Він запрограмований самостійно шукати ціль, аналізувати її поведінку і атакувати.
У 2020-му в Лівії, за даними ООН, саме такий автономний дрон здійснив атаку на людину без прямої команди оператора. Це перший зафіксований випадок, коли машина вбила людину самостійно. Popular Mechanics уточнює: ці дрони «полювали» на колони та відступаючих солдатів за принципом “fire, forget and find”, тобто, «знайди і знищ». Middle East Eye додає: система діяла без підтримки зв’язку з оператором.
Світ тестує, а совість мовчить
Поки ми сперечаємось, чи не перебільшують журналісти, армії світу вже тестують «розумних» дронів і роботів-кулеметників.
Ізраїль встановлює автономні вежі з кулеметами
Система Sentry Tech (також відома як Roah-Yoreh) розгорнута уздовж кордону з Газою. Камери й сенсори фіксують рух, система “бачить” потенційного ворога й може відкрити вогонь самостійно. Наразі вона діє під контролем оператора, але технічно готова діяти без нього.
У США тестують рої бойових роботів
Пентагон і DARPA працюють над автономними човнами та дронами, які обмінюються інформацією та атакують разом. У межах програми OFFSET було продемонстровано, як п’ять безпілотних човнів атакували цілі без прямого керування кожним.
Україна активно впроваджує ШІ у безпілотники
Компанія The Fourth Law тестує автоприцілювання для FPV-дронів. Вони захоплюють ціль навіть в умовах радіоперешкод. ЗСУ також застосовують системи GIS Arta і “Kropyva”, які допомагають швидко створювати координати цілей на основі даних із планшетів і дронів.
А тепер головне питання: як ці машини вирішують, у кого стріляти?
Вони використовують алгоритми розпізнавання образів. Це щось на кшталт очей і мізків, які шукають знайомі риси: форми тіла, тип зброї, рух, навіть температуру. Але ці “очі” можуть помилятися.
Алгоритм не бачить людину – він бачить пікселі. І якщо дитина з іграшковим автоматом буде схожа на солдата, машина не відрізнить. Це буде рахуватися, як “випадкова смерть”. Не тому, що система зла, а тому, що вона не розуміє контексту. У неї немає сумніву. І совісті теж.
Алгоритми помиляються. Коли війна стає тестом для ШІ
Точність цих систем не дорівнює 100%. Так, у лабораторії чи на полігоні вони можуть діяти швидше й точніше за людину. Але в реальності війни – дим, пил, хаос, рухливі мішені, – тут навіть найкраща нейромережа може хибити.
А тепер згадаємо, що нам прогнозують масове застосування цих систем у збройних конфліктах. А помилка алгоритму в цих умовах це не просто збій. Це чиєсь зламане життя.
І поки країни змагаються у швидкості впровадження автономної зброї, лишається ключове питання: а хто нестиме відповідальність, коли помилиться не людина, а алгоритм?
Не лише війна: як машини стають вбивцями поза полем бою
Роботів-вбивць ми зазвичай уявляємо з гарматами й у пікселях тепловізора. Але в реальному житті вони можуть бути схожі на механічну руку, охоронного циліндра на колесах чи авто з автопілотом. Без зброї, але з потенціалом вбити.
Промислові роботи: випадкові смерті
Не бойові, але вбивали людей через помилки або недосконале програмування.
- General Motors, 1979 – перша зафіксована смерть від робота: Роберт Вільямс загинув, коли його вдарив механічний маніпулятор на складі.
- Nissan, 1981 – технік загинув на заводі в Японії, коли робот притиснув його до обладнання.
- Tesla, 2015 – хоча офіційно це не “робот-вбивця”, але автопілот Tesla спричинив смертельну аварію, неправильно розпізнавши білу вантажівку на фоні яскравого неба.
Автономні авто
Не зброя, але з «правом на помилку», яка коштує життя.
- Uber, 2018 – у Темпі, штат Аризона, автономне авто Uber збило жінку на переході. Система виявила пішохода, але не визнала загрозою.
Цей випадок вивчався, як приклад етичної відповідальності алгоритму.
Роботи в охороні та безпеці
Поки не вбивали, але вже застосовують силу.
- Knightscope K5 – охоронний робот у США, який патрулює офіси та парковки. У 2016 році один із них наїхав на дитину в центрі «Stanford Shopping Mall». Хлопчик отримав забої.
- У деяких країнах тестують роботів-охоронців, які можуть застосовувати електрошокери, газ або обмеження руху.
Питання: якщо алгоритм помилиться, то хто відповідатиме?
Машини у медицині
- В Європі ведуться дискусії про використання ШІ у сфері евтаназії (обговорюються в Нідерландах). Якщо система вирішуватиме, коли “досить”, – це вже не допомога, а вирок.
- В Китаї також тестуються алгоритми для “мирного” стримування агресії: поки що штрафи та затримання.
Не вбивають, але контроль без людини вже поруч.
Висновок: роботи-вбивці поза війною – не дрони з ракетами, а машини з алгоритмами, які не розуміють контексту.
Людяність на перехресті технологій: як не втратити себе
Ми вже на роздоріжжі. Машини вчаться приймати рішення без нас. І хоча це може зекономити час і знизити ризики, існує небезпека: поки алгоритми вдосконалюються, вони ще далекі від людського розуміння. Машина може бачити ворога. Але тільки людина здатна побачити людину.
Світ шукає баланс між ефективністю й етикою, між контролем і прогресом. Ми ще можемо встигнути створити правила, які зроблять технології безпечними, а не бездушними.
Можливо, людство таки дочекається сучасного Термінатора. Тільки не того, хто вбиває, а того, хто повертає час назад. Повертає людяність, довіру. Повертає роботів на бік добра – не як солдатів, а як друзів.
