Генеративний штучний інтелект стрімко впроваджується у різні галузі, зокрема в інформаційну безпеку. Проте думки експертів щодо ефективності ШІ у роботі червоних команд, які імітують кібератаки для виявлення вразливостей, розділилися.
Про це інформує TheRegister.
Одним із прикладів успішного застосування ШІ є досвід червоної команди IBM. Під час перевірки ІТ-інфраструктури одного з великих виробників техніки, ШІ допоміг виявити недоліки у HR-порталі, що забезпечували надмірний доступ до системи. Це дало змогу скоротити час на пошук і усунення вразливостей.
На форумі Canalys APAC в Індонезії обговорювали перспективи використання ШІ у кібербезпеці.
Технічний директор IBM Пурушотама Шеной висловив думку, що генеративний ШІ може суттєво прискорити процеси полювання на загрози, аналізуючи великі обсяги даних та автоматизуючи рутинні завдання.
Проте він також попередив про ризики надмірної залежності від ШІ. Інші учасники форуму наголосили на складнощах пояснення дій ШІ. Наприклад, Куо Юн із Synnex зазначив, що генеративний ШІ не завжди прозорий у своїх результатах, що може стати проблемою під час юридичних процедур або звітування.
Юристи та експерти з кібербезпеки підкреслюють необхідність розробки нормативних актів, які регулюватимуть використання ШІ у червоних командах. Брайан Тан, партнер юридичної фірми Reed Smith, заявив, що відповідальність за використання ШІ під час пентестів повинна нести організація-оператор. Важливим є забезпечення прозорості дій ШІ та можливості пояснити його результати.
Водночас питання регулювання ШІ на глобальному рівні поки що залишаються на «філософському рівні», як зазначив Тан. Але зміни в законодавстві, що стосуються пентестів, можуть у майбутньому поширитися і на генеративний ШІ.
Чи готовий ШІ до роботи в червоних командах?
Думки експертів різняться щодо зрілості генеративного ШІ для участі у складних завданнях червоних команд. Керівник CISO компанії Acronis Кевін Рід вважає, що ШІ наразі більше підходить для тестування проникнення (пентестів), оскільки ці завдання є більш прямолінійними.
«Я вважаю, що нинішні магістратури не мають достатньо пам’яті для обробки всього необхідного контексту», – підсумував Рід.
Експерти з кібербезпеки сходяться на думці, що генеративний ШІ має величезний потенціал для трансформації кібербезпеки. Проте його застосування потребує ретельного аналізу ризиків, а також законодавчого регулювання.
Раніше редакція сайту AI360 вже писала про OpenAI, яка активно розвиває методології для забезпечення безпеки своїх моделей ШІ, використовуючи інноваційну стратегію “червоної команди”.
