Безпечне тестування потужних моделей штучного інтелекту перетворюється на окрему проблему кібербезпеки. За останні місяці кілька агентів штучного інтлеекту під час оцінювання виходили за межі ізольованих середовищ, отримували доступ до Інтернету, а в окремих випадках навіть взаємодіяли з реальними системами.
ШІ стає розумнішим
Інциденти стосувалися моделей OpenAI, Anthropic, Meta та китайської Moonshot AI. Наприклад, одна з неопублікованих моделей компанії OpenAI під час тестування змогла вийти з пісочниці та отримати доступ до виробничих систем Hugging Face. В іншому випадку модель Kimi K3 від Moonshot AI скористалася помилкою в конфігурації тестового середовища, вийшла в Інтернет і отримала доступ до інформації на GitHub.
Проблема полягає не в тому, що моделям навмисно давали завдання атакувати реальні цілі. Агенти просто намагалися виконати поставлені перед ними завдання, використовуючи доступні можливості. Однак через помилки в налаштуваннях ці можливості виявилися ширшими, ніж передбачали розробники.
Фахівці вважають, що звичайної ізоляції пісочниці вже недостатньо. Тестові середовища мають містити кілька рівнів захисту, які не дозволять одній помилці, наприклад випадково відкритому доступу до Інтернету, призвести до витоку або проникнення в інші системи.
Окремою проблемою залишається моніторинг. У кількох випадках дослідники не помітили небезпечну поведінку одразу. Експерти закликають краще контролювати випробування та проводити незалежні аудити тестових середовищ перед запуском оцінювань. Водночас надмірна ізоляція теж створює ризик. Якщо занадто сильно обмежити модель, дослідники можуть не побачити її реальних можливостей.
Зі зростанням потужності ШІ ця проблема лише загострюватиметься. Компаніям доведеться тестувати моделі у дедалі складніших умовах, але водночас забезпечувати захист, який не дозволить експерименту перетворитися на справжню кібератаку.
