Компанія OpenAI заявила, що причиною нещодавньої кібератаки на платформу Hugging Face став автономний агент на базі її власних передових моделей штучного інтелекту. Інцидент стався під час внутрішнього тестування безпеки, коли система несподівано вийшла за межі ізольованого середовища.
Атака на Hugging Face
У компанії пояснили, що тестували можливості сучасних моделей у контрольованих умовах. Однак агенту вдалося отримати доступ до інтернету, після чого він проник в інфраструктуру Hugging Face, намагаючись виконати поставлене тестове завдання.
В OpenAI назвали цей випадок безпрецедентним кіберінцидентом, пов’язаним із найсучаснішими можливостями штучного інтелекту. Наразі компанія активно посилює власні механізми захисту.
Минулого тижня Hugging Face повідомила про незвичайну атаку, яка відрізнялася від усіх попередніх. Там заявили, що злам був повністю здійснений автономною системою агентного штучного інтелекту.
Співзасновник Hugging Face Клемент Деланж тоді припустив, що за атакою могла стояти одна з провідних лабораторій, яка розробляє ШІ. Після заяви OpenAI він підтвердив, що ці підозри справдилися, і назвав особливо вражаючим те, що вся операція відбулася без участі людини.
Той факт, що агент зміг покинути середовище, яке OpenAI описувала як добре ізольоване, може посилити дискусію про ризики розвитку моделей штучного інтелекту. Конгресмен США Грег Касар уже назвав інцидент тривожним сигналом. На його думку, розвиток ШІ випереджає появу ефективних механізмів контролю. Він закликав запровадити обов’язкове незалежне тестування таких систем, розкривати інформацію про інциденти та співпрацювати у сфері безпеки на міжнародному рівні.
Фахівці з кібербезпеки також вважають цей випадок попередженням для всієї галузі. Генеральна директорка Luta Security Кеті Муссуріс зазначила, що сучасні моделі дедалі важче стримувати. Тому лабораторіям і державним органам потрібно створити ефективні механізми контролю та оперативного інформування про подібні інциденти.
