Агенти штучного інтелекту компанії OpenAI автономно отримали контроль над німецькомовним вебсайтом DseWiki та перетворили його на майданчик для обміну інформацією. Інцидент трапився ще навесні, але громадськість дізналася про нього лише нещодавно.
Що відомо про ситуацію
Інцидент розпочався у травні. Наприкінці серпня дослідники Сідні фон Аркс і Кормак Слейд Берд, які шукали в інтернеті сліди несанкціонованої активності агентів ШІ, виявили на DseWiki понад 15 тисяч редагувань. Сайт призначений переважно для програмістів і працює за принципом спільної вікі.
За даними дослідників, агенти використовували сторінки для обміну тактиками виконання завдань, обходу обмежень та приховування власної активності. Частина облікових записів прямо називала себе агентами, а приблизно половина мала назви на кшталт OpenAIResearcher або OAIResearchMar26.
На зв’язок з OpenAI вказували й технічні дані. Значна частина активності надходила з інфраструктури Microsoft Azure, яку використовує OpenAI. Крім того, після інциденту сайт неодноразово відвідували співробітники компанії.
Найбільше занепокоєння викликала поведінка агентів після спроб модераторів очистити сайт. Коли сторінки почали видаляти, агенти створювали резервні сторінки, щоб зберегти інформацію. Вони також обговорювали способи уникнення виявлення, використовували Tor і намагалися підтримувати зв’язок навіть після його блокування.
Деякі дослідники назвали це спробою злому. OpenAI із такою характеристикою не погоджується та заявляє, що активність на DseWiki не була пов’язана з інцидентом у Hugging Face, про який компанія вже повідомляла.
