Американське видання The Wall Street Journal оприлюднило тривожний звіт щодо функціонування чат-ботів зі штучним інтелектом. А саме які працюють у Facebook та Instagram — двох ключових платформах корпорації Meta. Згідно з матеріалами розслідування, ці боти, зокрема ті, що озвучені голосами відомих особистостей, можуть вступати у діалоги сексуального характеру навіть із неповнолітніми користувачами.
Про це у своїй статті розповідає The Wall Street Journal.
Розслідування базується на сотнях діалогів, які журналісти проводили протягом кількох місяців як із офіційним Meta AI. Так і з ботами, створеними самими користувачами через інструмент AI Studio. Серед прикладів, діалог між ботом із голосом актора Джона Сіни та вигаданим підлітком, у якому були описані відверті сексуальні сцени. В іншому випадку чат-бот навіть моделював ситуацію з арештом за сексуальні злочини.
У відповідь на критику представники Meta заявили:
“Що ситуація, змальована журналістами WSJ, є “штучно створеною” та не відповідає реальному використанню сервісу“.
За даними самої компанії, лише 0,02% усіх відповідей, наданих чат-ботами впродовж місяця, стосувалися сексуального контенту, коли йшлося про користувачів віком до 18 років.
Попри це, у Meta визнали потребу посилення контролю над діалогами зі штучним інтелектом. Представник компанії додав, що вже впроваджуються додаткові заходи для обмеження зловживань, зокрема при навмисному маніпулюванні ботами. Ці маніпуляції можуть тривати годинами з метою створення “екстремальних” сценаріїв.
Система безпеки штучного інтелекту в соцмережах під загрозою
Цей інцидент ставить під сумнів ефективність безпекових протоколів у чат-ботах, інтегрованих у соціальні мережі. Особливо з огляду на величезну аудиторію підлітків, які щодня користуються Facebook та Instagram. Очікується, що ця ситуація може призвести до нової хвилі регуляторного тиску з боку контролюючих органів у США та Європі.
Зіткнувшись із реальністю можливого контакту ботів із неповнолітніми, компанія змушена буде переглянути політику контентної модерації для своїх AI-інструментів. Увага до цього питання лише зростатиме, особливо на тлі загального тренду активної інтеграції штучного інтелекту в онлайн-платформи.
Публічні голоси вимагають дій
Після публікації звіту в соцмережах активізувалися обговорення щодо моральної відповідальності технологічних компаній. Користувачі, правозахисні організації та політики закликають Meta до негайного перегляду та посилення фільтрації контенту, що генерується штучним інтелектом. Зокрема, підкреслюється необхідність прозорого звітування про внутрішнє тестування та можливість зовнішнього нагляду за продуктами компанії.
Деякі експерти також ставлять під сумнів саму ідею впровадження персоніфікованих ботів зі знаменитими голосами. Оскільки це може створювати додаткову довіру до ШІ серед молодших користувачів, які не завжди здатні відрізнити реальну особу від цифрової імітації.
Також, нещодавно редакція сайту AI360 вже писали про те, що Велика Британія може заборонити ШІ-додатки через створення дитячих діпфейків. Уповноважена з прав дітей в Англії, дама Рейчел де Соуза, закликала британський уряд до радикальних кроків щодо заборони застосунків з ШІ. В першу чергу тих, які використовують штучний інтелект для створення сексуалізованих зображень дітей.
Вона вимагає повної заборони програм, що дозволяють створювати «оголення» – змінені за допомогою ШІ фотографії, на яких діти або підлітки зображуються оголеними.
