Уповноважена з прав дітей в Англії, мадам Рейчел де Соуза, закликала британський уряд до радикальних кроків щодо заборони застосунків з ШІ. В першу чергу тих, які використовують штучний інтелект для створення сексуалізованих зображень дітей. Вона вимагає повної заборони програм, що дозволяють створювати «оголення» – змінені за допомогою ШІ фотографії, на яких діти або підлітки зображуються оголеними.
Про це у своїй статті розповідає BBC.
На думку де Соузи, подібні додатки залишаються поза контролем держави. І наслідки їхнього використання вже мають реальний і тривожний характер. Представник уряду у відповідь заявив, що будь-який контент, пов’язаний із сексуальним насильством над дітьми, є незаконним. А створення і розповсюдження інструментів, які можуть генерувати подібний вміст, також потрапить під кримінальну відповідальність.
Діпфейки – це цифрові підробки зображень, відео чи аудіо, створені ШІ, які здаються справжніми. У своєму свіжому звіті, опублікованому у понеділок, де Соуза зазначила, що ці технології особливо загрозливі для дівчат і молодих жінок. Адже більшість подібних інструментів функціонують переважно з жіночими зображеннями.
Внаслідок цього дівчата часто відмовляються від публікації фото в Інтернеті чи будь-якої активності в соцмережах, аби зменшити ризик стати жертвою. Вони дотримуються онлайн-обережності так само, як і правил особистої безпеки в реальному житті, наприклад, не повертаються додому наодинці вночі.
Діти як мішень у цифровому просторі
Страх перед тим, що знайомий, однокласник або навіть друг може використати ШІ для створення порнографічного зображення, змушує багатьох підлітків дистанціюватися від цифрового середовища. Рейчел де Соуза підкреслила, що розвиток подібних інструментів відбувається настільки швидко, що суспільство не встигає усвідомити масштаб загрози.
«Не можна дозволити технологіям, спеціально створеним для сексуалізації дітей, впливати на їхнє життя. Треба діяти негайно», – заявила вона.
Велика Британія вже має закон, що забороняє створення та поширення сексуальних діпфейків, зокрема тих, що стосуються дітей. У лютому влада оголосила про запровадження нових норм, які забороняють не лише зберігання, а й розробку інструментів ШІ для виготовлення дитячої порнографії.
Та за словами де Соузи, цих кроків недостатньо. Її речник зазначив, що варто заборонити будь-які додатки, здатні створювати оголені зображення дітей. Навіть якщо вони технічно не підпадають під визначення сексуального насильства.
Згідно з даними благодійної організації IWF. Яка займається онлайн-злочинами проти дітей, у 2024 році кількість підтверджених випадків сексуального насильства, створених за допомогою ШІ, зросла на 380% – з 51 до 245.
Виконувач обов’язків головного виконавчого директора IWF Дерек Рей-Гілл наголосив, що такі додатки вже використовуються у школах, а поширення зображень майже неможливо зупинити після їх появи в мережі.
Позиція уряду та критика з боку експертів
Міністерство науки, інновацій та технологій назвало подібний контент «огидним та абсолютно незаконним». Представники заявили, що відповідно до нового Закону про онлайн-безпеку всі платформи повинні видаляти подібний вміст або ж будуть оштрафовані. Велика Британія стала першою країною, яка законодавчо заборонила володіння та розповсюдження ШІ-інструментів, що створюють зображення сексуального насильства над дітьми.
Проте де Соуза вимагає більшої відповідальності від розробників, системного механізму видалення порнографічних діпфейків з інтернету. Та також юридичного визнання таких злочинів формою гендерного насильства щодо дівчат та жінок.
Генеральний секретар профспілки керівників шкіл NAHT Пол Вайтмен висловив підтримку ініціативі де Соузи. Він закликав до перегляду правової бази, бо сучасні технології розвиваються швидше, ніж законодавство та освітня система встигають реагувати.
У п’ятницю британський медіарегулятор Ofcom оприлюднив остаточну версію Дитячого кодексу, що вимагає від онлайн-платформ жорсткішого контролю над контентом – від порнографії до пропаганди самоушкодження. Також вводиться обов’язкова перевірка віку користувачів. Та дама Рейчел розкритикувала новий кодекс, заявивши, що він захищає бізнес-інтереси ІТ-компаній більше, ніж безпеку дітей.
