З 2 лютого в Європейському Союзі набирають чинності перші положення Закону про штучний інтелект. Цей закон дозволяє регуляторам забороняти системи ШІ, які становлять «неприйнятний ризик» або можуть завдати шкоди суспільству. Цей закон став першим у світі комплексним регламентом, спрямованим на контроль за використанням штучного інтелекту.
Про це повідомляє команда сайту Techcrunch, у своєму інтерв’ю з керівником відділу технологій британської юридичної фірми Slaughter and May – Робом Сумрой.
Хоча сам акт офіційно набув чинності ще 1 серпня 2024 року, саме лютий стає важливою віхою у впровадженні нових норм. Закон охоплює широкий спектр використання ШІ — від споживчих додатків до технологій у фізичному середовищі. Його головна мета — захист громадян ЄС від небезпечного та маніпулятивного використання алгоритмів.
Регламент передбачає чотири рівні ризику для систем ШІ:
- Мінімальний ризик – наприклад, фільтри спаму, які не підлягають регулюванню.
- Обмежений ризик – такі системи, як чат-боти для обслуговування клієнтів, підпадають під легкий контроль.
- Високий ризик – включає, наприклад, ШІ для медичних рекомендацій, який потребує суворого регулювання.
- Неприйнятний ризик – такі системи будуть повністю заборонені. Саме цей рівень є ключовим для виконання закону з 2 лютого.
До категорії «неприйнятних» входять:
- ШІ–системи для соціального оцінювання громадян, які аналізують поведінку та створюють профілі ризику.
- Алгоритми, що підсвідомо маніпулюють рішеннями людини або вводять її в оману.
- Системи, які експлуатують вразливості людей за віком, інвалідністю чи соціальним статусом.
- Технології прогнозування злочинів на основі зовнішнього вигляду.
- ШІ, що аналізує біометричні дані для визначення таких характеристик, як сексуальна орієнтація.
- Системи, які в реальному часі збирають біометричні дані у громадських місцях для правоохоронних органів.
- Алгоритми розпізнавання емоцій на робочому місці або в школах.
- ШІ, який формує бази даних розпізнавання облич через зображення з інтернету чи камер спостереження.
Покарання за порушення закону
Компанії, що використовуватимуть заборонені системи ШІ, стикнуться зі значними штрафами, незалежно від їхнього місцезнаходження. Санкції можуть сягати 35 мільйонів євро або 7% річного доходу компанії, залежно від того, яка сума більша.
Однак поки що штрафи не застосовуватимуться. За словами Роба Сумроя, керівника відділу технологій британської юридичної фірми Slaughter and May, основні механізми контролю набудуть чинності лише в серпні. До того часу будуть визначені компетентні органи, що відповідатимуть за нагляд і застосування санкцій.
Ще до офіційного набрання чинності регламенту понад 100 компаній, серед яких Amazon, Google та OpenAI, підписали добровільний Пакт ЄС про штучний інтелект. Вони зобов’язалися дотримуватися принципів нового закону та ідентифікувати системи ШІ, що можуть становити високий ризик. Втім, такі технологічні гіганти, як Meta, Apple і французький стартап Mistral, відмовилися підписувати цей документ. Попри це, вони також зобов’язані дотримуватися нових норм і уникати розробки заборонених ШІ-систем.
Юристи зазначають, що головною проблемою для компаній залишається відсутність чітких стандартів і кодексів поведінки, які б допомогли бізнесу швидко адаптуватися до нового регулювання.
Чи можливі винятки та що очікує далі розробників ШІ
Закон передбачає певні винятки для використання заборонених ШІ-систем у правоохоронних цілях. Наприклад, органи безпеки зможуть застосовувати технології розпізнавання облич для пошуку зниклих осіб або запобігання терористичним атакам, але тільки з дозволу відповідних державних органів. Також можливе використання ШІ для аналізу емоцій на робочих місцях чи в школах, якщо воно має медичне або безпекове обґрунтування, наприклад, у терапевтичних цілях.
Очікується, що Європейська комісія надасть додаткові роз’яснення щодо закону у 2025 році. Однак, як зазначає Сумрой, залишається відкритим питання про взаємодію цього регулювання з іншими європейськими законами, зокрема GDPR, NIS2 та DORA.
Попри нові обмеження, багато компаній ще не до кінця розуміють, як саме закон вплине на їхні бізнес-моделі. Очікується, що найближчими місяцями ЄС представить додаткові роз’яснення та рекомендації для розробників і користувачів ШІ.
Закон про штучний інтелект стане важливим тестом для всього технологічного сектору, який має навчитися балансувати між інноваціями та безпекою суспільства.
