Генеративний штучний інтелект викликає занепокоєння в багатьох сферах, включаючи мир і безпеку, порушення прав людини, демократичні процеси та кліматичні дії.
Мелісса Флемінг, заступник Генерального секретаря ООН з глобальних комунікацій, висловила занепокоєння з приводу генеративного штучного інтелекту, оскільки він ускладнює розрізнення між реальним і створеним штучним інтелектом контентом, перешкоджаючи роботі журналістів, перевіряючих фактів, правоохоронних органів і звичайних людей.
Вплив дезінформації за допомогою ШІ на мир і безпеку вже очевидний. Недавнє опитування показало, що понад 70% миротворців ООН повідомили про серйозні збої в їхній роботі через неправдиву та дезінформацію, що ставить під загрозу безпеку як персоналу, так і цивільних осіб, залучених до миротворчих операцій. Для боротьби з цим миротворчі місії ООН в Африці застосували інноваційні методи, включаючи використання смартфонів, додатків для редагування та платформ соціальних мереж, щоб створити «цифрову армію», яка протидіє кампаніям з омани та дезінформації.
Генеративний штучний інтелект також використовується для розповсюдження шкідливого контенту, націленого на жінок і дівчат, як-от матеріали сексуального насильства над дітьми та примусова порнографія. ООН стурбована тим, що генеративний штучний інтелект може посилити вміст, який пропагує антисемітизм, ісламофобію, расизм і ксенофобію, наголошуючи на необхідності вжити заходів для запобігання поширенню мови ненависті та шкідливих матеріалів на цифрових платформах.
Ще одна проблема, яка викликає занепокоєння, — використання ШІ для маніпулювання демократичними процесами. Інструменти штучного інтелекту можуть впливати на громадську думку та впливати на виборців, становлячи серйозну загрозу демократичним системам у всьому світі. Крім того, штучний інтелект може підірвати науку та державні установи, поширюючи неправдиву інформацію.
Генеративний штучний інтелект створює проблеми з ідентифікацією реального контенту та створює ризики в різних сферах, зокрема мир і безпека, права людини, демократичні процеси та боротьба зі зміною клімату. Потрібні проактивні заходи для боротьби з оманою та дезінформацією, захисту вразливих груп населення, підтримки демократичних цінностей і забезпечення цілісності глобальних зусиль щодо сталого розвитку.
