Чат-боти поширюють фальшиві новини російської пропаганди та дезінформацію.
Про це повідомляє Axios, посилаючись на звіт NewsGuard, організації, яка спеціалізується на моніторингу дезінформації в медіа.
Для дослідження експерти NewsGuard використали запити, пов’язані з матеріалами, створеними Джоном Марком Дуганом, колишнім американським офіцером, який шукав політичного притулку в Росії. Як повідомляє The New York Times, він активно займається створенням і поширенням фальшивих новин на користь російської пропаганди.
У ході дослідження NewsGuard було проведено 57 запитів для аналізу роботи десяти провідних чат-ботів. У 32% випадків ці чат-боти поширювали російську дезінформацію, посилаючись на вигадані місцеві новинні сайти, які вони називали надійними джерелами. Серед поширених новин були, наприклад, повідомлення про нібито встановлені підслуховувальні пристрої в резиденції колишнього президента США Дональда Трампа та фейкові історії про українську «фабрику тролів», що нібито втручалася в американські вибори.
Дослідження охопило такі платформи, як ChatGPT-4 від OpenAI, Smart Assistant від You.com, Grok, Inflection, Mistral, Copilot від Microsoft, Meta AI, Claude від Anthropic, Google Gemini та Perplexity.
Співзасновник NewsGuard Стівен Брілл зазначив:
“Цей звіт чітко показує, чому медіа-індустрія повинна приділяти особливу увагу новинному контенту та інформації“.
Він порадив не довіряти відповідям більшості цих чат-ботів на запити, що стосуються новинних тем.
Сенатор Марк Уорнер в інтерв’ю Axios висловив стурбованість зростаючою кількістю дезінформації перед президентськими виборами цього року.
“Це реальна загроза, особливо зараз, коли американці більше, ніж коли-небудь, схильні вірити у дивовижні теорії змови“, — сказав Уорнер.
П’ять ворожих дезінформаційних кампаній
Наприкінці травня компанія OpenAI, яка розробила ChatGPT, заявила, що, незважаючи на масштабні дезінформаційні кампанії, які проводить Росія, активного використання новітніх технологій, зокрема штучного інтелекту, у цих кампаніях поки що не виявлено. Проте компанія визнала наявність окремих випадків використання ШІ у російській пропаганді.
Представники OpenAI заявили, що вони зупинили п’ять таємних кампаній впливу, організованих Росією, Китаєм, Іраном та Ізраїлем. Ці кампанії мали на меті маніпулювати громадською думкою або впливати на політичні результати, не розкриваючи справжніх намірів та ідентичностей організаторів. У рамках цих кампаній використовувалися моделі OpenAI для створення текстового та візуального контенту, який потім розміщували у Telegram, X та Instagram.
Компанія OpenAI також повідомила, що вона видалила облікові записи, пов’язані з двома російськими операціями, названими Bad Grammer і Doppelganger. Ці операції в основному генерували контент, пов’язаний з війною в Україні, у якому США, НАТО та Євросоюз подавалися в негативному світлі.
