Найпопулярніші чат-боти зі штучним інтелектом у Європі свідомо поширюють хибну інформацію, пов’язану з виборами.
Про це повідомляє elblog.pl.
Організація Democracy Reporting International (DRI) провела аналіз діяльності чат-ботів, таких як Google Gemini, ChatGPT4, ChatGPT4-o та Copilot. Команда дослідників перевірила, як ці боти реагують на запити, що стосуються виборів, у 10 мовах Європейського Союзу. Результати показали, що значна частина відповідей виявилася частково або повністю неточною.
Зокрема, компанія OpenAI не вживає жодних заходів, щоб уникнути розповсюдження виборчої дезінформації. Обидві моделі ChatGPT4 майже не відмовлялися відповідати на запити, що призводило до високого рівня надання невірних або напівправильних відповідей, порівняно з конкурентами. Помилки, що траплялися, були дрібними, але суттєво спотворювали важливу інформацію.
Наприклад, в одному з випадків ChatGPT направив ірландських виборців до певної форми для особистого заповнення, хоча насправді ці форми доступні в інтернеті, а вибір форми залежить від індивідуального контексту та статусу виборця.
“Фокусуючись лише на одній формі, чат-боти не надали повну інформацію про процес реєстрації в Ірландії“, — зазначено у звіті.
Відповіді ChatGPT можна було б узагальнити
Дослідники вважають, що ChatGPT міг би надавати більш загальні відомості замість детальних відповідей на запитання користувачів, щоб забезпечити більшу точність.
Застереження щодо перевірки інформації, наданої ChatGPT під час місцевих виборів, епізодично додавалися до відповідей, продовжує звіт.
“Виглядає так, що OpenAI не вживає жодних заходів для запобігання поширенню виборчої дезінформації“, — підсумовується в дослідженні.
“Необхідно терміново перенавчити чат-боти, щоб уникнути такої дезінформації“, — наголошується у звіті.
На своєму веб-сайті OpenAI заявляє, що їхній підхід до контенту, пов’язаного з виборами, полягає у “продовженні роботи з покращення безпеки платформи шляхом надання точної інформації про голосування” та підвищення прозорості компанії.
Тим часом, чат-бот Google Gemini відмовився відповідати на всі запити, пов’язані з виборами, що перевірялися різними мовами, що, за словами звіту, є відповідальним підходом для уникнення поширення дезінформації. Copilot від Microsoft іноді ухилявся від відповідей, особливо англійською та португальською мовами, перенаправляючи користувачів до своєї пошукової системи Bing для отримання достовірної інформації.
