Останнім часом деякі користувачі соцмережі X (раніше Twitter) почали звертатися до чат-бота Grok, створеного xAI Ілона Маска, для перевірки фактів. Це викликало занепокоєння серед професійних фактчекерів, які вважають, що подібна практика може сприяти поширенню дезінформації.
Про це повідомляє Techcrunch.
X дозволив користувачам взаємодіяти з Grok, ставлячи йому запитання на різні теми. Аналогічний підхід використала компанія Perplexity, яка запустила автоматизований обліковий запис для надання відповідей. У деяких країнах, зокрема в Індії, користувачі почали тестувати Grok, перевіряючи його реакцію на політичні питання та спірні висловлювання.
Ризики використання ШІ для перевірки інформації
Експерти наголошують, що чат-боти можуть давати відповіді, які звучать переконливо, навіть якщо вони є помилковими. У минулому вже були випадки, коли Grok поширював фейкову інформацію. У серпні минулого року державні секретарі США закликали Ілона Маска внести зміни в чат-бот після того, як в соцмережах з’явилися дезінформаційні матеріали напередодні виборів.
Подібні проблеми спостерігалися і з іншими ШІ-асистентами, такими як ChatGPT від OpenAI та Gemini від Google. У 2023 році дослідники довели, що ШІ може легко створювати маніпулятивні матеріали, які вводять людей в оману.
Енджі Холан, директор Міжнародної мережі перевірки фактів (IFCN), пояснює, що боти, подібні до Grok, добре імітують природну людську мову, що створює ілюзію правдивості, навіть якщо відповідь неправильна.
Брак прозорості та можливі маніпуляції
На відміну від фактчекерів, які використовують перевірені джерела і несуть відповідальність за свої висновки, ШІ-асистенти не гарантують достовірності. Співзасновник індійського фактчекінгового сайту Alt News Пратік Сінха наголошує, що якість відповідей Grok залежить від даних, які він отримує.
«Хто вирішуватиме, які дані подавати Grok? Це відкриває простір для можливого втручання урядів чи зацікавлених сторін», — зазначив Сінха.
Крім того, невідомо, яким чином Grok використовує публікації на X для навчання та які механізми перевірки застосовує. Минулого року в соцмережі відбулися зміни, що дозволили Grok аналізувати контент користувачів за замовчуванням.
Чим небезпечні публічні відповіді ШІ
Однією з головних проблем є те, що чат-бот публікує відповіді відкрито, на відміну від приватного використання ChatGPT чи інших чат-ботів. Це означає, що навіть якщо одна людина усвідомлює можливі помилки ШІ, інші користувачі можуть приймати його відповіді за правду.
Прикладом може слугувати ситуація в Індії, коли дезінформація у WhatsApp призвела до масових заворушень і навіть самосудів. Нині ж генеративний ШІ ще більше ускладнює ситуацію, оскільки може створювати надзвичайно реалістичний фейковий контент.
Енджі Холан зазначає, що дослідження показують — ШІ може припускатися до 20% помилок. Це означає, що навіть при високій точності певний відсоток інформації буде хибним і може мати серйозні наслідки.
Чи може ШІ замінити людей у перевірці фактів
Технологічні компанії прагнуть мінімізувати роль людей у перевірці фактів, запроваджуючи краудсорсингові методи, як-от «Нотатки спільноти» в X і Meta. Проте фактчекери побоюються, що такі підходи можуть не забезпечити належного рівня достовірності.
Пратік Сінха вважає, що з часом суспільство навчиться розрізняти інформацію, отриману від ШІ, і перевірену людьми. Водночас Холан прогнозує, що через зростання кількості дезінформації робота професійних фактчекерів лише ускладниться.
«Головне питання — чи дійсно людей цікавить правда, чи вони просто шукають щось, що звучить правдоподібно?» — підсумувала вона.
Нещодавно редакція сайту AI360 писали про те, як Grok 3 Ілона Маска цензурував згадки про Трампа. Під час онлайн-трансляції Маск заявив, що ця модель створена для пошуку правди. Однак незабаром після презентації виявилося, що штучний інтелект тимчасово блокував згадки про Дональда Трампа та самого Маска.
