Соціальна мережа X планує інтегрувати штучний інтелект у функцію Community Notes. Це механізм спільної перевірки фактів, який залишився у сервісі після його трансформації з Twitter. Компанія тестує можливість залучення чат-ботів на базі ШІ, які створюватимуть нотатки для додаткового контексту під публікаціями користувачів. Раніше цю функцію виконували виключно люди-волонтери, які залишали коментарі, що потім проходили етапи перевірки іншими учасниками програми.
Про це у своїй статті розповідає Techcrunch.
Ідея полягає в тому, щоб нотатки ШІ допомагали розпізнавати дезінформацію. Наприклад у випадках публікацій відео, створених штучним інтелектом, або суперечливих заяв політиків. Якщо раніше Community Notes надихнули інші платформи — Meta, TikTok чи YouTube створювати власні ініціативи, тепер X прагне зробити наступний крок. Однак залишається питання, чи стане ШІ корисним помічником, чи створить нові ризики для точності інформації.
Як працюватиме перевірка нотаток ШІ
Пілотна функція передбачає використання Grok, власної моделі ШІ від X, або підключення сторонніх LLM через API. Будь-які нотатки, згенеровані штучним інтелектом, проходитимуть той самий процес перевірки, що й людські — тобто, вони не потраплять до публікацій автоматично без погодження спільноти. Водночас X підкреслює, що технологія має бути лише інструментом, який допомагає людям мислити критичніше, а не заміщати їхню думку.
Попри це, використання ШІ у перевірці фактів викликає сумніви. Чат-боти часто схильні до галюцинацій і можуть вигадувати інформацію, яка не відповідає дійсності. Автори дослідження, опублікованого командою X Community Notes, рекомендують залишати остаточне слово за людьми, аби уникнути поширення помилкових фактів. Навчання ШІ передбачає збір зворотного зв’язку від спільноти, щоб покращити якість нотаток.
Одним із ключових ризиків нової ініціативи є перевантаження оцінювачів. Якщо ШІ почне генерувати надто багато нотаток, це може призвести до втрати мотивації у волонтерів, які займаються перевіркою записів. Окрім того, виникає питання, чи зможуть LLM уникнути створення упереджених або неточних коментарів, особливо якщо моделі віддаватимуть перевагу «корисності» контенту замість суворої фактичності.
Нещодавні інциденти, як-от випадок з підлабузливістю однієї з моделей ChatGPT, лише посилили сумніви щодо здатності ШІ відповідати високим стандартам правдивості. Існує також ризик, що сторонні LLM, інтегровані у X, можуть мати власні алгоритмічні пріоритети, які не завжди збігаються з місією точної перевірки фактів. Тож поки що невідомо, чи стане впровадження штучного інтелекту у Community Notes ефективним інструментом або створить нові проблеми.
Плани на майбутнє компанії
X зазначає, що користувачам не варто очікувати негайних змін. Перш ніж розгорнути функцію масштабно, платформа протестує роботу ШІ-ботів протягом кількох тижнів. Це дасть змогу зрозуміти, чи справді чат-боти здатні допомогти у виявленні дезінформації та чи не створять вони нових викликів для модерації.
Попри обережний підхід, ініціатива свідчить про прагнення X розвивати інструменти боротьби з фейками та маніпуляціями в мережі. Якщо експеримент вдасться, платформа може стати першою серед великих соцмереж, яка масштабно впровадить ШІ у процес перевірки фактів. Але остаточне слово залишатиметься за людьми, адже навіть найсучасніші LLM ще далекі від абсолютної безпомилковості.
