Організація Humane Intelligence запускає конкурс, метою якого є створення моделі комп’ютерного зору для відстеження ненависницької пропаганди в Інтернеті. Конкурс розпочинається 26 вересня і проводиться у співпраці зі скандинавською антитерористичною групою Revontulet.
Як пише technologyreview.com
Програма бонусів відкрита для всіх бажаючих віком від 18 років, які хочуть взяти участь у змаганні. Переможці конкурсу отримають винагороду в розмірі 10 000 доларів США.Цей конкурс є другим із серії з 10 програм, організованих Humane Intelligence. Ініціатива має на меті досліджувати та вирішувати проблеми алгоритмічних упереджень, які виникають у системах штучного інтелекту. Програма була заснована в 2022 році відомим дослідником ШІ Румманом Чоудхурі і підтримується філантропічним підрозділом Google.org.
Цілі програми як зазначає Чоудхурі, метою цих програм є не лише навчити людей оцінювати алгоритмічні системи, але й вирішувати актуальні проблеми, пов’язані з упередженнями в ШІ. Перше завдання конкурсу полягало в оцінці прогалин у вибіркових наборах даних, які могли призводити до неточних або упереджених результатів.
Завдання з відстеження ненависницьких зображень
Друге завдання конкурсу від Humane Intelligence спрямоване на відстеження ненависницьких зображень в Інтернеті — це одна з найбільш складних проблем. Використання генеративного ШІ призвело до зростання кількості такого контенту. Екстремістські групи застосовують ШІ, щоб змінювати зображення, які вже були заборонені платформами, створюючи сотні копій, які важко виявити за допомогою автоматизованих систем.
ШІ також використовується для маніпулювання зображеннями, щоб вони уникали видалення. Наприклад, екстремісти можуть вставляти невидимі людському оку шаблони, які вводять в оману автоматизовані системи виявлення. Це створює постійне протистояння між екстремістськими групами та платформами, які намагаються боротися з такими зображеннями.
Два рівні завдань для учасників
Завдання конкурсу розділені на дві частини. Перша, для учасників із середніми навичками, полягає у створенні моделі, яка може ідентифікувати ненависницькі зображення. Друга, більш складна, передбачає створення моделі, яка може обманювати першу. Ця структура відтворює реальну ситуацію, де існує постійна конкуренція між “добрими” і “поганими” акторами.
Мета цього конкурсу — залучити дослідників до створення нових моделей для перевірки екстремістських зображень і зниження впливу ненависницької пропаганди в Інтернеті.
Контекстуальні труднощі та глобальні виклики
Однією з найбільших проблем є те, що ненависницька пропаганда може бути дуже залежною від контексту. Символи чи знаки, які використовують екстремісти, можуть бути зрозумілі лише за умови глибокого знання їхнього культурного значення. Якщо модель не бачила прикладу з певної частини світу, вона не зможе його розпізнати.
Ця проблема посилюється глобальним масштабом завдання, оскільки багато моделей навчалися на прикладах із США і не враховують міжнародний контекст. Тому Humane Intelligence співпрацює з неамериканськими організаціями, зокрема зі скандинавською антитерористичною групою Revontulet, щоб розширити рамки виявлення таких зображень.
Проблема довгострокового вирішення
Деякі експерти вважають, що простого вдосконалення алгоритмів для виявлення підробленого контенту може бути недостатньо. На думку професора інформатики з Університету Ватерлоо Джиммі Ліна, у довгостроковій перспективі вирішення проблеми потребує навчання, грамотності та освітніх ініціатив, які матимуть більш стійкий вплив.8. Тривалість конкурсу та призиКонкурс триватиме до 7 листопада 2024 року. Буде обрано двох переможців: один для середнього рівня (приз 4000 доларів) і один для просунутого (приз 6000 доларів). Моделі учасників також можуть бути інтегровані в інструменти Revontulet для боротьби з екстремізмом.
