Упередження штучного інтелекту (ШІ) є однією з ключових проблем, яка стосується використання сучасних технологій. Простіше кажучи, це явище проявляється у дискримінаційних результатах, створених системами ШІ, які відображають суспільні стереотипи або нерівність.
Про це пише Techradar.
Головний технічний директор Master of Code Global, пояснює, що упередження ШІ виникає тоді, коли системи штучного інтелекту генерують необ’єктивні результати, які підтримують певні суспільні упередження. Серед них — гендерні, расові, культурні чи політичні. Це призводить до посилення соціальної нерівності та дискримінації.
Аднан Масуд, головний архітектор штучного інтелекту компанії UST, додає, що однією з головних проблем сучасних великих мовних моделей (LLM) є демографічні упередження.
Ці упередження спричиняють нерівність результатів між різними расовими та гендерними групами, а також впливають на ідеологічні аспекти. Наприклад, моделі можуть генерувати тексти чи зображення, які зміцнюють стереотипи.
«Крім того, більш тонкі когнітивні упередження, такі як ефекти прив’язки та упередження щодо доступності, можуть впливати на результати LLM різними й потенційно шкідливими способами», — каже Аднан Масуд.
Приклади упередженості:
- Генерація образів, де чоловіків частіше зображають лікарями, а жінок — медсестрами.
- Аналіз Bloomberg понад 5000 зображень показав, що люди зі світлішим тоном шкіри непропорційно представлені на високооплачуваних посадах.
- Культурні стереотипи, як у випадку створення «Барбі з Південного Судану», коли ШІ асоціював регіон із автоматами.
Як упередження проникає в системи ШІ?
Упередження в ШІ з’являється через кілька факторів:
- Упереджені навчальні дані. Дані, які містять соціальні стереотипи, переносяться в модель.
- Упереджені мітки. Суб’єктивні або неправильні позначки в даних сприяють необ’єктивності.
- Алгоритмічні зміщення. Методи, використані для навчання моделі, можуть посилити вже існуючі стереотипи.
- Неявні асоціації. Непрямі упередження в контексті чи мові навчальних даних можуть призвести до неправильних висновків.
- Людський вплив. Розробники або користувачі можуть ненавмисно перенести свої особисті переконання на моделі.
- Відсутність контексту. Наприклад, якщо ШІ асоціює певний регіон із конфліктом, це може вплинути на результати.
Повністю позбутися упереджень у ШІ є надскладною задачею. За словами експертів, системи штучного інтелекту завжди матимуть зв’язок із людськими даними та цінностями, що унеможливлює їх повну нейтральність.
Проте є способи зменшення упередженості:
- Використання чітких критеріїв справедливості. Це допомагає знизити вплив суб’єктивних факторів.
- Поєднання з людським контролем. ШІ може доповнювати людські процеси прийняття рішень, забезпечуючи більш збалансовані результати.
- Ідентифікація упередженості. Це передбачає використання спеціальних методів, таких як контрфактичний аналіз і тестування в реальних умовах.
Інструменти для виявлення упереджень та пом’якшення наследків
Для виявлення та оцінки упередженості застосовуються різні методи:
StereoSet, CrowS-Pairs, WinoBias — для аналізу тексту.
Bias Benchmark for QA (BBQ), RealToxicityPrompts — для оцінки токсичності.
WEAT (Word Embedding Association Test) — для виявлення соціальних упереджень у мовних моделях.
Для мінімізації впливу упередженості компанії можуть використовувати такі методи:
- Різноманітні набори даних. Навчальні дані повинні представляти широкий спектр точок зору.
- Пошуково-доповнена генерація (RAG). Ця архітектура залучає додаткову інформацію для більш обґрунтованих відповідей.
- Попередня генерація відповідей. Це дозволяє компаніям перевіряти чутливі результати перед їх використанням.
- Точне налаштування моделей. Це зменшує ризик упередженості через поглиблене навчання.
- Постійний моніторинг. Регулярна перевірка допомагає виявляти нові упередження.
Важливість етичних стандартів
Для боротьби з упередженням компанії повинні впроваджувати етичні стандарти на етапі розробки ШІ. Зокрема, створювати команди із залученням фахівців із різних сфер, проводити аудити та співпрацювати з незалежними експертами.
«В обох підходів є плюси і мінуси, в ідеалі відповідь полягає не в тому чи іншому, а в поєднанні обох», — каже Беатріс Санс Саїз, керівник EY Consulting Data.
Хоча упередженість є невід’ємною частиною сучасного штучного інтелекту, її вплив можна зменшити за допомогою прозорих та етичних підходів до розробки.
