Всесвітньо визнана експертка, Кейт Кроуфорд, спеціалізується на дослідженні соціальних, політичних і етичних наслідків використання штучного інтелекту. Вона є старшою дослідницею в Microsoft Research, співзасновницею AI Now Institute при Нью-Йоркському університеті та авторкою книги Atlas of AI, де досліджує реальний вплив цієї технології на суспільство.
Важливість поглядів Кейт Кроуфорд
Кейт Кроуфорд акцентує особливу увагу на етичних ризиках, пов’язаних із використанням ШІ. Вона детально аналізує, як алгоритми можуть відтворювати упередження, створювати нерівності або використовуватися для посилення системи нагляду. Її дослідження показують, що впровадження ШІ потребує ретельного регулювання, щоб уникнути шкоди для вразливих груп населення.
Кроуфорд наголошує, що ШІ — це не просто набір технологій, а складна система, яка має соціальні та екологічні наслідки. У своїй книзі Atlas of AI вона розглядає “видобувну природу” ШІ, яка охоплює не лише обробку даних, але й використання природних ресурсів для створення потужних обчислювальних систем.
Завдяки своєму досвіду Кейт Кроуфорд консультує уряди, організації та компанії щодо відповідального впровадження ШІ. Її погляди формують міжнародні стандарти у цій сфері, зокрема принципи прозорості, підзвітності та захисту прав людини.
Загалом, робота Кейт є критично важливою в умовах швидкого розвитку ШІ. Вона допомагає зрозуміти, як уникнути негативних наслідків впровадження технологій та забезпечити їхню користь для всього суспільства. Її дослідження сприяють формуванню відповідального ставлення до ШІ як серед розробників, так і серед споживачів.
Тож погляди Кейт Кроуфорд — це важливий дороговказ для тих, хто прагне створювати етичні й сталості технології, здатні змінювати світ на краще.
Робота у Microsoft Research
У Microsoft Research Кейт Кроуфорд зосередилася на вивченні соціальних та етичних аспектів штучного інтелекту. Вона працювала як старший дослідник, спрямовуючи увагу на вплив технологій на суспільство та визначаючи етичні виклики, що виникають через масове впровадження ШІ.
Напрямки роботи:
- Алгоритмічна упередженість. Кроуфорд досліджувала, як алгоритми, що використовуються у продуктах Microsoft та інших компаній, можуть посилювати системні упередження. Її робота включала аналіз того, як відбираються дані для навчання моделей і як це може призводити до дискримінації. Наприклад, системи розпізнавання облич, які неправильно ідентифікують представників певних етнічних груп, є одним із таких прикладів.
- Прозорість алгоритмів. У Microsoft Research вона виступала за створення прозорих систем ШІ, які б дозволяли користувачам зрозуміти, як приймаються рішення. Це включало розробку рекомендацій для компаній, які прагнуть інтегрувати прозорість у свої алгоритмічні системи, що використовуються в бізнесі та урядових структурах.
- Відповідальна розробка ШІ. Разом із командою дослідників Кейт сприяла розробці політик для впровадження етичних стандартів у процес створення програмного забезпечення. Вона співпрацювала з інженерами та продуктовими командами Microsoft, щоб забезпечити врахування етичних аспектів на ранніх стадіях проєктування.
- Соціальний вплив ШІ. Вона аналізувала, як використання ШІ у різних секторах — охороні здоров’я, правосудді та освіті — може мати позитивні та негативні наслідки для суспільства. Її висновки стали основою для рекомендацій щодо пом’якшення ризиків, пов’язаних із впровадженням ШІ.
AI Now Institute
AI Now Institute при Нью-Йоркському університеті, де Кейт Кроуфорд є співзасновницею, став провідним центром дослідження соціальних, правових та етичних аспектів штучного інтелекту. Інститут поєднує експертів із різних галузей, включаючи соціологію, юриспруденцію, політологію та технології.
Напрямки роботи:
- Економічна та соціальна нерівність. У AI Now Institute Кроуфорд зосередилася на тому, як ШІ впливає на соціальну нерівність. Інститут досліджує, як автоматизовані системи розподіляють ресурси, зокрема у сфері соціального забезпечення та праці, та як вони можуть несправедливо виключати певні групи населення.
- Приватність і нагляд. Одним із ключових питань, якими займається інститут, є загроза приватності у світі, де масові дані збираються для навчання алгоритмів ШІ. Кроуфорд підкреслює, що впровадження технологій спостереження, таких як розпізнавання облич, створює небезпечні прецеденти для порушення прав людини.
- Екологічний слід ШІ. У межах AI Now Institute вона працювала над аналізом екологічного впливу технологій, особливо енергозатратності навчання великих моделей. Вона виступає за прозорість у питаннях використання ресурсів і закликає до сталого підходу до розробки ШІ.
- Рекомендації для політиків і компаній. AI Now Institute регулярно публікує звіти, які допомагають урядам і бізнесу розробляти політики, що мінімізують негативний вплив ШІ. Кейт виступає за необхідність жорсткішого регулювання використання ШІ, особливо у секторах, що впливають на права людини.
Робота в цих двох установах зробила Кейт Кроуфорд не лише провідним дослідником у сфері ШІ, а й голосом, що наголошує на відповідальності технологій перед суспільством.
