Агентство контррозвідки та безпеки Міністерства оборони США, яке відповідає за надання доступу до секретної інформації для мільйонів американських працівників, розпочало активне використання штучного інтелекту для прискорення своєї роботи. Директор агентства Девід Каттлер заявляє, що жодних «чорних скриньок» у цьому процесі бути не повинно.
Про це інформує Forbes.
Перед тим як співробітники Пентагону можуть переглядати частину інформації про американських громадян, вони мають пройти своєрідний етичний тест. Девід Каттлер називає його «тестом мами» — це перевірка здорового глузду, де працівники мають поставити собі питання: чи знає моя мама, що уряд може це робити?
Агентство контррозвідки та безпеки Міністерства оборони (DCSA) виконує ключову роль у процесі розслідувань і затвердження 95% дозволів службовців федерального уряду.
Щороку це передбачає проходження мільйонів перевірок, що дає агентству доступ до величезної кількості приватних даних. У 2024 році DCSA звернулося до інструментів штучного інтелекту, аби організовувати та інтерпретувати інформацію.
Каттлер наголосив, що агенція використовує не генеративні мовні моделі, як ChatGPT чи Bard, а інструменти, які видобувають та систематизують дані. Це забезпечує прозорість процесу, адже такі системи дозволяють краще розуміти, як вони працюють.
Пріоритетність загроз і обережність використання ШІ
Найперспективнішим напрямом у використанні штучного інтелекту Каттлер вважає визначення пріоритетів серед існуючих загроз. Наприклад, створення теплової карти об’єктів, які охороняє DCSA, з відображенням ризиків у реальному часі могло б допомогти агентству ефективніше розподіляти ресурси. Такий інструмент лише покращує обробку вже наявної інформації, представляючи її у зручному вигляді.
Однак із впровадженням ШІ виникають потенційні загрози. Системи можуть поставити під ризик конфіденційність даних або ввести упередженість у процес прийняття рішень. Старший політичний радник Центру демократії та технологій Метью Шерер зазначає, що використання штучного інтелекту для прийняття важливих рішень, наприклад, під час перевірок чи аналізу даних із соцмереж, є небезпечним. Системи можуть припускатися помилок, як-от хибно ідентифікувати людей через однакові імена.
Етичні виклики та упередженість алгоритмів
Використання штучного інтелекту в державних установах піднімає питання етичності та прозорості. DCSA зобов’язане враховувати, які дані передаються приватним компаніям, що створюють алгоритми, та як ці дані обробляються. Каттлер зазначив, що агентство уникає використання ШІ для пошуку нових ризиків, але навіть пріоритизація може спричинити конфлікти через можливу упередженість алгоритмів.
У звіті корпорації RAND 2022 року попереджалося, що алгоритми можуть відтворювати історичні расові чи гендерні упередження.
ШІ здатен відображати сліпі зони своїх розробників або даних, на яких навчався. DCSA співпрацює з Білим домом, Конгресом та іншими органами, аби мінімізувати такі ризики.
Каттлер визнає, що суспільні цінності, які впливають на алгоритми, змінюються з часом. Наприклад, у Сполучених Штатах колишня залежність від алкоголю чи наркотиків більше не є такою перешкодою для отримання доступу до секретної інформації, як раніше. Аналогічно, значення деяких інших соціальних факторів також переглядається з урахуванням сучасних норм.
Раніше команда сайту AI360 писала про те, що розробник ChatGPT співпрацює з Carahsoft, державним підрядником, який належить мільярдеру і допомагає технологічним компаніям надавати своє програмне забезпечення Пентагону.
