Альянс управління штучним інтелектом Всесвітнього економічного форуму (WEF) представив «Presidio AI Framework» як частину своєї ініціативи управління штучним інтелектом.
Ця структура, представлена в першому з трьох інформаційних документів, стосується критичних проблем, пов’язаних із розробкою та розгортанням генеративних моделей ШІ. Основна мета полягає в тому, щоб запровадити стратегії зменшення ризиків протягом усього життєвого циклу цих моделей, охоплюючи створення, адаптацію та остаточний вихід з експлуатації.
Однією з основних проблем, висвітлених у «Presidio AI Framework», є проблема фрагментації. Відповідно до брифінгу, відсутність комплексної перспективи, що охоплює весь життєвий цикл генеративних моделей ШІ, призводить до фрагментарного сприйняття пов’язаних ризиків. Ця фрагментація відбувається від початкової фази проєктування до розгортання та використання.
Нечіткі визначення становлять ще одну проблему, визначену Альянсом. Документ вказує на існуючі неясності та відсутність загального розуміння щодо безпеки, ризиків (таких як відстеження) і загальних заходів безпеки (таких як red teaming) на передньому краї розробки моделі.
Неоднозначність навколо огорож також розглядається в структурі. Існує потреба в чіткості щодо етапів, на яких слід впроваджувати огорожі або стратегії зменшення ризиків. Крім того, ефективність, застосовність та обмеження цих огорож потребують подальших досліджень.
Звертаючись до аспекту доступу до моделі, «Presidio AI Framework» визнає напругу між відкритим доступом, що стимулює інновації, та зниженням ефективності огорож. Альянс виступає за диференційований підхід, припускаючи, що моделі штучного інтелекту будуть доступні на різних рівнях, починаючи від повністю закритого до повністю відкритого коду.
Однак серед цих викликів Presidio AI Framework визначає можливості для прогресу. Стандартизація пропонується як засіб зв’язування технічних аспектів проєктування, розробки та випуску з відповідними ризиками та пом’якшенням, сприяючи спільній термінології та найкращим практикам. Концепція також наголошує на важливості довіри зацікавлених сторін і розширення повноважень, виступаючи за ясність щодо очікуваних стратегій зменшення ризиків і підзвітності за впровадження.
Структура окреслює ролі ключових учасників екосистеми моделі AI, наголошуючи на спрощеному підході до регулювання ризиків і передачі інформації. Основні учасники включають розробників моделей ШІ, відповідальних за наскрізне проєктування та розробку; Адаптери моделей AI, пошиття моделей під конкретні завдання; користувачі моделей AI, які безпосередньо взаємодіють з моделями; і користувачі додатків ШІ, які взаємодіють опосередковано через додатки або API.
Крім того, «Presidio AI Framework» представляє три основні елементи: розширений життєвий цикл штучного інтелекту, що стосується комплексного життєвого циклу моделей штучного інтелекту; Розширені обмеження ризиків, наголошуючи на необхідності чітких та ефективних стратегій зменшення ризиків; і методологія Shift-left, яка виступає за ранню інтеграцію міркувань ризику в процес розробки.
