Meta готується зробити радикальний крок у внутрішній політиці безпеки своїх продуктів. Як повідомляє компанія, система штучного інтелекту невдовзі зможе самостійно аналізувати до 90% оновлень популярних додатків — зокрема Instagram і WhatsApp. Їх перевіряти будуть на предмет потенційної шкоди та ризиків для конфіденційності. Це означає, що саме алгоритми оцінюватимуть вплив нових функцій чи змін до їхнього впровадження.
Про це у своїй статті розповідає Techcrunch.
Досі ці процеси були в руках фахівців-людей. Однак Meta поступово переходить до автоматизованої моделі. Якщо раніше перевірки тривали тижнями, то тепер завдяки ШІ компанія обіцяє миттєві результати.
Ще у 2012 році, після скандалів із витоками даних, Facebook (тепер Meta) уклав угоду з Федеральною торговою комісією США (FTC), яка зобов’язує компанію проводити регулярні перевірки конфіденційності. Йдеться про те, щоб кожне нове оновлення проходило внутрішню експертизу, яка оцінює ризики для користувачів.
Зараз цей процес, який потребував участі великої кількості співробітників, Meta хоче оптимізувати через впровадження ШІ. Розробники надалі заповнюватимуть спеціальну анкету, після чого система самостійно видаватиме висновок щодо безпечності запропонованого функціоналу та вимоги, які мають бути виконані перед запуском.
Переваги та ризики: спірна ефективність нового підходу
Автоматизація дозволить значно пришвидшити вихід нових продуктів і функцій, однак експерти застерігають щодо потенційних небезпек. Один з колишніх керівників Meta наголосив, що у новій системі «зростає ризик пропустити критичні наслідки», адже алгоритм може не виявити складні чи нестандартні загрози на ранніх етапах.
На думку фахівців, існує небезпека, що негативні ефекти від нововведень будуть виявлені вже після запуску. Саме тоді, коли продукт почне взаємодіяти з мільйонами користувачів у реальному середовищі. Це може призвести до чергових витоків даних або порушення цифрових прав користувачів.
Meta обіцяє баланс між технологією та людським наглядом
У компанії заявляють, що підхід не є повністю автоматичним. За словами речника Meta, компанія продовжує інвестувати в безпеку та етичні стандарти. Зокрема понад 8 мільярдів доларів уже вкладено в програму конфіденційності. Крім того, Meta обіцяє, що рішення з високим ступенем ризику залишаться під контролем людей.
«Ми використовуємо технології, щоб забезпечити стабільність рішень у стандартних ситуаціях, а складні або нові виклики все ще будуть під наглядом експертів», — наголосили в компанії.
Також зазначається, що Meta постійно адаптує свої підходи до нових викликів і прагне поєднувати інновації з дотриманням регуляторних вимог.
Також,нещодавно у свої статті, редакція сайту AI360, розповідали про те, що Meta інвестує мільярди в генеративний ШІ попри скандал із порушенням авторських прав. Більш амбітна мета компанії, досягнення між 460 мільярдами і 1,4 трильйона доларів до 2035-го. Такий стрибок обумовлений експансією продуктів на базі Llama. Відкритої лінійки моделей, яку Meta надає партнерам та використовує для власного ШІ-асистента.
