Технологічна корпорація Meta внесла зміни до політики конфіденційності своїх фірмових смартокулярів Ray-Ban Meta. Тепер компанія має значно ширший доступ до персональних даних користувачів. Включно з фото, відео та голосовими записами, які вона використовуватиме для подальшого навчання своїх моделей штучного інтелекту. Зміни набули чинності після офіційного електронного листа, який власники пристроїв отримали нещодавно. У повідомленні зазначалося, що функції ШІ будуть активовані за замовчуванням, без попередньої згоди користувача.
Про це повідомляє Techcrunch.
Це означає, що кожне зроблене фото чи відео з використанням окулярів, будуть зібрані для аналітики. Також деякі голосові команди можуть бути автоматично збережені та передані для обробки ШІ. Важливо, що користувачі не можуть повністю відмовитися від збереження голосових записів. Єдина альтернатива передбачає ручне видалення кожного окремого файлу через мобільний додаток. Таким чином, компанія Meta фактично створює систему, в якій користувачі мають мінімальний контроль над тим, які саме їхні дані потрапляють до системи ШІ.
У супровідних матеріалах Meta пояснює, що пристрій не веде безперервного запису навколишнього середовища. Смартокуляри активуються лише після команди «Hey Meta». Проте це не скасовує факту, що кожен запис чи команда, активована таким чином, може бути збережена на термін до одного року. Метою компанії, як зазначається, є:
- Покращення точності розпізнавання мовлення
- Адаптація ШІ до різних мовних стилів
- Адаптація ШІ до діалектів і акцентів
Подібна практика вже була помічена і в інших техногігантів. Наприклад, компанія Amazon нещодавно відмовилася від локальної обробки голосових запитів на пристроях Echo. Натомість віддавши перевагу хмарним технологіям, що також дозволяють накопичувати великі обсяги голосових даних користувачів. Таким чином, індустрія поступово рухається в напрямку централізованого збору та використання персональної інформації.
Звичайні дії користувачів можуть стати джерелом навчальних даних для ШІ
Найбільше занепокоєння викликає те, що користувачі, можливо, не усвідомлюють, як саме їхні дії перетворюються на навчальні ресурси для штучного інтелекту. Наприклад, якщо людина відразу після купівлі смартокулярів сфотографує когось із близьких, обличчя цієї людини автоматично опиниться в розпорядженні Meta. У масштабах глобального використання таких пристроїв це означає мільйони одиниць контенту щодня. Цей контент потрапляє у хмари компанії та використовується для підвищення ефективності її генеративних моделей.
Реальність полягає в тому, що сучасні ШІ-системи потребують надзвичайно великих обсягів даних. Зокрема — візуального та звукового контенту. Чим більше даних компанія зможе зібрати, тим точніше і реалістичніше поводитиметься її ШІ. Проте ці покращення досягаються за рахунок конфіденційності та цифрової безпеки мільйонів користувачів. А самі користувачі не завжди мають змогу контролювати чи навіть усвідомити, що саме відбувається з їхніми даними.
Meta вже використовує контент користувачів соцмереж для навчання ШІ
Це далеко не перший випадок, коли Meta вдається до використання даних своїх користувачів для розвитку технологій. Уже сьогодні компанія застосовує публічні пости американських користувачів Facebook та Instagram як матеріал для навчання власної мовної моделі Llama. Таким чином, логіка політики компанії проста:
“Якщо контент створено в межах її екосистеми — він потенційно може бути використаний для тренування її ШІ“.
Нововведення з окулярами Ray-Ban Meta лише продовжують цю тенденцію. Тепер компанія може отримувати ще більш глибокий рівень персональної інформації. Не лише текстові повідомлення, а й голос, інтонацію, інтонаційні акценти та зображення навколишнього світу. Все, що користувач «ненавмисно» надає, використовуючи новий девайс. Це піднімає серйозні етичні питання та вимагає уваги з боку регуляторних органів.
Нещодавно редакція сайту AI360 писала про те, як Meta за допомоги ШІ активізує боротьбу з фейковими датами народження підлітків в Instagram. Компанія впроваджує новий підхід до виявлення підлітків, які намагаються приховати свій вік під час створення облікового запису в Instagram. Завдяки штучному інтелекту платформа ідентифікує акаунти. Де саме вік користувача може бути вказаний неправдиво, з метою оминути обмеження, що стосуються неповнолітніх.
Якщо система підозрює, що користувач є підлітком, навіть попри «дорослу» дату народження в профілі, вона автоматично перемикає його в режим підліткового облікового запису. Цей режим має низку обмежень і захисних налаштувань, які неможливо змінити без дозволу батьків.
