У новому додатку компанії Meta, присвяченому роботі зі штучним інтелектом, несподівано виникла проблема, яка більше нагадує сюжет технотрилера, ніж маркетингову інновацію. З моменту запуску додатка користувачі масово публікують свої діалоги з чат-ботом. При тому, часто не підозрюючи, що вони стають загальнодоступними. У стрічці Meta AI почали з’являтися не лише звичайні питання, а й визнання в правопорушеннях, розмови про ухилення від податків та інша приватна інформація.
Про це інформує Techcrunch.
Це стало можливим через функцію “Поділитися”, яка дозволяє після запиту до ШІ створити публічну публікацію. Але велика частина користувачів, схоже, не розуміє, що відбувається. Додаток не повідомляє достатньо чітко, які саме налаштування конфіденційності діють у момент публікації. Якщо, наприклад, ви входите через публічний акаунт Instagram — ваші запити теж стають публічними автоматично.
Серед опублікованого в додатку зустрічаються як комічні, так і вкрай делікатні запити. Один користувач, наприклад, запитував у Meta AI, чому одні “пукання” смердять більше за інші, — усе це у формі аудіо, доступного для всіх. Інші випадки не викликають усмішки: хтось просить допомоги в написанні рекомендаційного листа людині з судимістю. При тому зазначаючи її ім’я, або навіть ділиться домашніми адресами та деталями з судових документів.
Експерти з цифрової безпеки б’ють на сполох, адже така відкритість загрожує користувачам не тільки конфузами, а й серйозними наслідками. Зокрема, зламом акаунтів, шантажем або порушенням законодавства про захист персональних даних.
Meta створила платформу, схожу на пошукову систему з соцмережевими наслідками
Рішення Meta реалізувати ідею соціальної стрічки на базі чат-бота виглядає, м’яко кажучи, необачним. У компанії вирішили піти шляхом публічної взаємодії зі штучним інтелектом, але не врахували, що люди спілкуються з ботами не так, як у публічних дописах, і далеко не завжди розраховують на те, що їх хтось побачить. Це може пояснити, чому інші технологічні гіганти, як-от Google, досі не робили подібних експериментів.
Відомий інцидент 2006 року, коли AOL випадково опублікувала пошукові запити користувачів, залишив компанії глибокі шрами в репутації. Історія має повторитися? Meta, здається, ризикує повторити ту ж саму помилку, але в масштабах соцмереж.
Додаток не виправдав очікувань, незважаючи на масштаб кампанії
Згідно з даними аналітичної компанії Appfigures, додаток Meta AI був завантажений лише 6,5 мільйона разів із моменту запуску наприкінці квітня. Для будь-якого іншого стартапу це могло б бути успіхом, але не для гіганта, який інвестував мільярди доларів у ШІ та має доступ до однієї з найбільших аудиторій у світі.
Кожну годину стрічка Meta AI наповнюється все новими і новими дописами, що радше викликають здивування або збентеження, ніж захоплення. Хтось публікує резюме в пошуках роботи в сфері кібербезпеки, інші — рецепти виготовлення бонга з пластикової пляшки. Публічне приниження як спосіб привернення уваги — сумнівна стратегія для просування високотехнологічного продукту.
