Дослідники IBM нещодавно повідомили про метод, який дозволяє викрадення живих голосових дзвінків за допомогою генеративних інструментів ШІ. Цей механізм потенційно може бути використаний хакерами для імітації голосів людей. Також маніпулювання розмовами в реальному часі. Викликаючи занепокоєння щодо можливостей доступу до конфіденційної інформації та використання для шахрайства.
Що таке викрадення аудіо
Викрадення аудіо передбачає маніпулювання поточними розмовами між людьми за допомогою клонованих голосів учасників, щоб ввести їх в оману. Це можна зробити за допомогою різних методів. Включаючи шкідливе програмне забезпечення на телефонах жертв.
Як це працює
Процес викрадення аудіо є складним і часто потребує передових навичок соціальної інженерії. Дослідники IBM продемонстрували цю загрозу за допомогою сценарію підтвердження концепції (PoC). Де програма діє як людина посередині, перехоплюючи живу розмову. Дійсно, зловмисники можуть потім контролювати ці розмови. Транскрибуючи їх у реальному часі з мовлення в текст. Використовуючи великі мовні моделі (LLM), вони можуть зрозуміти контекст розмови та вирішити, коли і як змінити діалог. Наприклад, виявивши згадку про конфіденційну фінансову інформацію, LLM може наказати програмі змінити речення відповідним чином. Потім змінений вміст перетворюється назад у мову за допомогою технології перетворення тексту в мову разом із клонованими голосами. Потім він вставляється назад у розмову, плавно змінюючи аудіо в режимі реального часу.
Вплив і потреба в довірі
PoC дослідників продемонстрував потенціал для зміни конфіденційної інформації. Такої як дані банківського рахунку або медичні записи, створюючи значні ризики для конфіденційності та безпеки людей. Це також продемонструвало, наскільки легко такі атаки можуть бути організовані за допомогою сучасних технологій. Підкресливши необхідність пильності та передових заходів захисту.
Ці два факти, разом узяті, не сприяють представленню ШІ як надійної технології для широкої громадськості. Оскільки вона створює значні проблеми для захисту кібербезпеки та підкреслює потребу в термінових рішеннях. Дійсно, розробка передових заходів безпеки для захисту від маніпулювання аудіо- та відеовмістом у режимі реального часу є актуальною. Потенціал викрадення аудіо заподіяти шкоду є небезпечною проблемою. З якою нам доведеться зіткнутися та подолати, але це також підтверджує ширший вплив ШІ на довіру та безпеку в епоху цифрових технологій.
Дослідження аудіокрадення, проведене IBM, показує критичну вразливість у нашому все більш взаємопов’язаному світі. Це створює очевидні ризики для особистої безпеки, фінансових операцій і, можливо, навіть питань національної безпеки.
