Вам уже надсилала повідомлення “подруга” з проханням позичити 200 грн до завтра? Або хтось із знайомих отримував дзвінок серед ночі, де “син” чи “брат” начебто своїм голосом повідомляє про аварію й теж просить грошей? У такі моменти дуже складно відрізнити справжню людину від шахрая. Сьогодні кіберзлочинці активно застосовують штучний інтелект (ШІ), щоб діяти ще хитріше й небезпечніше. Саме тому редакція видання AI360 вирішила розглянути, як саме ШІ використовують у фішингу, розробці шкідливого коду, створенні deepfake-контенту та пошуку вразливостей. Також ми розберемо, як можна боротися з цими проблемами.
Що таке даркнет
Даркнет (англ. Darknet) – це частина Інтернету, недоступна через звичайні пошукові системи і потребує спеціального програмного забезпечення для доступу. Основна особливість – високий рівень конфіденційності, через що даркнет часто використовують для сумнівних справ.
З появою генеративного ШІ у кіберзлочинців з’явилося ще більше можливостей. Вони активно використовують спеціальні ШІ-моделі без етичних обмежень, наприклад WormGPT і FraudGPT. Інструменти здатні створювати фішингові листи, шкідливий код, інструкції для атак, – і все це в кілька кліків. Моделі активно обговорюють і продають саме на даркнет-форумах.
Також великою популярністю користуються інструменти для створення deepfake-контенту, типу DeepFaceLab та FaceSwap. Вони дозволяють замінювати обличчя на відео і створювати правдоподібні фейкові ролики. Боти використовують для шантажу, шахрайства та дезінформації.
Поєднання таких інструментів зі злитими персональними даними (які теж часто продають у даркнеті) суттєво спростило вхід у кіберзлочинний світ навіть для новачків. Досвідченим же хакерам дало нові, потужні методи атаки.
Спеціаліст у growth-маркетингу та продуктовому менеджменту Іван Пронченков у розмові з виданням AI360 зазначає:
“Між творцями вірусів і захисниками – постійна гонка. Звичайні антивіруси не бачать глибокі шахрайські пастки: підроблені листи, голоси, відео. Але нове покоління захисту – ШІ-аналіз тіньової активності – вже набирає обертів. Технології воюють з технологіями”.
Фішинг під прикриттям ШІ: WormGPT і FraudGPT
Раніше фішингові листи було легко помітити. Вони були написані з помилками, дивною мовою або містили підозрілі посилання. Наприклад:
“Дорогий клієнт! Ви виграла в лотереї. Щоб отримати приз, перешліть нам паспорт і номер карти”.
Такі повідомлення викликали сміх або настороженість. Але все змінилося з появою ШІ-моделей – WormGPT і FraudGPT. Спеціально створені версії ШІ не мають ніяких обмежень. Якщо звичайний ChatGPT відмовиться писати шахрайський лист або вірус, то ці моделі зроблять без проблем.
Коли авторка цієї статті продавала книгу на OLX, одразу декілька “покупців” буквально через кілька хвилин дуже ввічливо зацікавились покупкою. Деякі пропонували перейти до іншого мессенджера, інші писали: “Я вже оплатив, ось посилання на підтвердження”.
Це класична шахрайська схема. Але тепер, із використанням ШІ, такі повідомлення стають ще більш переконливими. Наприклад, FraudGPT може згенерувати текст, який ідеально копіює стиль справжньої служби підтримки OLX чи поштового сервісу:
“Ви отримали оплату від користувача Андрій С. Сума: 100 грн. Щоб завершити угоду, підтвердьте свої реквізити на безпечній OLX-сторінці: olx-secure-pay.info/UA”.
Виглядає професійно, використовується логотип та візуальний стиль. Кликнеш по посиланню, відкривається підроблений сайт. Введеш дані банківської картки – гроші зникнуть.
Але це ще не все. WormGPT і FraudGPT вміють писати шкідливий код. Тобто, хакер може сказати: “Створи скрипт, який краде паролі з браузера”. І ШІ напише його. Код потім вбудовується в фішингові сайти або файли, жертва відкриває. Після цього пристрій заражається – і вся інформація опиняється у злочинців.
Тексти виглядають справжніми. Люди вірять знайомим іменам та логотипам. Старі засоби захисту не бачать нічого підозрілого.
Deepfake: відеосюжетам вже не можна вірити
Тепер давайте уявімо ситуацію, де ви отримуєте відео в месенджері. Там ваша подруга у знайомому кафе, зі звичною інтонацією каже:
“Привіт! Мені дуже треба, щоб ти перерахував 1000 грн. Я зараз на зустрічі, не можу писати. Це терміново, зроби, будь ласка”.
Здається, усе нормально. Але… це не вона. Це – діпфейк. Фейкове відео, створене за допомогою інструментів DeepFaceLab або FaceSwap. Вони беруть відео з інтернету або соцмереж і підставляють туди інше обличчя. Голос теж можна імітувати, особливо якщо є записи справжнього. І це зробити зовсім не важко, зараз багато відео знімають, саме коли говорять на камеру.
Ми звикли вірити очам і вухам. Якщо хтось говорить на відео, може здатися, що це правда. А з deepfake – це може бути повна брехня.
“У цифровому світі вже не можна вірити ні голосу, ні відео. Люди мають навчитись сумніватися, перевіряти і впроваджувати багаторівневий захист. Технології створюють загрози, але й самі можуть їх виявляти – штучний інтелект на вартий довіри”, – вважає Іван Пронченков.
ШІ шукає “дірки” в системах: експлойти й вразливості
Якщо фішинг і deepfake – це про обман людей, то наступний крок – атака на самі системи. І тут ШІ теж стає “помічником” для зловмисників.
Щоб зламати сайт або додаток, раніше потрібно було бути справжнім “комп’ютерним генієм” – знати програмування, читати код, шукати помилки. А тепер достатньо поставити правильне питання до ШІ.
ШІ-модель аналізує код і миттєво пропонує рішення. Навіть якщо це складна програма. Коли вона бачить помилку – одразу пояснює, як використати “пляму” для зламу. І може навіть згенерувати шкідливий код для атаки.
Це відкриває двері для новачків – ті, хто вчора тільки створив Telegram-акаунт, сьогодні вже може запускати справжні атаки. А досвідчені хакери за допомогою ШІ знаходять вразливості ще швидше й точніше.
Особливо небезпечно, коли це поєднується з іншими інструментами – фішингом, deepfake або викраденими базами даних. Інформацію з даркнету, наприклад логіни й паролі, можна використати для запуску експлойта – спеціального шкідливого коду, який використовує вразливість у системі, щоб повністю отримати доступ до чужого акаунту, сервера або корпоративної мережі.
Як захиститися від ШІ-шахрая
WormGPT, FraudGPT, deepfake-відео, експлойти, – звучить складно, але на практиці може торкнутися кожного. І головне питання – що з робити із ШІ-злочинцями?
Ось кілька простих, але дієвих кроків:
- Не довіряйте повідомленням і дзвінкам “з голосом рідної людини”. Завжди перевіряйте, телефонуйте особисто і перепитуйте інформацію.
- Не переходьте за підозрілими посиланнями, навіть якщо лист або повідомлення виглядає “офіційно”.
- Не вводьте банківські дані на сайтах, які надсилають “покупці” чи “служби доставки”.
- Оновлюйте пристрої та програми. Часто саме в оновленнях закривають вразливості.
- Увімкніть двофакторну автентифікацію – це ще один бар’єр для зловмисників.
- Навчайте близьких і колег – кіберграмотність зараз така ж важлива, як уміння користуватись банкоматом.
- І головне: потурбуйтесь про бабусь і дідусів, батьків. Поясніть їм, що не можна довіряти кожному дзвінку чи повідомленню. Допоможіть налаштувати телефони, покажіть, як розпізнати шахрайство. Бо саме старенькі найчастіше стають мішенню через довірливість і брак знань.
Ми не можемо зупинити розвиток технологій, але повинні навчитись жити безпечно. І пам’ятайте: найсильніший захист – це здоровий глузд, уважність і турбота одне про одного.
