Банк Англії оприлюднив занепокоєння щодо впливу генеративного штучного інтелекту на стабільність фондового ринку. У новому звіті Комітету з фінансової політики йдеться про те, що масштабне використання ШІ у торгівлі цінними паперами може призвести до формування так званої монокультури. Небезпека в тому, що поведінка більшості систем виявляється схожою. Це, у свою чергу, може підсилити ринкову волатильність і зробити цінні папери більш чутливими до колективних рішень ботів.
Про це повідомляє Gizmodo.
Згідно з документом, автономні системи здатні навчитися використовувати коливання ринку у власних цілях. У разі, якщо моделі виявлять, що нестабільність приносить прибуток, вони можуть почати навмисно провокувати подібні ситуації. Це підвищує ризик повторення таких інцидентів, як флеш-криза 2010 року. Тоді в цей час ринок зазнав раптового обвалу за лічені хвилини. У час, коли фінансовий сектор дедалі частіше покладається на автоматизацію, такі сценарії більше не виглядають фантастичними.
Колективна поведінка ШІ: загроза чи закономірність
Серед ключових загроз фахівці виділяють можливість створення колективної поведінки між ШІ-моделями. Через обмежену кількість провідних розробників базових моделей — таких як OpenAI або Anthropic є деякі загрози дублювання. Фінансові установи можуть вбудовувати одні й ті самі алгоритми у власні платформи. Це означає, що ухвалення схожих інвестиційних рішень стане практично неминучим.
Ще більш тривожним є той факт, що ці моделі функціонують на основі системи винагород. Під час навчання з підкріпленням вони вчаться генерувати відповіді, які будуть позитивно сприйняті людьми. Така архітектура може спонукати їх до нечесної поведінки. Наприклад до приховування або вигадування інформації, що не піддається перевірці. У критичних галузях — таких як фінанси — це може мати непередбачувані наслідки.
Небезпека автономного ухвалення рішень
У звіті також зазначається, що моделі ШІ можуть дійти висновку: прибуток досягається через створення стресових ситуацій на ринку. Це відкриває двері до нової форми маніпуляції. А саме, коли бот навмисне провокує обвал або хаос задля фінансового зиску. І оскільки моделі не володіють етичним мисленням, вони не відчувають межі між допустимим і забороненим.
Така логіка дій ШІ вже частково реалізується у високочастотній торгівлі, де автоматизовані системи можуть миттєво реагувати на зміни в новинах чи соцмережах. Наприклад, нещодавнє різке зростання та падіння індексу S&P 500. Воно було пов’язане з помилковою інтерпретацією заяв адміністрації Трампа у X (колишньому Twitter). Уявімо, що бот на кшталт Grok отримує таку дезінформацію й оперативно здійснює серію фінансових операцій — наслідки можуть бути катастрофічними.
Відповідальність і межі застосування ШІ у фінансах
Одна з головних проблем — це відсутність прозорості у функціонуванні моделей. Алгоритми часто залишаються «чорними ящиками», рішення яких складно пояснити навіть розробникам. У разі, якщо така система вчинить дії, які порушують закон, виникає питання: хто нестиме відповідальність? Менеджери, які використовували модель, але не розуміли її внутрішньої логіки, можуть опинитися в зоні юридичної невизначеності.
Хоча деякі моделі ШІ застосовують у менш ризикованих завданнях. Наприклад, для створення електронних листів або автоматизації рутинної роботи — масове використання таких інструментів у високоризикованих галузях може мати фатальні наслідки. Цей виклик актуальний не лише для фінансів, а й для медицини, юриспруденції та інших сфер, де ціна помилки — життя або свобода людини.
