Генеральний директор Anthropic Даріо Амодей виступив із гострою заявою про критичну необхідність зрозуміти, як саме працюють найсучасніші моделі штучного інтелекту. У своєму новому есе під назвою “Терміновість інтерпретації” він визнав:
“Що навіть провідні компанії не можуть достовірно пояснити внутрішні процеси роботи ШІ-систем”.
Занепокоєння викликає те, що, попри їхню потужність і вплив на суспільство, ми досі не розуміємо, чому ці моделі ухвалюють саме такі рішення.
Про це у своїй статті розповідає Techcrunch.
Агресивне впровадження ШІ без належного контролю, за словами Амодея, є вкрай ризикованим. Він зазначає, що автономність сучасних моделей зростає настільки стрімко, що людству небезпечно залишатися в невіданні щодо їхньої поведінки. І саме тому Anthropic поставила перед собою ціль. Навчитися своєчасно виявляти потенційні ризики моделей до 2027 року.
Anthropic стала одним із лідерів у напрямку механістичної інтерпретації. В галузі, яка прагне розкрити “чорну скриньку” штучного інтелекту. Компанія проводить глибокі дослідження, аби дізнатися, чому ті чи інші рішення приймаються всередині моделі. Амодей підкреслює, що хоча Anthropic зробила кілька проривів, цього ще недостатньо: лише фрагментарно зрозуміло, як моделі опрацьовують дані, обирають слова або роблять помилки.
Промовистим прикладом є нещодавній реліз моделей o3 та o4-mini від OpenAI, які краще справляються з певними завданнями. Але і водночас генерують більше помилкової інформації, при цьому ніхто достеменно не знає чому. Подібні випадки демонструють, що навіть у найрозвиненіших системах відсутній глибинний контроль над логікою їхньої роботи.
Нові дослідження та амбіції Anthropic
У своїх дослідженнях Anthropic уже досягла помітних результатів. Компанія змогла виявити деякі логічні «схеми» всередині моделей, які допомагають штучному інтелекту асоціювати, наприклад, американські міста з відповідними штатами. Але таких схем мільйони, і більшість із них ще не досліджені. Саме тому в довгостроковій перспективі компанія планує створити щось на кшталт «МРТ» для ШІ. Системи глибокої діагностики, які дозволять визначати небажану поведінку, включно з брехнею, прагненням до контролю чи іншими відхиленнями.
Амодей також визнає, що повне розуміння роботи моделей може зайняти від п’яти до десяти років. Та без цього, каже він, досягнення повноцінного загального штучного інтелекту — або, як він його називає, «країни геніїв у центрі обробки даних» — буде надто ризикованим.
Глобальні ініціативи та заклик до дій
У своєму есе керівник Anthropic звертається не лише до колег із OpenAI та Google DeepMind, а й до урядів із проханням підтримати прозорість. Він пропонує запровадити легкі регуляції, наприклад, зобов’язання компаній відкривати свої протоколи безпеки. Також Амодей вважає, що США повинні запровадити експортні обмеження на високопродуктивні чіпи до Китаю, щоб уникнути неконтрольованої технологічної гонки.
Anthropic вже зробила перші кроки в напрямку комерційної інтерпретованості, інвестувавши у стартап, який спеціалізується саме на цій темі. І хоча наразі ця галузь сприймається здебільшого як дослідна й безпекова, Амодей наголошує:
“Здатність пояснити, як саме працює ШІ, стане конкурентною перевагою вже найближчим часом“.
На відміну від деяких інших гравців ринку, Anthropic послідовно підтримує зусилля з регулювання галузі. Показовим є той факт, що компанія не виступила проти скандального каліфорнійського законопроєкту SB 1047, як це зробили деякі конкуренти, а натомість надала до нього свої рекомендації. Цей закон має запровадити базові вимоги до безпеки розробників передових ШІ-систем.
Anthropic просуває ідею про те, що майбутнє штучного інтелекту не має обмежуватися лише нарощуванням потужностей. Його розвиток має йти в парі з повним розумінням і здатністю пояснити, чому ШІ працює саме так. Це не лише захистить суспільство від потенційних ризиків, а й стане основою для етичного та контрольованого розвитку технологій майбутнього.
