Леопольд Ашенбреннер, молодий вундеркінд і колишній дослідник OpenAI, опублікував провокаційний маніфест «Ситуаційна обізнаність», де прогнозує появу загального штучного інтелекту (AGI) до 2027 року. Він стверджує, що ШІ незабаром стане ключовим споживачем енергії у США та матиме значний вплив на світовий геополітичний порядок. Центральна теза Ашенбреннера полягає у тому, що ШІ незабаром стане здатним самостійно вдосконалюватися, що може призвести до «вибуху інтелекту».
Про це пише Forbes.
Експоненційне прискорення розвитку ШІ
Ашенбреннер вважає, що штучний інтелект зможе самостійно займатися дослідженнями у галузі ШІ, що стане каталізатором для рекурсивного самовдосконалення. Ця концепція, хоча і здається футуристичною, вже знаходить своє відображення у сучасних дослідженнях.
Вчені починають створювати системи ШІ, здатні розробляти нові архітектури для покращення самих себе, що може прискорити прогрес у сфері ШІ.
ШІ як дослідник
Для багатьох ідея ШІ, що займається самовдосконаленням, здається науковою фантастикою. Однак, за словами Ашенбреннера, робота дослідника ШІ може бути автоматизована.
Завдання дослідника, такі як аналіз літератури, розробка нових ідей, проведення експериментів та інтерпретація результатів, можна виконувати цифровими засобами, що робить їх ідеальними для автоматизації.
Завдяки цифровій природі досліджень ШІ, вони можуть бути автоматизовані швидше, ніж багато інших видів діяльності. Люди, які створюють ці системи, мають глибоке розуміння процесу досліджень, що дозволяє їм створювати ефективні системи автоматизації.
Наслідки для майбутнього
Автоматизація досліджень ШІ відкриває нові горизонти для науки та технологій. Мільйони автоматизованих дослідників зможуть цілодобово працювати над розширенням меж знань у різних галузях. Це може призвести до проривів у науках про життя, а саме:
- Робототехніці
- Матеріалознавстві
- Та у боротьбі зі зміною клімату.
Проте виникають і нові ризики, які потребують обережного підходу до розвитку та застосування цих технологій.
Етичні та безпекові виклики
Разом із можливостями, які відкриває автоматизація досліджень ШІ, з’являються й серйозні етичні та безпекові виклики. Стрімкий розвиток суперінтелекту може призвести до непередбачуваних наслідків, зокрема до посилення соціальної нерівності, зростання безробіття через автоматизацію праці та потенційного використання ШІ у військових цілях.
Важливо, щоб розвиток цих технологій супроводжувався створенням чітких регуляцій і механізмів контролю, які б гарантували їх безпечне використання для людства.
