Дослідники давно задаються питанням, чи зможе штучний інтелект стати загрозою для людства. Одним із провідних мислителів у цій сфері є шведський філософ Нік Бостром.
Автор книги Superintelligence: Paths, Dangers, Strategies, сформулював одну з найвпливовіших теорій про можливі ризики, які несе розвиток штучного інтелекту. Бостром не лише досліджує потенціал ШІ, а й закликає до обережності. Наголошує, що надмірна технологічна експансія без належних запобіжних заходів може призвести до непередбачуваних наслідків.
У цій статті видання AI 360 розгляне його основні ідеї, внесок у філософію технологій та роль у сучасних дискусіях про майбутнє людства.
Біографія Ніка Бострома
Нік Бостром — шведський філософ і дослідник у сфері етики технологій, відомий своїми роботами про глобальні ризики, ШІ і трансгуманізм. Народився 10 березня 1973 року у Швеції. Його академічний шлях розпочався з дослідження філософії, логіки та штучного інтелекту, що згодом привело його до здобуття докторського ступеня в Лондонській школі економіки у 2000 році.
Погляди
Для Ніка Бострома не має значення, який саме науковий підхід приведе людство до створення суперинтелекту. Це можуть бути програмісти, які розроблять алгоритми, здатні до самостійного мислення, або ж нейробіологи, що відтворять штучний аналог людського мозку. Головне, що цей момент настане значно швидше, ніж здається сучасному суспільству.
Бостром опитав провідних експертів у галузі штучного інтелекту, і більшість із них прогнозують, що створення істинно розумної машини стане реальністю вже між 2040 і 2050 роками. Це означає, що людство має обмежений час, аби підготуватися до нової ери, в якій машини можуть стати не просто інструментами, а незалежними гравцями на глобальній арені.
Інститут майбутнього людства
З 2005 року Бостром є засновником та керівником Інституту майбутнього людства (Future of Humanity Institute) при Оксфордському університеті.
Це міждисциплінарна дослідницька організація, що об’єднала фахівців із філософії, комп’ютерних наук, математики та економіки. Основна місія FHI полягала у розробці стратегій, які могли б забезпечити довготривалий розвиток цивілізації. А також вивченні потенційних екзистенційних загроз, включаючи небезпеки штучного інтелекту, біотехнологій та інших проривних технологій.
За 19 років існування FHI став провідним центром з дослідження таких концепцій, як екзистенційні ризики, ефективний альтруїзм, довготривалий розвиток (longtermism), безпека штучного інтелекту та глобальні катастрофічні загрози. Інститут також зробив внесок у розуміння питань етики людського вдосконалення, прогнозування майбутніх технологій, системного моделювання ризиків і навіть можливості існування позаземного розуму. Одним із ключових досягнень FHI стало доведення того, що великі питання про майбутнє людства можуть бути предметом суворого академічного аналізу.
Попри значний вплив на світову наукову спільноту, з 2020 року Інститут почав стикатися з адміністративними обмеженнями з боку філософського факультету Оксфорду. Це стало причиною замороження фінансування та призупинення найму нових дослідників. У 2023 році керівництво факультету ухвалило рішення не продовжувати контракти співробітників. Що зрештою призвело до офіційного закриття Інституту 16 квітня 2024 року.
Незважаючи на завершення своєї діяльності, FHI залишив помітний слід у науковій сфері, заклавши основу для нових дослідницьких напрямків. Його випускники продовжують працювати над ключовими питаннями в провідних академічних центрах, урядових установах, некомерційних організаціях та лабораторіях штучного інтелекту. Теми, які колись вважалися маргінальними, сьогодні знаходяться в центрі уваги міжнародної науки та політики.
Штучний інтелект. Етапи. Загрози. Стратегії
Серед ключових тем, які вивчає Бостром, — штучний інтелект, можливості безсмертя через криоконсервацію, завантаження свідомості в цифрові носії, розвиток нанотехнологій та концепція змодельованої реальності. Його книга Superintelligence: Paths, Dangers, Strategies (2014) стала бестселером і однією з найвпливовіших робіт про перспективи розвитку ШІ.
У своїй книзі Нік Бостром глибоко аналізує можливі шляхи розвитку штучного інтелекту, його потенційні загрози та стратегії, які можуть допомогти людству уникнути катастрофічних наслідків. Він ставить ключове питання: що станеться, коли машини перевершать людей за рівнем інтелекту?
Автор наголошує, що момент появи першого суперинтелекту стане незворотним етапом в історії — і те, яким він буде, визначить майбутнє всього людства. Він також вводить поняття «вибуху інтелекту», коли ШІ починає самостійно покращувати власні алгоритми, що може призвести до неконтрольованого зростання його можливостей.
Щоб уникнути негативних наслідків, Бостром пропонує різні стратегії контролю, серед яких — алгоритмічні обмеження, етичне програмування та міжнародне регулювання розвитку ШІ.
Книга не лише піднімає тривожні питання, а й стимулює глобальну дискусію серед вчених, філософів і технологічних лідерів про те, як зробити майбутнє з штучним інтелектом безпечним для людства.
Завдяки своєму внеску в наукові дискусії про майбутнє людства, Бостром здобув міжнародне визнання. Його роботи активно обговорюють дослідники, політики та технологічні лідери. Він не лише формує дискурс щодо безпеки штучного інтелекту, а й пропонує стратегії, які можуть допомогти людству підготуватися до потенційних викликів технологічної епохи.
