Генеральний директор OpenAI Сем Альтман заявив у своєму блозі, що компанія досягла розуміння, як створювати штучний загальний інтелект (AGI), і тепер концентрує свої зусилля на розробці суперінтелекту. Альтман наголосив, що головна мета компанії – досягти «славного майбутнього», адже суперінтелект здатний значно пришвидшити наукові відкриття та інновації.
Про це інформує Techcrunch.
«Суперінтелектуальні інструменти можуть змінити світ, збільшуючи достаток і процвітання. Ми любимо наші поточні продукти, але працюємо заради майбутнього», – підкреслив Альтман.
AGI (Artificial General Intelligence) традиційно визначається як система, що перевершує людей у виконанні більшості економічно важливих завдань. OpenAI також співпрацює з Microsoft, яка вважає AGI системою, здатною принести понад 100 мільярдів доларів прибутку. За умовами угоди між компаніями, якщо OpenAI досягне цього рівня, Microsoft втратить доступ до технологій стартапу.
Альтман вірить, що в найближчі роки штучний інтелект може суттєво вплинути на ринок праці, залучивши AI-агентів до автономного виконання завдань.
Виклики та загрози сучасного ШІ
Попри оптимістичні прогнози, сучасні ШІ-системи мають обмеження. Наприклад, вони схильні до галюцинацій, припускаються очевидних помилок і вимагають значних витрат на розробку та обслуговування. Проте Альтман переконаний, що ці проблеми можна вирішити, причому швидко.
«Ми впевнені, що найближчі роки продемонструють необхідність діяти обережно, максимізуючи переваги нових технологій», – зазначив Сем Альтман.
У своїх дописах OpenAI неодноразово визнавала, що успішний перехід до світу з суперінтелектом не гарантований. Компанія визнає, що наразі не має рішень для управління надрозумними системами або запобігання їх неконтрольованій поведінці.
«Люди не зможуть контролювати системи ШІ, значно розумніші за них, тому існуючі методи вирівнювання не масштабуються для суперінтелекту», – наголосили в OpenAI у липні 2023 року.
Однак у компанії вже виникли труднощі з фокусом на безпеку. Після розпуску команд, що займалися безпекою суперінтелектуальних систем, кілька ключових дослідників покинули OpenAI, вказуючи на комерційні амбіції компанії як причину відходу.
Відповідь на критику
На критику про недостатній акцент на безпеці Альтман відповів, що OpenAI має багаторічний досвід відповідального розвитку штучного інтелекту. Водночас компанія проходить процес реструктуризації для залучення зовнішніх інвесторів, що може вплинути на її довгострокові пріоритети.
Раніше редакція сайту AI360 писала про те, що OpenAI зробила декілька грандіозних проривів у ШІ завдяки o3. Попри побоювання, що прогрес у напрямку більш розумного ШІ сповільнюється, нова модель OpenAI o3, представлена нещодавно, привернула увагу індустрії, демонструючи видатні досягнення.
