Нові наукові дослідження демонструють, що передові ШІ можуть вдавати з себе менш розумних, ніж вони є насправді.
Так відбувається завдяки їхній здатності до “вибудовування” свого інтелектуального рівня, пише УНН.
Це відкриття має важливі наслідки, оскільки розробники продовжують постійно удосконалювати свої великі мовні моделі.
За інформацією від Futurism, стаття у PLOS One показала, що в процесі випробувань великої мовної моделі (LLM) за “теоріями розуму”, науковці з Берлінського університету Гумбольдта прийшли до висновку, що ШІ можуть не лише імітувати етапи мовного розвитку, спостережені у дітей, але й проявляти розумові здібності, характерні для цих етапів.
У своєму інтерв’ю PsyPost, наукова співробітниця Університету Гумбольдта і головний автор дослідження Анна Марклова пояснила, як її робота в області психолінгвістики відображає це відкриття.
Використовуючи теорії розуму, зорієнтовані на дітей, науковці з Карлового університету в Празі спробували визначити, чи можуть LLM, такі як GPT-4 від OpenAI, “прикидатися менш здібними, ніж вони є насправді”.
Протягом більш ніж 1000 випробувань і когнітивних тестів ці “модельовані дитячі особи” розвивалися майже так само, як діти цього віку. В кінці кінців, вони продемонстрували здатність створювати враження меншої розумової здібності, ніж насправді.
“Великі мовні моделі можуть імітувати менший інтелект“, – підкреслила Марклова.
Стаття наголошує, що антропоморфізація ШІ може бути неефективною, і пропонує нову теорію розуму, яка змінює підхід до оцінки моделей на їхню здатність “вибудовувати особистість”.
Загалом ці результати можуть сприяти розвитку штучного загального інтелекту (AGI) і робити його майбутнє безпечнішим.
“Ми повинні діяти обережно і не намагатися змушувати їх імітувати обмежений інтелект людини“, – зауважила Марклова.
“Це також підтверджує, що ми можемо недооцінювати їхні можливості на протязі тривалого періоду, що може бути небезпечним“, додала вона.
