Що, як навіть усередині однієї компанії думки про загальний штучний інтелект не збігаються? Google і Google DeepMind вирішили показати ці розбіжності відкрито. 16 вересня вони запустили Інститут DeepMind, який має розширити дискусію про ЗШІ. Директорами стали співзасновник DeepMind Шейн Легг, виконавчий директор Google Джеймс Маньїка та голова Google DeepMind Деміс Хассабіс, а Легг ще й очолив редакцію інституту.
Мета існування інституту
Інститут має виявляти різницю в поглядах на ЗШІ між Google, Google DeepMind і ширшою дослідницькою спільнотою. В оголошенні прямо сказано, що учасники не завжди погоджуватимуться. Вони, ймовірно, змінюватимуть думку, бо на такому швидкому фронті постійно з’являються нові дані.
Перша збірка складається з чотирьох есе. Вони стосуються економічної політики для управління потрясіннями, які може спричинити розвиток ШІ, збереження міркувань моделей у зрозумілому для людини вигляді, принципів процвітання людства та основи для оцінювання передових моделей.
В одному з есе дослідники безпеки DeepMind Рохін Шах і Анка Драган розглядають так зване вікно прозорості: здатність бачити й перевіряти покрокове міркування моделі. Вони стверджують, що його звуження не є неминучим. Нові архітектури ускладнюють моніторинг найпотужніших систем, і автори вважають, що розробники та регулятори мають прямо визнати компроміси щодо безпеки.
Хассабіс у своєму есе пропонує створити орган зі стандартизації передового ШІ під керівництвом США, який оцінюватиме найсучасніші моделі. Спочатку розробники добровільно подаватимуть моделі на розгляд не пізніше ніж за 30 днів до випуску. Коли система оцінювання доведе свою ефективність, проходження її перевірок може стати обов’язковою умовою розгортання передових моделей у Сполучених Штатах.
Спершу орган розроблятиме оцінки разом із компаніями ШІ. Згодом він перейде до незалежних нерозкритих оцінок, які в есе названо прихованим тестуванням. Так лабораторії не зможуть підлаштовуватися під відомі тести.
