Google розпочав удосконалення своєї системи “Огляди штучного інтелекту” (AI Review) після появи дивних та потенційно небезпечних порад для користувачів.
Про це повідомляє informator.ua.
Ця нова функція, введена у пошук Google цього місяця, спричинила генерацію дуже неочікуваних відповідей на запити користувачів через “надзвичайно рідкісні запити”, на які система не була налаштована.
Engadget повідомляє про те, що AI Review рекомендувала користувачам дивні дії, такі як приклеювання сиру на піцу чи споживання каменів. Це викликало багато жартів, і Google намагався видалити певні відповіді нового пошуку. Проте тепер компанія вживає додаткові заходи для контролю над AI Review.
Google проаналізував відповіді AI Review за останні тижні та виявив, де система не працювала належним чином. На основі цього аналізу вони вжили ряд заходів для покращення роботи AI Review. Тепер система краще розуміє гумор та сатиричний контент, що допоможе уникнути небезпечних або дивних порад.
Це допомагає уникнути випуску небезпечних або дивних порад, які ґрунтуються на несерйозних запитах. Крім того, Google покращує навчання системи AI Review за рахунок більш репрезентативних даних та вдосконалення алгоритмів виявлення небезпечних або невідповідних відповідей.
Покрім поліпшення системи AI Review, Google також вживає інші заходи для уникнення проблем з AI Review. Компанія обмежила використання AI Review для запитів, де система не виявила себе ефективною, і припинила генерацію відповідей на певні теми, пов’язані зі здоров’ям, щоб уникнути поширення неточної чи потенційно небезпечної інформації.
