Google оголосив про запуск чат-бота зі штучним інтелектом Gemini для дітей молодше 13 років. Для тих хто користуються обліковими записами, керованими через платформу Family Link. За словами компанії, діти зможуть ставити запитання, отримувати допомогу із навчання та створювати історії за допомогою ШІ.
Про це інформує NYTimes.
Інформація про майбутнє розширення функціоналу надійшла батькам у вигляді електронного листа. Зокрема родинам, які вже мають досвід користування сервісами Google разом із дітьми. У листі повідомляється, що Gemini стане доступним для малечі найближчим часом. Однак доступ буде контролюватися дорослими, які мають змогу змінювати налаштування або обмежити використання сервісу.
Для безпеки молодших користувачів у Gemini передбачено спеціальні захисні бар’єри. Вони мають запобігати створенню небезпечного чи шкідливого контенту. Представник компанії Карл Райан підкреслив, що дані дітей, які користуються сервісом через Family Link, не будуть використані для навчання моделей ШІ.
Водночас Google не приховує можливих ризиків. У листі до батьків компанія попереджає, що «Gemini може помилятися». Також компанія закликає дорослих допомогти дітям навчитися критично ставитися до відповідей чат-бота. Крім того, наголошується, що дітям слід пояснити, що «Gemini — не людина», і застерегти їх від введення особистої інформації у чат.
ШІ в освіті чи ризик для психіки: дискусії тривають
Поява Gemini у цифровому середовищі дітей стала черговим кроком у масштабній гонитві технологічних гігантів за увагу молоді. Поки одні експерти бачать у цьому освітній прорив. Інші попереджають про потенційні загрози. За даними ЮНІСЕФ та інших дитячих організацій, генеративний ШІ може маніпулювати, дезінформувати або плутати дитячу уяву. Особливо якщо дитина не розуміє, що бот — це не людина, а складна комп’ютерна система.
«Генеративний штучний інтелект створив небезпечний контент», — йдеться у глобальному звіті ЮНІСЕФ щодо ризиків і можливостей ШІ для дітей.
Крім того, існує занепокоєння, що навіть за наявності фільтрів, діти можуть зіткнутися з матеріалами, які батьки вважатимуть неприйнятними.
Google не вперше просуває дитячі версії своїх продуктів. У 2015 році компанія запустила YouTube Kids. Окремий відеосервіс, створений спеціально для малечі. Однак досвід інших технологічних компаній показує, що дитячі продукти можуть викликати шквал критики.
Так, у 2021 році компанія Meta була змушена згорнути проєкт Instagram Kids після масових протестів з боку захисників прав дитини та прокурорів кількох штатів. Причиною стали сумніви щодо здатності компанії забезпечити безпеку дітей у цифровому середовищі.
Конфіденційність передусім: відповідність закону COPPA
Google підкреслює, що запуск Gemini для дітей повністю відповідає вимогам американського Закону про захист конфіденційності дітей в Інтернеті (COPPA). Цей федеральний закон вимагає, щоб компанії отримували згоду батьків перед збором персональної інформації про дітей віком до 13 років, зокрема домашніх адрес або фотографій.
Доступ до Gemini спочатку буде автоматичним для дітей з обліковками Family Link. Але батьки матимуть змогу керувати параметрами. Компанія обіцяє надіслати повідомлення, коли дитина вперше скористається ботом, аби дорослі могли втрутитися за потреби.
Натомість нещодавно редакція сайту AI360 писала про те, що Google під вогнем критики через непрозорий звіт щодо безпеки моделі Gemini. Google опублікувала технічний звіт про безпеку своєї найновішої моделі штучного інтелекту Gemini 2.5 Pro лише через кілька тижнів після її запуску.
Хоча така документація зазвичай слугує основою для незалежної оцінки ризиків, цей звіт викликав розчарування серед експертів. Експертам не сподобалося його обмеженість і відсутність глибоких висновків. Зокрема, звіт не містить конкретних даних про потенційні небезпеки або реальні сценарії зловживання новою моделлю.
