OpenAI нещодавно створила спеціальну команду, яка займається безпекою дітей у сфері ШІ. Під назвою «Команда безпеки дітей» вона співпрацює з внутрішніми групами. Такими як політика платформи, юридичні та розслідувальні роботи. А також зовнішніми партнерами для обробки процесів, інцидентів і перевірок, пов’язаних із неповнолітніми користувачами.
Ця ініціатива OpenAI з’явилася на тлі зростання занепокоєння з приводу неповнолітніх. Які використовують інструменти штучного інтелекту. Компанія також дотримується нормативних актів. Таких як Правила США щодо захисту конфіденційності дітей в Інтернеті, які встановлюють суворий контроль за онлайн-діяльністю дітей і збором даних. Із збільшенням використання інструментів штучного інтелекту дітьми та підлітками в освітніх та особистих цілях зростає потреба в усуненні потенційних ризиків. Партнерство OpenAI із Common Sense Media та спільні зусилля в розробці рекомендацій щодо штучного інтелекту. Зручних для дітей, з метою сприяння відповідальному та безпечному використанню штучного інтелекту серед неповнолітніх.
Чому це має значення
Діти та підлітки все більше покладаються на інструменти штучного інтелекту. Не лише для академічної допомоги, але й для вирішення особистих проблем. Згідно з опитуванням, проведеним Центром демократії та технологій, 29% дітей використовували ChatGPT для вирішення проблем із тривогою чи психічним здоров’ям. 22% – для вирішення проблем, пов’язаних із друзями, і 16% – для вирішення сімейних конфліктів.
Деякі потенційні ризики ШІ для дітей включають:
Питання конфіденційності та безпеки: системи штучного інтелекту можуть збирати особисту інформацію про дітей без їх відома. Що може бути використано хакерами або використано для цільової реклами.
Психологічні наслідки: діти можуть отримувати неприйнятний вміст або небезпечну дезінформацію через платформи на базі ШІ. Що може мати негативний психологічний і поведінковий вплив.
Надмірна залежність від інструментів штучного інтелекту: існує ризик того, що діти можуть занадто покладатися на штучний інтелект. Що вплине на прийняття рішень і самостійність.
Вплив неприйнятного вмісту: навчальні бази даних штучного інтелекту можуть містити незаконні зображення. Що зображують сексуальне насильство над дітьми, що може допомогти моделям створення зображень у створенні відвертих зображень дітей. Технології на основі штучного інтелекту можуть увічнити шкідливі стереотипи. Вони підживлюють расизм і можуть бути шкідливими для дітей.
