Європейські регулятори можуть посилити тиск на OpenAI після чергової скарги щодо конфіденційності. Група захисту прав на конфіденційність Noyb підтримала норвежця, який виявив, що ChatGPT вигадано звинуватив його у вбивстві власних дітей.
Про це у своїй статті розповідає Techcrunch.
Скарги щодо неправильних особистих даних у ChatGPT вже надходили раніше. Але випадок, коли штучний інтелект звинуватив людину в жахливому злочині, викликав резонанс. OpenAI не надає механізму для виправлення неправдивої інформації, що суперечить Загальному регламенту захисту даних (GDPR) ЄС.
За словами юриста Noyb Йоакіма Содерберга, ChatGPT порушує основний принцип GDPR – точність персональних даних. Попередження про можливі помилки, яке OpenAI додає до відповідей, не звільняє компанію від відповідальності за поширення дезінформації.
Можливі наслідки для OpenAI
Порушення GDPR може призвести до штрафу до 4% світового обороту OpenAI. Попереднє втручання італійських регуляторів у 2023 році вже змусило OpenAI змінити підхід до конфіденційності.
Поки що деякі регулятори, такі як Ірландська комісія із захисту даних (DPC), не поспішають із санкціями, намагаючись знайти збалансований підхід до регулювання генеративного ШІ. Проте нова скарга Noyb може стати вирішальним фактором у розслідуванні діяльності OpenAI в Європі.
Випадок, що викликав обурення
Noyb опублікувала скріншот, на якому ChatGPT заявив, що норвежець Арве Яльмар Холмен був засуджений за вбивство своїх дітей. Це неправда, хоча бот правильно вказав стать дітей і рідне місто Холмена.
Noyb досліджувала цей випадок і не знайшла жодних підстав для такої відповіді від ChatGPT. Ймовірно, велика мовна модель, на якій працює бот, використовувала набір даних із подібними кримінальними історіями, що призвело до такої “галюцинації“.
Як реагує OpenAI
OpenAI вже заявила, що працює над покращенням точності своїх моделей. Компанія стверджує, що в нових версіях ChatGPT інтегрувала онлайн-пошук, який має зменшити кількість помилкової інформації. Однак юристи Noyb наголошують: навіть якщо ChatGPT перестав видавати неправдиві відповіді про Холмена, це не гарантує, що подібні ситуації не повторяться з іншими людьми.
Noyb подала скаргу до Норвезького органу із захисту даних, сподіваючись, що справа не затягнеться, як це сталося з іншими розслідуваннями щодо OpenAI.
Чи загрожують компанії серйозні штрафи чи обмеження в ЄС – стане зрозуміло найближчими місяцями. Але цей випадок може змусити компанію переглянути свій підхід до відповідальності за точність інформації, яку генерує ШІ.
