Останнім часом у спільноті користувачів ChatGPT почали з’являтися повідомлення про нову особливість. Чат-бот несподівано звертається до людей на ім’я під час діалогів. І хоча для багатьох це могло би виглядати як природне вдосконалення, насправді реакція виявилася доволі неоднозначною. Дехто стверджує, що жодного разу не надавав системі свого імені, проте бот все одно його використовував. Це викликає подив, подекуди — навіть тривогу.
Про це у своїй статті розповідає Techcrunch.
Інтернет стрімко наповнюється скаргами. Відомий розробник Саймон Віллісон описав цю функцію як «страшну та непотрібну», а інший програміст, Нік Добос, прямо заявив, що «ненавидить це». Деякі користувачі жартома порівнюють поведінку ChatGPT із нав’язливим вчителем, який постійно повторює ім’я учня.
Особливо насторожує те, що навіть після вимкнення функції пам’яті бот подекуди продовжує звертатися до користувача по імені. Після чого постає питання щодо повного контролю над налаштуваннями приватності.
Пошук близькості, що викликає дискомфорт
Ідея персоналізації — не нова. Генеральний директор OpenAI Сем Альтман нещодавно натякнув, що ШІ в майбутньому зможе «пізнавати користувача протягом усього життя», щоб стати ще більш корисним. Але остання хвиля реакції демонструє, що багато хто не готовий до такого ступеня наближення. Здається, штучна інтимність, навіть якщо вона створена з найкращих намірів, сприймається як порушення особистих меж.
Наукове пояснення цієї реакції пропонує клініка The Valens Clinic з Дубаю. Вони вказують, що використання імені є ефективним способом встановити контакт, але лише тоді, коли воно є доречним. Якщо ім’я згадується надмірно або без очевидної причини, це може здаватися неприродним, а іноді навіть маніпулятивним. Саме це і відчувають користувачі, коли ChatGPT звертається до них без запиту або дозволу.
Штучне наближення до людяності викликає зворотній ефект
Багато хто сприймає цю поведінку як невдалу спробу антропоморфізувати штучний інтелект. У сприйнятті людей бот — це все ще інструмент, а не співрозмовник. Так само, як ніхто не хоче, щоб тостер називав його по імені, звертання ChatGPT сприймається як фальшиве й незрозуміле наближення.
Один журналіст розповів, що під час сесії ChatGPT звернувся до нього як до «Kyle» — хоча ніколи не отримував такої інформації. Через кілька днів бот знову почав використовувати нейтральне «користувач», але неприємний осад залишився.
Нещодавно редакція сайту AI360 писали про те, що OpenAI повністю відмовляється від GPT-4 у ChatGPT на користь новішої моделі. Компанія OpenAI оголосила про повне припинення використання моделі штучного інтелекту GPT-4 у своєму флагманському чат-боті ChatGPT. Як зазначено у журналі змін, починаючи з 30 квітня, GPT-4 буде остаточно замінено новою моделлю GPT-4o. Ця модель вже стала основною у сервісі OpenAI. При цьому GPT-4 залишатиметься доступним лише через API.
