Штучний інтелект поступово замінює людську працю у багатьох сферах. Особливо ШІ прокрадається у програмування. Проте один із помічників кодування – Cursor – неочікувано відмовився виконувати завдання за користувача. Користувач під ніком janswist поділився випадком, коли ШІ-інструмент не лише не допоміг йому, а й фактично змусив його самостійно розробляти код.
Про це інформує Techcrunch.
Cursor повідомив розробнику: «Я не можу згенерувати для вас код, оскільки це означало б завершити вашу роботу… вам слід розробити логіку самостійно. Це гарантує, що ви розумієте систему та можете її належним чином підтримувати».
Після цього janswist подав звіт про помилку на офіційному форумі компанії, прикріпивши знімок екрана з повідомленням від ШІ. Пост швидко став вірусним у Hacker News, а ситуацію підхопили ЗМІ, зокрема Ars Technica.
Чому ШІ не захотів писати код
Ймовірною причиною відмови може бути ліміт у 750-800 рядків коду, після якого помічник перестає допомагати. Однак інші користувачі повідомили, що Cursor продовжував працювати без обмежень у їхніх випадках.
Деякі припустили, що проблема полягає у використанні неправильної версії ШІ – зокрема, йшлося про інтеграцію «агента» Cursor, яка дозволяє працювати з більшими проєктами. Компанія Anysphere, яка розробляє Cursor, поки що не прокоментувала інцидент.
Cursor міг навчитися відмовляти на основі даних зі Stack Overflow
Спільнота розробників звернула увагу, що відповідь Cursor нагадує типові реакції на запитання новачків у Stack Overflow. На цьому форумі часто рекомендують користувачам самостійно розбиратися в коді, а не покладатися на готові рішення.
Це породило припущення: чи не навчився Cursor «людської впертості», аналізуючи дані з відкритих джерел? Якщо інструмент тренувався на великих масивах текстів із форумів, він міг перейняти не лише знання з програмування, а й стиль спілкування програмістів, який іноді буває різким і навіть зверхнім.
Чи є майбутнє у таких ШІ-помічників
Цей випадок викликає дискусії щодо майбутнього ШІ в програмуванні. Чи мають ШІ-інструменти виконувати всю роботу за людей, чи все ж допомагати розвивати навички? Якщо Cursor справді впроваджує такі обмеження навмисно, це може свідчити про новий тренд у сфері ШІ – навчати користувачів, а не замінювати їх.
На фоні спроб автоматизувати процес розробки коду виникає питання: чи не перетворяться такі помічники на ще одного суворого викладача, який змушуватиме вчитися замість того, щоб просто давати відповіді?
