У сучасних реаліях, коли медична система багатьох країн стикається з надмірним навантаженням, а черги до лікарів можуть розтягуватись на тижні. Сам тоді дедалі більше людей звертаються за порадою до цифрових інструментів. Зокрема, чат-боти на базі штучного інтелекту, як-от ChatGPT, стають популярним інструментом для самодіагностики. За результатами одного з опитувань у США, близько 16% дорослих користуються такими сервісами для отримання медичних порад щонайменше раз на місяць.
Про це у своїй статті розповідає Techcrunch.
Попит на подібні інструменти зумовлений прагненням швидко отримати відповіді на медичні питання без очікування на консультацію. Проте, як виявилося, беззастережна довіра до порад від ШІ не завжди є виправданою і навіть може становити загрозу для здоров’я.
Обмеження у взаємодії з ШІ: результати дослідження з Оксфорда
Оксфордські дослідники нещодавно провели масштабне дослідження, яке виявило серйозні недоліки у використанні чат-ботів для медичних рішень. Як розповів директор аспірантури Інтернет-інституту Оксфорду Адам Махді, тестування за участю 1300 добровольців із Великої Британії показало. Користувачі, які користувалися чат-ботами, не робили кращих виборів щодо здоров’я, ніж ті, хто просто шукав інформацію онлайн чи довіряв власній інтуїції.
Учасникам пропонували оцінити змодельовані медичні ситуації та визначити подальші кроки дій — самостійно чи з допомогою ШІ. Для цього використовували такі моделі, як GPT-4o від OpenAI, Command R+ від Cohere та Llama 3 від Meta. З’ясувалося, що чат-боти не лише не допомагали краще виявити проблему, а й іноді сприяли заниженню оцінки її серйозності.
Одна з ключових проблем, обмежена якість взаємодії. Користувачі не завжди розуміли, яку саме інформацію слід надавати, а відповіді ботів часто містили неоднозначні рекомендації, які важко було інтерпретувати. За словами Махді, в окремих випадках чат-боти поєднували правильні поради з помилковими, що ускладнювало прийняття рішень.
Крім того, дослідники наголосили на відсутності у чат-ботів механізмів, які враховують повну складність комунікації з людьми. Це свідчить про те, що поточні моделі ще не готові до повноцінного використання в чутливих галузях, таких як медицина, де помилки можуть коштувати життя.
Ініціативи великих компаній та обережність професіоналів
Попри обмеження, технологічні гіганти продовжують активно просувати штучний інтелект у сфері охорони здоров’я. Наприклад, Apple працює над інструментом ШІ, який пропонуватиме поради щодо способу життя, сну та фізичних навантажень. Amazon використовує ШІ для аналізу медичних баз даних із метою виявлення соціальних чинників здоров’я. А Microsoft бере участь у створенні рішень для автоматичної обробки повідомлень від пацієнтів до медперсоналу.
Однак експертна спільнота залишається стриманою. Американська медична асоціація, зокрема, радить лікарям уникати використання чат-ботів під час прийняття клінічних рішень. Більше того, навіть самі розробники, включаючи OpenAI, застерігають користувачів від спроб ставити діагнози на основі відповідей від ChatGPT.
Махді закликає не покладатися винятково на поради ШІ, а приймати рішення щодо здоров’я лише на основі достовірних джерел та консультацій із фахівцями. За його словами, чат-боти мають пройти ретельне тестування в реальних умовах. Так само, як це відбувається з новими ліками, перш ніж їх можна буде вважати безпечними для масового використання в медицині.
