Дослідження виявили, що чат-боти з штучним інтелектом ще не готові замінити лікарів

Інтелектуальні чат-боти на основі штучного інтелекту все частіше просуваються як майбутнє охорони здоров’я, причому деякі системи добре справляються з стандартизованими медичними іспитами та пропонують рекомендації на основі симптомів користувачам. Однак нове дослідження, опубліковане у журналу Nature Medicine, свідчить, що ці інструменти не лише далекі від заміни лікарів, а й можуть становити ризики при використанні для особистих медичних порад.

Дослідження, яке очолили команди з Оксфордського університету, виявило суттєвий розрив у можливостях великих мовних моделей (LLMs). Хоча системи демонстрували високий рівень технічних знань і добре справлялися з структурованими медичними оцінками, вони мали труднощі, коли їх просили допомогти користувачам з реальними проблемами здоров’я. За словами дослідників, перетворення теоретичних знань у безпечні та практичні медичні поради залишається серйозним викликом.

Доктор Ребекка Пейн, провідний медичний фахівець, яка брала участь у дослідженні, заявила, що незважаючи на зростаючий ентузіазм щодо застосування ШІ у медицині, ця технологія ще не готова брати на себе обов’язки лікаря. Вона попередила, що покладанняся на великі мовні моделі для аналізу симптомів може бути небезпечним, оскільки вони можуть давати неправильні діагнози або не розпізнавати ситуації, що потребують невідкладної медичної допомоги.

Масштабне тестування виявило ключові слабкі місця

У дослідженні взяли участь 1300 осіб, які користувалися моделями ШІ, розробленими компаніями OpenAI, Meta та Cohere. Учасникам пропонувалися медичні сценарії, створені лікарями, і запитували, які кроки слід зробити для вирішення описаних станів.

Дослідники з’ясували, що поради, згенеровані ШІ, не були більш надійними за традиційні методи самодіагностики, такі як пошук в інтернеті або особистий досвід. У багатьох випадках користувачі отримували поєднання точної та хибної інформації, що ускладнювало визначення подальших дій. Ще однією проблемою була комунікація: учасники часто не розуміли, яку саме інформацію потрібно надати ШІ для отримання точних рекомендацій.

Доктор Пейн підкреслила, що медична діагностика — це більше, ніж просто запам’ятовування фактів. Вона пояснила, що ефективне надання допомоги вимагає уважного слухання, постановки уточнюючих питань, пошуку релевантних симптомів і ведення динамічної бесіди з пацієнтом. Пацієнти часто не знають, які деталі мають медичне значення, тому лікарі повинні активно витягати цю важливу інформацію. Дослідження дійшло висновку, що сучасні LLM ще не здатні надійно керувати цим складним взаємодією з непрофесіоналами.

Роль підтримки, а не клінічна

Хоча дослідники застерігали від використання чат-ботів на основі ШІ як медичних радників, вони не відкидали цю технологію цілком. Навпаки, вони запропонували, що ШІ може відігравати підтримуючу роль у системах охорони здоров’я. Доктор Пейн зазначила, що LLM особливо корисні для підсумовування та організації інформації. У клінічних умовах їх вже використовують для транскрипції консультацій і перетворення їх у направлення до спеціалістів, інформаційні листівки для пацієнтів або медичні записи.

Команда дійшла висновку, що хоча ШІ має потенціал у медицині, наразі він не готовий до безпосереднього надання медичних порад. Вони наголошують, що перед впровадженням таких систем у ролі, орієнтовані на пацієнтів, необхідно розробити покращені рамки оцінки та стандарти безпеки. Їхня мета — не відмовитися від ШІ у медицині, а забезпечити його розвиток у спосіб, що пріоритетизує безпеку пацієнтів і клінічну точність.