Nghiên cứu phát hiện chatbot AI chưa sẵn sàng để thay thế các bác sĩ

Các chatbot AI ngày càng được quảng bá rộng rãi như là tương lai của ngành chăm sóc sức khỏe, với một số hệ thống hoạt động tốt trong các kỳ thi y khoa tiêu chuẩn và cung cấp lời khuyên dựa trên triệu chứng cho người dùng. Tuy nhiên, một nghiên cứu mới được công bố trên tạp chí Nature Medicine cho thấy những công cụ này không những còn xa mới có thể thay thế các bác sĩ, mà còn có thể gây ra rủi ro khi được sử dụng để hướng dẫn y tế cá nhân.

Nghiên cứu do các nhóm từ Đại học Oxford dẫn đầu đã chỉ ra một khoảng trống lớn trong các mô hình ngôn ngữ lớn (LLMs). Trong khi các hệ thống thể hiện kiến thức kỹ thuật vững chắc và hoạt động tốt trong các bài kiểm tra y khoa có cấu trúc, chúng lại gặp khó khăn khi được yêu cầu hỗ trợ người dùng với các vấn đề sức khỏe thực tế. Theo các nhà nghiên cứu, việc chuyển đổi kiến thức lý thuyết thành lời khuyên y tế an toàn và thực tiễn vẫn là một thách thức lớn.

Tiến sĩ Rebecca Payne, người đứng đầu nhóm y tế tham gia nghiên cứu, cho biết rằng mặc dù sự nhiệt huyết ngày càng tăng về AI trong lĩnh vực chăm sóc sức khỏe, công nghệ này vẫn chưa sẵn sàng để đảm nhận trách nhiệm của một bác sĩ. Bà cảnh báo rằng việc dựa vào các mô hình ngôn ngữ lớn để phân tích triệu chứng có thể rất nguy hiểm, vì chúng có thể đưa ra chẩn đoán sai hoặc không nhận biết được các tình huống cần cấp cứu y tế.

Kiểm tra quy mô lớn tiết lộ những điểm yếu chính

Nghiên cứu đã bao gồm 1.300 người tham gia sử dụng các mô hình AI do OpenAI, Meta và Cohere phát triển. Các người tham gia được trình bày các tình huống y tế do bác sĩ tạo ra và hỏi các hệ thống AI về các bước cần thực hiện để xử lý các tình trạng đã mô tả.

Các nhà nghiên cứu nhận thấy rằng lời khuyên do AI tạo ra không đáng tin cậy hơn các phương pháp tự chẩn đoán truyền thống, như tìm kiếm trực tuyến hoặc phán đoán cá nhân. Trong nhiều trường hợp, người dùng nhận được sự kết hợp giữa hướng dẫn chính xác và sai lệch, khiến họ gặp khó khăn trong việc xác định các bước tiếp theo phù hợp. Một thách thức khác là giao tiếp: người tham gia thường gặp khó khăn trong việc hiểu rõ thông tin mà AI cần để đưa ra các khuyến nghị chính xác.

Tiến sĩ Payne nhấn mạnh rằng chẩn đoán y học không chỉ đơn thuần là ghi nhớ các facts. Bà giải thích rằng việc chăm sóc hiệu quả đòi hỏi phải lắng nghe cẩn thận, đặt câu hỏi làm rõ, tìm kiếm các triệu chứng liên quan và hướng dẫn bệnh nhân qua một cuộc trò chuyện linh hoạt. Bệnh nhân thường không biết rõ những chi tiết nào là quan trọng về mặt y học, nghĩa là các bác sĩ phải chủ động khai thác thông tin quan trọng. Nghiên cứu kết luận rằng các LLM hiện tại chưa đủ khả năng quản lý một cách đáng tin cậy tương tác phức tạp này với những người không phải chuyên gia.

Vai trò hỗ trợ, không phải vai trò lâm sàng

Trong khi các nhà nghiên cứu cảnh báo không nên sử dụng chatbot AI như các cố vấn y tế, họ không loại trừ công nghệ này hoàn toàn. Thay vào đó, họ đề xuất AI có thể đóng vai trò hỗ trợ trong các môi trường chăm sóc sức khỏe. Tiến sĩ Payne lưu ý rằng các LLM đặc biệt hữu ích trong việc tóm tắt và tổ chức thông tin. Trong các môi trường lâm sàng, chúng đã được sử dụng để phiên âm các cuộc tư vấn và chuyển đổi thành thư giới thiệu chuyên gia, bảng thông tin cho bệnh nhân hoặc hồ sơ y tế.

Nhóm nghiên cứu kết luận rằng mặc dù AI có tiềm năng trong lĩnh vực chăm sóc sức khỏe, nhưng hiện tại chưa phù hợp để cung cấp lời khuyên y tế trực tiếp. Họ cho rằng cần có các khung đánh giá và tiêu chuẩn an toàn cải tiến trước khi các hệ thống này có thể được tích hợp một cách có trách nhiệm vào các vai trò hướng tới bệnh nhân. Mục tiêu của họ không phải là loại trừ AI trong y học, mà là phát triển nó theo hướng ưu tiên an toàn cho bệnh nhân và độ chính xác lâm sàng.