AI y tế đánh giá sai triệu chứng ở phụ nữ và nhóm thiểu số

Nguy cơ thiên lệch trong chăm sóc sức khỏe

Các nghiên cứu từ Mỹ và Anh cho thấy việc ứng dụng AI trong y tế có thể tạo ra quyết định thiên lệch, làm trầm trọng thêm tình trạng điều trị chưa đầy đủ, vốn đã tồn tại ở nhiều nhóm dân cư.

Các mô hình ngôn ngữ lớn (LLM) thường đánh giá thấp mức độ nghiêm trọng của triệu chứng ở bệnh nhân nữ, đồng thời thể hiện ít sự thấu cảm hơn với bệnh nhân da đen và người gốc Á.

AI y tế đang được ứng dụng rộng rãi

Nhiều bệnh viện đã dùng AI như ChatGPT, Gemini hay các ứng dụng chuyên biệt của startup Nabla, Heidi để ghi chép tự động, tạo bản tóm tắt bệnh án và hỗ trợ bác sĩ. Microsoft thậm chí giới thiệu công cụ AI chẩn đoán bệnh phức tạp với độ chính xác cao gấp bốn lần bác sĩ.

Tuy nhiên, kết quả nghiên cứu lại chỉ ra mặt trái: GPT-4, Llama 3 hay Palmyra-Med thường khuyến nghị mức chăm sóc thấp hơn cho phụ nữ và đôi khi khuyên tự điều trị tại nhà.

Một nghiên cứu khác cho thấy GPT-4 và nhiều mô hình AI có xu hướng trả lời thiếu cảm thông khi bệnh nhân da đen hoặc gốc Á tìm kiếm hỗ trợ về sức khỏe tinh thần.

Tại Anh, mô hình Gemma của Google được dùng trong hơn một nửa chính quyền địa phương, cũng bị phát hiện giảm nhẹ các vấn đề thể chất và tâm lý của phụ nữ so với nam giới khi tổng hợp hồ sơ xã hội.

Nguyên nhân từ dữ liệu huấn luyện

Nguyên nhân chính được cho là do dữ liệu huấn luyện chưa đa dạng. Các mô hình ngôn ngữ phổ biến thường học từ internet, vốn chứa nhiều định kiến về giới và sắc tộc.

Hơn nữa, nghiên cứu y tế lâu nay thường tập trung vào nam giới, trong khi vấn đề sức khỏe của phụ nữ bị thiếu hụt dữ liệu và nguồn lực nghiên cứu.

OpenAI khẳng định nhiều nghiên cứu dựa trên phiên bản cũ của GPT-4, và họ đã cải thiện độ chính xác kể từ khi phát hành. Công ty cũng hợp tác với các bác sĩ, chuyên gia để kiểm thử mô hình và phát hiện rủi ro. Google cho biết họ phát triển các biện pháp bảo vệ chống thiên lệch và ưu tiên dữ liệu đa dạng hơn.

Một số chuyên gia đề xuất cách hiệu quả nhất là loại bỏ các tập dữ liệu chứa thiên lệch ngay từ đầu và xây dựng nguồn dữ liệu y tế đại diện hơn.

Hướng nghiên cứu AI y tế mới

Tại Anh, Đại học UCL và King’s College London đã hợp tác cùng NHS phát triển mô hình AI mang tên Foresight, sử dụng dữ liệu quy mô quốc gia để phản ánh toàn diện đặc điểm dân số và bệnh lý. Ở châu Âu, dự án Delphi-2M cũng được triển khai, dự đoán nguy cơ bệnh tật hàng chục năm sau dựa trên dữ liệu 400.000 hồ sơ y tế ẩn danh.

Tuy vậy, những dự án này đối mặt với lo ngại về quyền riêng tư dữ liệu, dẫn tới việc Foresight tạm dừng do bị khiếu nại về bảo mật.

Các chuyên gia thừa nhận AI mang lại nhiều lợi ích cho y tế, từ giảm tải cho bác sĩ đến phát hiện sớm bệnh tật. Nhưng nếu không được kiểm soát, AI có thể tạo ra định kiến nguy hiểm trong điều trị.

Giáo sư Marzyeh Ghassemi (MIT) cho rằng thay vì chỉ tập trung tăng thêm vài phần trăm hiệu suất, AI y tế nên được định hướng vào việc giải quyết những khoảng trống quan trọng trong chăm sóc sức khỏe.