Trí tuệ nhân tạo AI trong các ứng dụng chăm sóc sức khỏe và rủi ro tiềm tàng có thể phòng ngừa

Sự ra đời của trí tuệ nhân tạo (artificial intelligence AI) trong chăm sóc sức khỏe hứa hẹn những thay đổi mang tính chuyển đổi có thể cải thiện đáng kể kết quả lâm sàng, giảm chi phí hoạt động và nâng cao chất lượng chăm sóc cho bệnh nhân. Bằng cách tận dụng khả năng xử lý và phân tích lượng dữ liệu khổng lồ với tốc độ và độ chính xác của AI, các tổ chức chăm sóc sức khỏe ngày càng chuyển sang AI cho các nhiệm vụ từ chẩn đoán y tế và kế hoạch điều trị cá nhân hóa đến cải thiện các quy trình hành chính.

Tuy nhiên, giống như bất kỳ công nghệ đột phá nào, AI cũng mang đến vô số rủi ro tiềm ẩn, đặc biệt là khi ứng dụng vào các cơ sở lâm sàng. Khi không được quản lý đúng cách, AI có thể vô tình gây ra tác hại, rủi ro có thể phòng ngừa cho bệnh nhân, làm trầm trọng thêm sự chênh lệch về sức khỏe hoặc làm suy yếu lòng tin vào hệ thống chăm sóc y tế.

🍀Lời hứa và cạm bẫy của AI trong chăm sóc sức khỏe

Tiềm năng của AI trong chăm sóc sức khỏe là không thể phủ nhận. Công nghệ này có thể hỗ trợ việc ra quyết định lâm sàng bằng cách xác định các mô hình và đưa ra những dự đoán mà ngay cả những chuyên gia chăm sóc sức khỏe dày dạn kinh nghiệm nhất cũng không làm được. Trong các lĩnh vực như chẩn đoán hình ảnh, công cụ chẩn đoán và phân tích dự đoán, AI đã cho thấy triển vọng đáng kể trong việc cải thiện độ chính xác của chẩn đoán, đẩy nhanh kế hoạch điều trị và thậm chí hỗ trợ phẫu thuật bằng robot.

Tuy nhiên, bất chấp những ứng dụng tích cực này, việc tích hợp AI vào chăm sóc sức khỏe cũng đặt ra những thách thức đáng kể. 🌼Một trong những mối quan tâm cấp bách nhất là các mô hình AI chỉ vận hành tốt bằng dữ liệu mà chúng được đào tạo. Nếu dữ liệu được sử dụng để đào tạo các mô hình AI bị lỗi, không đầy đủ hoặc bị thiên vị, thì kết quả có thể gây hiểu lầm.

Các hệ thống AI có thể duy trì những thiên vị này, có thể dẫn đến kết quả sức khỏe không đồng đều giữa các nhóm nhân khẩu học khác nhau, làm trầm trọng thêm sự chênh lệch sức khỏe hiện có.

🍀Ví dụ, các mô hình AI được đào tạo trên nhóm dân số chủ yếu là người da trắng có thể gặp khó khăn trong việc chẩn đoán chính xác các tình trạng bệnh ở người da màu, dẫn đến việc điều trị không chính xác hoặc chậm trễ.

Hơn nữa, các hệ thống AI có thể gặp phải “ảo giác”, một thuật ngữ dùng để mô tả các kết quả đầu ra sai hoặc gây hiểu lầm do AI tạo ra. Những ảo giác này có thể làm suy yếu quá trình ra quyết định lâm sàng, tạo ra cảm giác tin tưởng sai lầm vào các khuyến nghị của AI. Trong một số trường hợp, các mô hình AI thậm chí có thể cho thấy dấu hiệu “trôi dạt dữ liệu”, xảy ra khi dữ liệu mà mô hình tiếp xúc theo thời gian thay đổi hoặc không khớp với bộ dữ liệu đào tạo ban đầu của nó. Điều này đặc biệt có vấn đề trong các mô hình học liên tục, trong đó AI thích ứng dựa trên dữ liệu mới, nhưng vô tình có thể mất đi hiệu quả ban đầu.

🍀Tầm quan trọng của việc triển khai AI đúng cách.

Những lợi ích mà AI mang lại trong chăm sóc sức khỏe không thể hiện thực hóa nếu không có chiến lược triển khai cẩn thận và chu đáo. Để giảm thiểu rủi ro gây hại có thể phòng ngừa, điều cần thiết là các tổ chức chăm sóc sức khỏe phải có cách tiếp cận chủ động trong việc quản lý việc triển khai và sử dụng các công nghệ AI. Những bước đi sai lầm trong giai đoạn triển khai có thể dẫn đến hiệu suất kém, bỏ lỡ cơ hội cải thiện và thậm chí là các sự kiện bất lợi.

Ngay cả các hệ thống AI không mang tính chất lâm sàng (ví dụ: để hỗ trợ lập lịch trình) cũng có thể ảnh hưởng xấu đến việc chăm sóc bệnh nhân. Một số yếu tố phải được xem xét khi áp dụng hệ thống AI vào hoạt động chăm sóc sức khỏe hoặc quy trình làm việc lâm sàng, như:

Kỳ vọng không thực tế: Một cạm bẫy phổ biến là đặt ra kỳ vọng vượt quá những gì hệ thống AI có thể cung cấp. Các tổ chức chăm sóc sức khỏe phải hiểu rõ về khả năng và hạn chế của AI, đảm bảo rằng công nghệ đang được sử dụng đúng mục đích. Cho dù mục tiêu là cải thiện độ chính xác, tăng tốc quy trình hay giảm lỗi, điều quan trọng là phải đặt ra các chuẩn mực thực tế để thành công và đảm bảo giải pháp AI phù hợp với các mục tiêu đó.

❤️Tin tưởng quá mức vào AI: Tin tưởng AI một cách mù quáng có thể dẫn đến những hậu quả có hại. Nếu các chuyên gia chăm sóc sức khỏe quá phụ thuộc vào các dự đoán do AI tạo ra mà không xem xét kỹ lưỡng kết quả, họ có thể bỏ lỡ các lỗi quan trọng hoặc không nhận thấy khi hệ thống cung cấp thông tin sai lệch. Để tránh điều này, điều quan trọng là phải duy trì sự giám sát của con người và đảm bảo rằng AI được coi là công cụ hỗ trợ chứ không phải thay thế việc ra quyết định lâm sàng.

❤️Thiếu quản lý: Việc triển khai AI phải đi kèm với các cấu trúc quản lý chặt chẽ. Phải có các quy tắc và cơ chế giám sát rõ ràng để đảm bảo các mô hình AI hoạt động như mong đợi và quyền riêng tư của bệnh nhân được duy trì. Việc theo dõi liên tục là điều cần thiết để phát hiện bất kỳ sự suy giảm hiệu suất nào, chẳng hạn như tính giòn (không thích ứng với nhóm bệnh nhân mới) hoặc dữ liệu trôi dạt.

❤️Chất lượng dữ liệu và khả năng truy cập: Trước khi triển khai AI, các tổ chức chăm sóc sức khỏe phải đảm bảo rằng cơ sở hạ tầng dữ liệu của họ đã sẵn sàng cho nhiệm vụ này. Các hệ thống AI thường yêu cầu các tập dữ liệu lớn, được tổ chức tốt để hoạt động tối ưu và dữ liệu chất lượng kém có thể dẫn đến các dự đoán không chính xác. Các tổ chức chăm sóc sức khỏe nên đầu tư vào các hoạt động quản lý dữ liệu đảm bảo tính chính xác, tính nhất quán của dữ liệu và tuân thủ các quy định về quyền riêng tư.

🌼Khung quản trị cho AI trong chăm sóc sức khỏeĐể giảm thiểu những rủi ro này và tối đa hóa các lợi ích tiềm năng của AI trong chăm sóc sức khỏe, việc quản trị các hệ thống AI phải mạnh mẽ, chủ động và toàn diện. ECRI, một cơ quan hàng đầu trong lĩnh vực công nghệ chăm sóc sức khỏe, đưa ra một loạt các khuyến nghị cho các tổ chức chăm sóc sức khỏe muốn tích hợp AI vào hoạt động của mình:

❄️Thành lập Ủy ban quản trị AI: Một trong những bước đầu tiên để triển khai AI một cách có trách nhiệm là thành lập một ủy ban quản trị AI bao gồm nhiều bên liên quan—quản trị viên, bác sĩ lâm sàng, chuyên gia CNTT và những người khác hiểu được các mục tiêu và quy trình làm việc mà AI sẽ cải thiện. Ủy ban này sẽ giám sát toàn bộ vòng đời của AI, từ việc xác định mục tiêu đến việc liên tục theo dõi hiệu suất.

❄️Xác định Mục tiêu AI Rõ ràng: Trước khi lựa chọn giải pháp AI, các tổ chức chăm sóc sức khỏe phải xác định rõ ràng mục tiêu mà họ muốn công nghệ đạt được. Có phải là cải thiện độ chính xác của chẩn đoán không? Giảm thời gian điều trị? Cải thiện kết quả của bệnh nhân? Các mục tiêu được nêu rõ ràng sẽ giúp xác định giải pháp AI nào phù hợp nhất và đảm bảo sự phù hợp giữa khả năng của AI và nhu cầu của tổ chức.

❄️Xác thực hiệu suất AI: Điều quan trọng là phải xác thực hiệu suất của mô hình AI bằng dữ liệu thực tế. Kiểm tra nên được thực hiện bởi các cơ quan độc lập để đảm bảo rằng hệ thống đang hoạt động chính xác và đáp ứng các kỳ vọng do tổ chức chăm sóc sức khỏe đặt ra.

❄️Tập ​​trung vào tính minh bạch: Các tổ chức chăm sóc sức khỏe phải yêu cầu tính minh bạch từ các nhà cung cấp AI. Các nhà cung cấp nên cung cấp thông tin chi tiết về dữ liệu được sử dụng để đào tạo mô hình, bao gồm quy mô, tính đa dạng và nguồn dữ liệu. Các số liệu hiệu suất của AI trong điều kiện lý tưởng cũng nên được cung cấp để giúp các tổ chức theo dõi và đánh giá hiệu suất đang diễn ra của mô hình.

❄️Chuẩn bị dữ liệu: Các giải pháp AI yêu cầu dữ liệu chất lượng cao để hoạt động hiệu quả. Các tổ chức chăm sóc sức khỏe nên đầu tư thời gian và nguồn lực vào việc chuẩn bị dữ liệu của mình, đảm bảo dữ liệu được sắp xếp, chính xác và có thể truy cập để đào tạo AI. Dữ liệu cũng phải được cấu trúc để tuân thủ các chính sách về quyền riêng tư và quản trị.

❄️Theo dõi hiệu suất AI theo thời gian: Giám sát AI không dừng lại sau khi hệ thống được triển khai. Điều cần thiết là phải liên tục theo dõi hiệu suất AI để đảm bảo hiệu suất vẫn hiệu quả và không giảm theo thời gian. Điều này bao gồm việc đánh giá những thay đổi về chất lượng dữ liệu, hành vi của AI và tác động của nó đến kết quả của bệnh nhân.

❄️Báo cáo sự kiện bất lợi: Khi AI ngày càng được tích hợp nhiều hơn vào chăm sóc sức khỏe, các tổ chức nên thiết lập một quy trình để báo cáo và theo dõi các sự kiện bất lợi liên quan đến AI. Hệ thống này sẽ ghi lại các chi tiết về sự cố, chẳng hạn như sự tham gia của AI, bất kỳ dự đoán đáng ngờ nào do mô hình đưa ra và kết quả của bệnh nhân. Đảm bảo rằng người dùng hiểu cách xác định và báo cáo các vấn đề liên quan đến AI là rất quan trọng để duy trì một môi trường chăm sóc sức khỏe an toàn.

 

❤️Trí tuệ nhân tạo có tiềm năng cách mạng hóa chăm sóc sức khỏe, giúp các quy trình hiệu quả hơn và cải thiện kết quả của bệnh nhân. Tuy nhiên, công nghệ này phải được triển khai một cách thận trọng. Các tổ chức chăm sóc sức khỏe phải thực hiện các bước để quản lý rủi ro AI một cách hiệu quả, đảm bảo rằng công nghệ này bổ sung cho quá trình ra quyết định của con người và nâng cao chứ không làm suy yếu chất lượng chăm sóc. Với kế hoạch cẩn thận, giám sát liên tục và quản trị chặt chẽ, AI có thể đóng vai trò quan trọng trong việc định hình tương lai của chăm sóc sức khỏe, thúc đẩy đổi mới và cải thiện sự an toàn của bệnh nhân.

Bằng cách đặt phúc lợi của bệnh nhân lên hàng đầu và tích hợp AI một cách chu đáo vào quy trình làm việc lâm sàng, các tổ chức chăm sóc sức khỏe có thể đảm bảo rằng lợi ích của AI được hiện thực hóa mà không ảnh hưởng đến sự an toàn hoặc làm trầm trọng thêm sự chênh lệch hiện có. Tương lai của chăm sóc sức khỏe có thể ngày càng phụ thuộc vào AI, nhưng yếu tố con người sẽ luôn là trọng tâm của việc chăm sóc hiệu quả và tận tâm.

https://home.ecri.org/blogs/ecri-blog/ai-in-healthcare-applications-and-the-potential-for-preventable-harm