Tác động của AI trong y tế: Sự phụ thuộc vào công nghệ và những hệ lụy tiềm tàng

Trong bối cảnh sự phát triển mạnh mẽ của trí tuệ nhân tạo (AI) trong ngành y tế, một bác sĩ mới chuyển sang làm việc tại một phòng khám tư nhân đã cảm thấy lo âu khi không còn được hỗ trợ bởi các công nghệ này. Stephen Belmustakov, MD, chia sẻ rằng trong công việc trước đây tại một bệnh viện ở New York, ông đã quen với việc sử dụng một công cụ có tên Aidoc, giúp dự đoán các bất thường trên các quét hình ảnh y tế. Nhưng giờ đây, tại nơi làm việc mới, ông phải tự mình phân tích hình ảnh mà không có bất kỳ sự hỗ trợ nào từ AI.

Sự nghi ngờ và niềm tin vào AI

Ban đầu, Belmustakov khá nghi ngờ về việc sử dụng công nghệ AI trong y tế, tuy nhiên theo thời gian, ông nhận thấy sự thoải mái khi có thể tham khảo ý kiến thứ hai ngay lập tức từ máy móc. “Tôi cảm thấy căng thẳng hơn trong vị trí mới vì chúng tôi không có thêm lớp bảo vệ này để kiểm tra lại,” ông nói.

Bên cạnh đó, AI hiện đang ngày càng chiếm ưu thế trong việc chỉ ra các khu vực đáng ngờ trước cả khi bác sĩ kịp phản ứng. “Điều này thực sự có thể ảnh hưởng đến cách bạn học,” Belmustakov cho biết. “Nếu một công cụ đã thông báo rằng nó là tích cực, nó sẽ thay đổi cách bạn nhìn nhận vấn đề.”

Hiểu về sự thiên lệch trong tự động hóa

Sự thiên lệch do tự động hóa, hay “automation bias”, đang trở thành một chủ đề nóng trong ngành y tế. Những ví dụ cực đoan từ đời sống như việc người lái xe tuân thủ hướng dẫn từ GPS và đi vào vùng nước sâu có thể làm giảm tính nghiêm túc của vấn đề này, nhưng trong y tế, nơi mà quyết định sai lầm có thể dẫn đến hậu quả nghiêm trọng, điều này lại rất đáng lo ngại. Tarun Kapoor, MD, giám đốc chuyển đổi kỹ thuật số tại Virtua Health, cho rằng sự thiên lệch tự động hóa sẽ trở nên phổ biến khi công nghệ tiếp tục phát triển nhanh chóng.

“Đây là một cuộc trò chuyện cần diễn ra ngay bây giờ,” Kapoor nhấn mạnh.

Mối quan hệ giữa con người và công nghệ

Dù rằng hầu hết mọi người đều cho rằng máy móc không nên đưa ra quyết định thay cho con người, thực tế lại cho thấy rằng sự phụ thuộc vào công nghệ có thể gia tăng mà chúng ta không nhận thức được. Jennifer Goldsack, CEO của Digital Medicine Society, cho biết cách mà các công cụ AI giao tiếp với các chuyên gia y tế có thể ảnh hưởng lớn đến sự tin tưởng của họ. Một nghiên cứu gần đây cho thấy rằng niềm tin của bác sĩ vào AI có thể phụ thuộc vào cách mô hình giải thích các dự đoán của nó.

Paul Yi, MD, giám đốc Công nghệ Thông minh Hình ảnh tại Bệnh viện Nghiên cứu Trẻ em St. Jude, cho biết: “Có một khoảng cách khá lớn trong sự hiểu biết của các nhà khoa học về cách mà các bác sĩ phản ứng với các phương pháp giải thích khác nhau.”

Các nghiên cứu gần đây

Một nghiên cứu do Yi cùng các nhà khoa học máy tính tại Đại học Johns Hopkins thực hiện cho thấy rằng khi trình bày các bất thường dự đoán bởi AI trên phim chụp X-quang ngực, các bác sĩ có xu hướng đồng ý với các gợi ý của công nghệ nhanh hơn nếu giải thích đơn giản hơn. “Khi AI sai, các bác sĩ không chuyên có xu hướng đánh giá công cụ là hữu ích hơn,” Yi nói, cho thấy rằng sự đơn giản trong giải thích có thể gây ra nguy cơ phớt lờ các dấu hiệu sai lầm.

Niềm tin vào máy móc

Theo Kristin Kostick-Quenet, PhD, một nhà đạo đức sinh học và nhân chủng học y tế, tâm lý con người trong việc tin tưởng vào máy móc vẫn còn nhiều điều bí ẩn. Nghiên cứu về thiên lệch tự động hóa đã bắt đầu cách đây khoảng 30 năm và tập trung vào lĩnh vực hàng không, dẫn đến kết luận rằng “niềm tin chủ yếu là có tính ngữ cảnh”.

Trong y tế, các bác sĩ đối mặt với quyết định trong tình huống căng thẳng và không chắc chắn cao. “Tất cả các yếu tố đó khiến chúng ta có xu hướng tìm kiếm các nguồn thông tin hợp lệ bổ sung,” Kostick-Quenet cho biết. Belmustakov là một ví dụ điển hình khi từ một người nghi ngờ trở thành người phụ thuộc vào ý kiến thứ hai đến từ AI.

Cần có quy định và biện pháp bảo vệ

Khi số lượng công nghệ AI trong y tế gia tăng, các chuyên gia cũng đang tìm cách kiểm soát vấn đề thiên lệch tự động hóa. Yi nêu rõ: “Chúng ta cần thiết lập quy định xung quanh vấn đề này và thiết kế các phương pháp trong phòng thí nghiệm để giúp giảm thiểu các vấn đề.”

Một giải pháp có thể là thay đổi cách mà mô hình giải thích kết quả, hoặc cách mà AI được miêu tả cho người dùng. Yi cũng đặt câu hỏi về khả năng yêu cầu bác sĩ phải đạt được một trình độ nhất định trước khi sử dụng AI trong chẩn đoán.

Kết luận: Tương lai của AI trong y tế

Với sự phát triển không ngừng của AI, chất lượng và độ chính xác của công nghệ này sẽ có vai trò lớn trong tương lai của ngành y tế. Chúng ta cần phải cân nhắc cẩn thận về cách mà con người và máy móc tương tác, nhằm đảm bảo rằng niềm tin vào công nghệ không dẫn đến những quyết định sai lầm trong chăm sóc sức khỏe.

Tóm lại

Sự phát triển của AI trong y tế mang lại nhiều cơ hội nhưng cũng đặt ra những thách thức mới. Cần có sự cân bằng giữa việc tin tưởng vào công nghệ và duy trì trách nhiệm cá nhân trong việc ra quyết định y tế.

Admin