Sự phổ biến mạnh mẽ của ChatGPT đã "châm ngòi" cho cuộc chạy đua giữa những "gã khổng lồ" công nghệ như Google hay Microsoft, nhằm áp dụng công nghệ AI vào mọi sản phẩm, từ bảng tính tới công cụ tìm kiếm, qua đó thúc đẩy đầu tư vào các công ty khởi nghiệp AI. Tuy nhiên, các chuyên gia y tế đã "gióng lên hồi chuông" cảnh báo về những rủi ro và mối đe dọa do AI có thể gây ra đối với việc chăm sóc sức khỏe con người.
Về mặt chẩn đoán, ChatGPT có thể giúp người bệnh xác định các nguyên nhân của một triệu chứng và đồng thời đưa ra lời khuyên rất hữu ích. Ví dụ: Khi người dùng hỏi ChatGPT về các nguyên nhân của triệu chứng chảy mũi sau, ChatGPT sẽ cung cấp đủ các nguyên nhân có thể của triệu chứng này như: dị ứng, viêm xoang, nhiễm trùng, trào ngược, bất thường cấu trúc và một số loại thuốc. Đồng thời khuyên người bệnh nên đi khám, gặp trực tiếp bác sĩ để có chẩn đoán cụ thể.
Ngoài ra, ChatGPT có thể hỗ trợ điều trị bệnh bằng cách cung cấp hướng dẫn về cách sử dụng thuốc, tác dụng phụ và tương tác. Nó cũng có thể trả lời cho người bệnh nên uống một loại thuốc nào đó thời gian nào trong ngày để có hiệu quả cao nhất. Có thể nói ChatGPT là một công cụ AI hữu ích. Nó có thể trò chuyện sinh động để cung cấp thông tin chính xác, ngắn gọn, dễ hiểu, dễ nhớ hỗ trợ cho người bệnh, hỗ trợ cho bác sĩ trong việc chẩn đoán, điều trị và phòng ngừa bệnh.
Dù vậy, ChatGPT và các công cụ dựa trên trí tuệ nhân tạo nói chung vẫn có nhiều hạn chế và tiềm ẩn rủi ro. Việc xác định đúng các nguyên nhân của triệu chứng không đồng nghĩa với việc chẩn đoán chính xác được bệnh, ChatGPT giúp người dùng có thêm kiến thức hơn là khẳng định cho chẩn đoán. Việc chẩn đoán sau cùng vẫn phải cần sự cân đo đong đếm của bác sĩ dựa trên thông tin đó kết hợp với những yếu tố riêng biệt của từng người bệnh.
Linda Moy, giáo sư X quang tại Trường Y khoa NYU Grossman, nhận định mọi thứ liên quan đến AI cần có hành lang pháp lý. Theo bà, các bài viết của ChatGPT có thể chính xác, nhưng nó chỉ mang tính chất tham khảo. Một trong những lo ngại khác của bà Moy là AI có thể ngụy tạo dữ liệu y tế. Nguồn thông tin của ChatGPT vẫn nằm trong các kho trực tuyến, chẳng hạn Google. Đối với những vấn đề có quá nhiều luồng dữ liệu và thông tin sai lệch, chẳng hạn vaccine Covid-19, ChatGPT có nguy cơ cho ra các kết quả không chính xác.
Theo tiến sĩ Keith Horvath, Hiệp hội Cao đẳng Y khoa Mỹ, về cơ bản, trí tuệ nhân tạo nói chung không cấp tiến hơn so với con người. Bác sĩ có phương pháp làm việc phi tuyến tính, dễ dàng thích ứng với các điều kiện luôn thay đổi và tình huống phát triển nhanh chóng trong khi sự khéo léo và linh hoạt đó vẫn rất khó để dạy cho máy tính. Quan trọng nhất, AI không thể thay thế y đức và sự đồng cảm đến từ các bác sĩ. "Như chúng ta đã biết, điều đầu tiên trong công tác chăm sóc người bệnh là quan tâm đến họ", ông Horvath nói.
Ngoài ra, quá trình từ chẩn đoán tới điều trị yêu cầu kinh nghiệm hành nghề và tư duy lô-gic của thầy thuốc dựa trên từng ca bệnh cụ thể để đảm bảo độ chính xác cao. Bên cạnh đó, kiến thức và hành nghề y khoa hiện còn tồn tại nhiều quan điểm, đôi khi đối nghịch nhau. Với ChatGPT việc cung cấp đầu vào thông tin rất quan trọng (nguồn thông tin). Bác sĩ là người có chuyên môn mới kiểm định được các thông tin trên ChatGPT là đúng hay sai. Nhưng với người không chuyên môn khi dùng ChatGPT để tìm hiểu các thông tin y tế sẽ dễ rơi vào trạng thái "tẩu hoả nhập ma" vì không kiểm định được thông tin nào là chính xác hay có tính logic.
Chính vì thế, WHO cho biết trong một tuyên bố rằng dữ liệu được sử dụng để đào tạo AI có thể bị sai lệch, từ đó tạo ra thông tin sai lệch hoặc không chính xác, đồng thời các mô hình có thể bị lạm dụng để tạo ra các chẩn đoán không minh bạch. Tổ chức này đặt nhiều kỳ vọng vào tiềm năng của AI trong phát triển chăm sóc sức khỏe, song cũng lo ngại về cách thức AI được sử dụng để tiếp cận thông tin y tế, khi đây được xem là một công cụ hỗ trợ để ra kết quả và cải thiện chẩn đoán.
Cơ quan y tế của Liên Hợp Quốc cho biết "bắt buộc" phải đánh giá rủi ro liên quan sử dụng những mô hình ngôn ngữ lớn (LLM) tương tự ChatGPT, để bảo vệ và thúc đẩy phúc lợi con người, cũng như sức khỏe cộng đồng. Cảnh báo được đưa ra trong bối cảnh các ứng dụng AI đang nhanh chóng trở nên phổ biến, khi đây được xem như một công cụ giúp nâng cao chất lượng kinh doanh và thay đổi cách thức xã hội vận hành.
