Chuyện gì đã xảy ra
The Guardian báo cáo rằng Healthwatch England đã nhận được nhiều tài khoản sử dụng công cụ ghi chép AI tạo ra các bản ghi và tóm tắt tư vấn không chính xác. Các ví dụ bao gồm chẩn đoán không chính xác, tên thuốc bị nhầm lẫn và thiếu hướng dẫn về cách lấy lại đơn thuốc.
The Guardian đưa tin vào ngày 31 tháng 8 năm 2026 rằng Healthwatch England đã cảnh báo rằng các hệ thống AI được sử dụng để nghe và ghi lại các cuộc tư vấn y tế có thể xác định sai tên thuốc và bệnh tật. Báo cáo mô tả người ghi chép AI là một công nghệ đang phát triển nhanh chóng ở Anh, nơi các bác sĩ và bệnh viện đã sử dụng 27 hệ thống khác nhau. Kế hoạch y tế NHS 10 năm của chính phủ giới thiệu các công cụ này như một cách để giảm bớt công việc hành chính và giúp bác sĩ lâm sàng có nhiều thời gian hơn với bệnh nhân.
Một trường hợp liên quan đến một phụ nữ có bản tóm tắt do AI tạo ra tuyên bố không chính xác rằng cô ấy bị mất myelin, một tình trạng nghiêm trọng có thể liên quan đến bệnh đa xơ cứng. Theo The Guardian, người phụ nữ này là một chuyên gia y tế của NHS và nhận thấy vấn đề khi cô kiểm tra tài khoản của công cụ về kết quả MRI của mình. Bệnh viện sau đó đã sửa lại hồ sơ thành “vô hiệu hóa quá trình khử myelin”. Người phụ nữ nói với tờ báo rằng việc nhận được chẩn đoán không chính xác và sau đó được thông báo rằng đó là lỗi đánh máy đã khiến cô bị tổn thương.
The Guardian cũng báo cáo rằng các bệnh nhân đã xác định được các lỗi khác: người ghi chép AI đã nhầm lẫn một loại thuốc được kê đơn với một loại thuốc khác có cùng tên và một lá thư được tạo tự động đã bỏ qua hướng dẫn của nhà tư vấn rằng bệnh nhân nên yêu cầu bác sĩ gia đình kê đơn thuốc đau nửa đầu lặp lại. Healthwatch cho biết họ đã nghe nhiều câu chuyện trong đó bệnh nhân nhận thấy những sai lầm mà các chuyên gia y tế không mắc phải. Nguồn được cung cấp là tài khoản phụ được báo cáo; những trường hợp riêng lẻ này, số lượng bệnh nhân bị ảnh hưởng và tỷ lệ lỗi chính xác của các công cụ không được xác nhận độc lập ở đây thông qua báo cáo cơ quan quản lý chính hoặc bộ dữ liệu NHS.
Chi tiết nguồn: theguardian.com ↗
Tại sao nó quan trọng
Sai sót trong hồ sơ được sử dụng để chăm sóc bệnh nhân có thể ảnh hưởng đến việc điều trị, tiếp cận thuốc và niềm tin vào tự động hóa NHS. The Guardian báo cáo rằng Anh không có khuôn khổ giám sát toàn quốc đối với người ghi chép AI sau khi MHRA quyết định không phân loại chúng là thiết bị y tế.
Rủi ro thực tế là bảng điểm không chính xác có thể trở thành một phần trong hồ sơ bệnh án của bệnh nhân và ảnh hưởng đến việc chăm sóc sau này. Chẩn đoán sai có thể gây ra đau khổ hoặc dẫn đến việc theo dõi không phù hợp, trong khi tên thuốc nhầm lẫn có thể góp phần gây ra sai sót trong kê đơn hoặc điều trị. Việc thiếu hướng dẫn cũng có thể gây ra khó khăn trong việc tiếp cận nếu bệnh nhân không thể nhận được thuốc khi cần thiết. Các ví dụ của The Guardian cho thấy tác hại không phụ thuộc vào việc hệ thống AI đưa ra quyết định lâm sàng ấn tượng; một lỗi sao chép hoặc tóm tắt nhỏ có thể quan trọng khi nó đi vào quy trình làm việc lâm sàng.
Healthwatch England nói với The Guardian rằng những sai sót có thể tồn tại khi bệnh nhân không phát hiện ra chúng. Điều đó đặt một phần gánh nặng kiểm soát chất lượng lên những người có thể không biết những gì đã được nói, có thể không khỏe hoặc có thể không có quyền truy cập vào hồ sơ được tạo. Nó cũng đặt ra một câu hỏi về quy trình làm việc cho các bác sĩ lâm sàng: nếu các bác sĩ phải kiểm tra cẩn thận từng bản ghi thì mức tiết kiệm thời gian đã hứa có thể bị giảm. Tiến sĩ Shier Ziser Dawood, một bác sĩ đa khoa ở London được The Guardian trích dẫn, trước đây đã mô tả một đoạn ghi âm của người ghi chép AI rằng bà đã yêu cầu một bệnh nhân tiếp tục sử dụng Prozac mặc dù bà không kê đơn hoặc thảo luận về nó.
Báo cáo cũng nhấn mạnh hiệu suất không đồng đều giữa các cuộc tham vấn. Tiến sĩ Charlotte Blease, nhà nghiên cứu về AI trong chăm sóc sức khỏe tại Đại học Uppsala, nói với The Guardian rằng lỗi dễ xảy ra hơn khi có nhiều người có mặt, khi bệnh nhân có tiền sử bệnh phức tạp hoặc khi tiếng Anh không phải là ngôn ngữ đầu tiên của bệnh nhân. Hơn một nửa trong số 1.003 GP Vương quốc Anh trong cuộc khảo sát của Blease được cho là coi hồ sơ AI xung quanh của họ chính xác hơn hồ sơ họ tự tạo, nhưng cô cũng cho biết tỷ lệ lỗi có thể tồi tệ hơn với AI. Kết quả khảo sát không chứng minh tính an toàn lâm sàng của bất kỳ công cụ cụ thể nào và bài viết không cung cấp các phép đo sai số so sánh hoặc xác nhận độc lập.
Cơ chế tương tác: Nó thực sự hoạt động như thế nào
Khám phá công nghệ cơ bản đằng sau sự phát triển này một cách tương tác.
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
Xem gì tiếp theo
Theo dõi các quy trình NHS rõ ràng hơn để xem xét, chỉnh sửa và báo cáo hồ sơ do AI tạo; bằng chứng về tỷ lệ lỗi giữa các công cụ và nhóm bệnh nhân khác nhau; và liệu các cơ quan quản lý có xem xét lại tình trạng giám sát của người ghi chép AI hay không.
Vấn đề trọng tâm là liệu bệnh nhân có cách đơn giản, rõ ràng để xem lại các ghi chú do AI tạo ra, báo cáo lỗi và nhận được các bản sửa lỗi hay không. Healthwatch nói với The Guardian rằng cần phải làm rõ về cách báo cáo và sửa chữa những lỗi do các công cụ viết nguệch ngoạc hoặc của các chuyên gia sử dụng chúng mắc phải. Các biện pháp bảo vệ hữu ích sẽ cần xác định ai chịu trách nhiệm kiểm tra hồ sơ, việc sửa chữa phải được thực hiện nhanh chóng như thế nào và những sửa đổi đó được thông báo như thế nào cho các bác sĩ lâm sàng sau này.
The Guardian đưa tin rằng Healthwatch lo ngại về quyết định của Cơ quan quản lý thuốc và sản phẩm chăm sóc sức khỏe không phân loại người ghi chép AI là thiết bị y tế. Theo báo cáo, quyết định đó có nghĩa là sẽ không có sự giám sát cụ thể trên toàn nước Anh nhằm đảm bảo rằng các hệ thống này an toàn và hiệu quả. Bài báo được cung cấp không bao gồm lý do của MHRA, phản hồi của NHS đối với cảnh báo của Healthwatch hoặc thông tin chi tiết về bất kỳ chế độ thử nghiệm quốc gia nào, vì vậy hậu quả pháp lý vẫn là một ẩn số quan trọng.
Báo cáo sâu hơn sẽ xác định 27 hệ thống này khác nhau như thế nào, liệu chúng chỉ được sử dụng để ghi chép hay để soạn thảo các tài liệu lâm sàng và tần suất các bác sĩ lâm sàng xem xét kết quả đầu ra của chúng trước khi nó được lưu trữ chính thức. Nó cũng nên kiểm tra hiệu suất của giọng nói, tư vấn đa ngôn ngữ, lịch sử phức tạp và các cuộc hẹn nhiều người, sau những khiếu nại trước đó ở Rotherham về việc một nhân viên tiếp tân AI đang gặp khó khăn với giọng Yorkshire nặng. Báo cáo của Guardian không cho thấy mức độ phổ biến của những vấn đề đó hoặc liệu có bất kỳ công cụ nào đã bị thu hồi hay không, vì vậy kết luận về toàn bộ công nghệ vẫn còn hạn chế.