HƯỚNG DẪN xã hội

ONC HTI-1 Algorithm Transparency Rule

Quy tắc cuối cùng HTI-1 của ONC cập nhật Chương trình Chứng nhận CNTT Y tế và thiết lập các yêu cầu về tính minh bạch đối với các biện pháp can thiệp hỗ trợ quyết định mang tính dự đoán trong CNTT y tế được chứng nhận.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyĐọc trong 3 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của Quy tắc minh bạch thuật toán ONC HTI-1
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Các yêu cầu này áp dụng trong khuôn khổ chứng nhận chứ không phải cho mọi công cụ AI. Các nhà phát triển CNTT y tế tiết lộ các thuộc tính nguồn đã xác định để người dùng lâm sàng có thể đánh giá tính phù hợp, hiệu lực, an toàn, hiệu quả và công bằng.

Lặn sâu

The Health Data, Technology, and Interoperability (HTI-1) final rule updates ONC’s Health IT Certification Program. One part addresses algorithm transparency for predictive decision support interventions in certified health IT. ONC describes these requirements as providing clinical users with a consistent baseline of information to assess algorithms for fairness, appropriateness, validity, effectiveness, and safety. The rule focuses on certified health IT and defined predictive decision support interventions. It does not create a blanket disclosure requirement for every AI product used in healthcare. Developers must identify whether a function falls within the relevant certification criteria and provide required source attributes. Health systems should understand the certified product scope and use available documentation when evaluating a tool. Transparency supports evaluation, but disclosure alone does not show that a model performs well or is safe. Users still need to consider local population, workflow, data quality, clinical evidence, and ongoing monitoring. The rule became effective in March 2024, and organizations should check current ONC materials for implementation details and corrections. Do not confuse HTI-1 transparency requirements with FDA device authorization or other privacy and safety obligations. Implementation requires understanding whether a decision-support function is offered through certified health IT and which version is in use. A deployment may include multiple algorithms, so one disclosure should not be assumed to describe every feature. Clinicians need information in a form that supports practical review during their workflow.

Triển khai trong thế giới thực

Nhà phát triển EHR được chứng nhận ghi lại các thuộc tính nguồn cho chức năng hỗ trợ quyết định mang tính dự đoán.

Phòng khám kiểm tra xem thuật toán có nằm trong phạm vi CNTT y tế được chứng nhận hay không trước khi áp dụng các yêu cầu HTI-1.

Bác sĩ lâm sàng xem xét thông tin có sẵn về mục đích sử dụng và những hạn chế của mô hình.

Nhóm thực hiện sẽ sắp xếp từng biện pháp can thiệp mang tính dự đoán theo các tiêu chí minh bạch cần thiết.

Tương lai của Quy tắc minh bạch thuật toán ONC HTI-1

Tính minh bạch của thuật toán có thể giúp các bác sĩ lâm sàng dễ dàng kiểm tra thông tin cơ bản về các công cụ hỗ trợ quyết định hơn. Nó không thể thay thế đánh giá độc lập, quản trị hoặc xem xét theo quy định. ONC có thể phát hành các bản cập nhật triển khai và các nhà phát triển được chứng nhận có thể sửa đổi sản phẩm. Hệ thống y tế nên duy trì quy trình xem xét thông tin công bố, đặt câu hỏi cho nhà cung cấp và đánh giá lại các biện pháp can thiệp sau khi có thay đổi. Thông tin minh bạch hữu ích nhất khi người dùng có thể truy cập nó trước khi dựa vào khuyến nghị và có lộ trình nêu lên mối lo ngại. Hỗ trợ các thắc mắc của người dùng một cách nhanh chóng và rõ ràng.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Rủi ro và an toàn. Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
  • Quyết định rõ ràng hơn. Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
  • Phá vỡ sự thổi phồng. Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.

coi chừng

  • Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
  • Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
  • Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.

Các bước tiếp theo

  1. Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
  2. Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
  3. Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
  4. Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Làm bài kiểm tra về Quy tắc minh bạch của thuật toán ONC HTI-1

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

What is ONC HTI-1 Algorithm Transparency Rule?

Quy tắc cuối cùng HTI-1 của ONC cập nhật Chương trình Chứng nhận CNTT Y tế và thiết lập các yêu cầu về tính minh bạch đối với các biện pháp can thiệp hỗ trợ quyết định mang tính dự đoán trong CNTT y tế được chứng nhận. Các yêu cầu này áp dụng trong khuôn khổ chứng nhận chứ không phải cho mọi công cụ AI. Các nhà phát triển CNTT y tế tiết lộ các thuộc tính nguồn đã xác định để người dùng lâm sàng có thể đánh giá tính phù hợp, hiệu lực, an toàn, hiệu quả và công bằng.

Các thuộc tính nguồn bắt buộc có thể giúp người dùng đánh giá những gì?

ONC mô tả các khía cạnh đánh giá này cho người dùng lâm sàng.

Tính minh bạch của HTI-1 có chứng minh được mô hình là an toàn không?

Việc tiết lộ không thay thế cho bằng chứng và đánh giá của địa phương.

HTI-1 liên quan đến sự cho phép của FDA như thế nào?

Chứng nhận HTI-1 và các quy định về thiết bị của FDA là những khuôn khổ riêng biệt.