РУКОВОДСТВО ПО ОБЩЕСТВУ

Правило прозрачности алгоритма ONC HTI-1

Окончательное правило HTI-1 ONC обновляет Программу сертификации информационных технологий в сфере здравоохранения и устанавливает требования прозрачности для мер по поддержке прогнозируемых решений в сертифицированных ИТ в сфере здравоохранения.

Прослушайте это руководствоОзвучено ИИ · ~3 min

На этой странице3 минуты чтения
  1. Обзор
  2. Глубокое погружение
  3. Реальная реализация
  4. Будущее правила прозрачности алгоритма ONC HTI-1
  5. Применение на практике
  6. Продолжайте исследовать
  7. Часто задаваемые вопросы

Обзор

Требования применяются в рамках сертификации, а не ко всем инструментам искусственного интеллекта. Разработчики информационных технологий в сфере здравоохранения раскрывают определенные атрибуты источника, чтобы клинические пользователи могли оценить уместность, достоверность, безопасность, эффективность и справедливость.

Глубокое погружение

Окончательное правило «Данные о здоровье, технологиях и совместимости» (HTI-1) обновляет Программу сертификации ИТ в сфере здравоохранения ONC. Одна часть посвящена прозрачности алгоритмов для принятия прогнозных решений в сертифицированных ИТ-системах здравоохранения. ONC описывает эти требования как предоставление клиническим пользователям единообразной базовой информации для оценки алгоритмов на предмет справедливости, целесообразности, достоверности, эффективности и безопасности. В правиле основное внимание уделяется сертифицированным медицинским ИТ и определенным вмешательствам в поддержку прогнозирующих решений. Он не устанавливает общих требований к раскрытию информации для каждого продукта искусственного интеллекта, используемого в здравоохранении. Разработчики должны определить, соответствует ли функция соответствующим критериям сертификации, и предоставить необходимые исходные атрибуты. Системы здравоохранения должны понимать объем сертифицированной продукции и использовать имеющуюся документацию при оценке инструмента. Прозрачность способствует оценке, но само по себе раскрытие информации не показывает, что модель работает хорошо или безопасна. Пользователям по-прежнему необходимо учитывать местное население, рабочий процесс, качество данных, клинические данные и постоянный мониторинг. Правило вступило в силу в марте 2024 года, и организациям следует проверить текущие материалы ONC на предмет деталей реализации и исправлений. Не путайте требования прозрачности HTI-1 с разрешением FDA на устройства или другими обязательствами по обеспечению конфиденциальности и безопасности. Внедрение требует понимания того, предлагается ли функция поддержки принятия решений через сертифицированную ИТ-инфраструктуру здравоохранения и какая версия используется. Развертывание может включать в себя несколько алгоритмов, поэтому не следует полагать, что одно раскрытие описывает каждую функцию. Клиницистам нужна информация в форме, позволяющей проводить практический анализ в ходе рабочего процесса.

Реальная реализация

Сертифицированный разработчик EHR документирует атрибуты источника для функции прогнозирующей поддержки принятия решений.

Прежде чем применять требования HTI-1, клиника проверяет, соответствует ли алгоритм сертифицированной области ИТ в сфере здравоохранения.

Врач просматривает доступную информацию о предполагаемом использовании модели и ограничениях.

Группа реализации сопоставляет каждое профилактическое вмешательство с требуемыми критериями прозрачности.

Будущее правила прозрачности алгоритма ONC HTI-1

Прозрачность алгоритмов может облегчить врачам проверку исходной информации об инструментах поддержки принятия решений. Оно не может заменить независимую оценку, управление или проверку со стороны регулирующих органов. ONC может выпускать обновления реализации, а сертифицированные разработчики могут пересматривать продукты. Системы здравоохранения должны поддерживать процесс проверки раскрываемой информации, задавать вопросы поставщикам и переоценивать меры после изменений. Прозрачная информация наиболее полезна, когда пользователи могут получить к ней доступ, прежде чем полагаться на рекомендации, и иметь возможность выразить свою обеспокоенность. Быстро и четко поддерживайте вопросы пользователей.

Применение на практике

Почему это важно

  • Риски и безопасность. Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать.
  • Более четкие решения. Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности.
  • Пробивая шумиху. Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра.

Следите за

  • Относитесь к экзистенциальному риску как к научной фантастике, в то время как возможности растут.
  • Сбивает с толку безопасность поверхности продукта и выравнивание при высокой автономности.
  • Оставляя неанглоязычную и неспециалистскую аудиторию только с некачественными источниками.

Следующие шаги

  1. Отдельные риски повреждения продукта, неправильного использования и потери контроля/перекоса.
  2. Спросите, какие доказательства могут изменить ваше мнение о сроках и серьезности.
  3. Предпочитайте первоисточники и конкретные оценки маркетинговым заявлениям.
  4. Определите один путь действий: карьера, политика, финансирование или навыки, а не только осведомленность.

Продолжайте исследовать

Бесплатная рассылка

Получайте ежедневный AI-обзор

Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.

Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.

Проверьте себя

Take the ONC HTI-1 Algorithm Transparency Rule quiz

Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.

Начать тест

Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование

Часто задаваемые вопросы

Что такое правило прозрачности алгоритма ONC HTI-1?

Окончательное правило HTI-1 ONC обновляет Программу сертификации информационных технологий в сфере здравоохранения и устанавливает требования прозрачности для мер по поддержке прогнозируемых решений в сертифицированных ИТ в сфере здравоохранения. Требования применяются в рамках сертификации, а не ко всем инструментам искусственного интеллекта. Разработчики информационных технологий в сфере здравоохранения раскрывают определенные атрибуты источника, чтобы клинические пользователи могли оценить уместность, достоверность, безопасность, эффективность и справедливость.

Что могут помочь пользователям оценить обязательные атрибуты источника?

ONC описывает эти параметры оценки для клинических пользователей.

Доказывает ли прозрачность HTI-1 безопасность модели?

Раскрытие информации не заменяет доказательства и местную оценку.

Как HTI-1 связан с разрешением FDA?

Сертификация HTI-1 и правила устройств FDA представляют собой разные структуры.

Продолжайте учиться

Связанные руководства

Другие руководства, выбранные по этой теме

Получите бесплатный AI-сертификатКороткий бесплатный курс и экзамен. Без стоимости, без карты. Около 2,5 часов.Начать бесплатно →