Что случилось
Ynetnews сообщает, что обзор Всемирной организации здравоохранения 11 тематических исследований по искусственному интеллекту в европейских системах здравоохранения подчеркивает структуру OPTICA Clalit Health Services как один из четырех ведущих подходов к безопасной оценке и развертыванию ИИ. В системе используется контрольный список, содержащий до 77 пунктов по клинической пригодности, оценке данных, разработке и оценке производительности, а также планированию развертывания и мониторинга.
Ynetnews сообщает, что ВОЗ недавно опубликовала отчет, в котором изучается, как системы здравоохранения по всей Европе используют ИИ на практике. Согласно статье, рабочая группа, связанная с инициативой ВОЗ по данным и цифровому здравоохранению, рассмотрела 11 тематических исследований из разных стран. Три случая поступили из Израиля, в том числе два с участием Службы здравоохранения Клалит. Источник описывает отчет как сосредоточенный на внедрении в реальных системах здравоохранения, а не на планах или широком обсуждении того, следует ли здравоохранению использовать ИИ.
В статье говорится, что в отчете ВОЗ представлена модель OPTICA Клалита наряду с тремя другими ведущими подходами для оценки и безопасного внедрения ИИ. Ynetnews описывает OPTICA как структурированный организационный механизм, включающий до 77 пунктов контрольного списка, разделенных на 13 разделов и четыре области: клиническая пригодность, оценка данных, разработка и оценка эффективности, а также планирование развертывания и мониторинга. Сообщается, что эта структура требует участия пяти типов заинтересованных сторон, включая клинического эксперта и человека, ответственного за инфраструктуру искусственного интеллекта организации.
Ynetnews цитирует директора по инновациям Clalit Рана Балисера, который сказал, что каждый продукт искусственного интеллекта, предназначенный для внедрения в Clalit, проходит контрольный список, охватывающий безопасность, защиту конфиденциальности, точность и постоянный мониторинг. В статье говорится, что структура разработана как непрерывный процесс, а не как единовременное утверждение. В нем также описаны два других израильских случая: модель Научно-исследовательского института Клалит, которая проанализировала данные историй болезни за 25 лет, чтобы выявить людей с высоким риском невыявленного гепатита С, и платформу Aidoc, которая позволяет Клалиту запускать алгоритмы визуализации от нескольких поставщиков. Предоставленный источник не включает в себя основной отчет ВОЗ или независимую документацию этих утверждений.
Подробности об источнике: ynetnews.com ↗
Почему это важно
В отчете, как описано Ynetnews, организационное управление ставится в центр безопасности искусственного интеллекта в здравоохранении. OPTICA требует участия нескольких заинтересованных сторон и постоянного мониторинга после развертывания, устранения рисков, которые могут возникнуть при изменении данных, оборудования, рабочих процессов или систем искусственного интеллекта. В статье также описываются доказательства того, что целевая клиническая интеграция может повысить эффективность скрининга, при этом отмечается, что формальные связи между оценкой ИИ и результатами лечения пациентов остаются редкостью.
Практическое значение этого отчета заключается в том, что в нем делается акцент на том, что происходит после того, как система ИИ начинает работать в процессе разработки или тестирования. Ynetnews сообщает, что тематические исследования ВОЗ сосредоточены на поддержании безопасности пациентов и профессионального доверия во время реального использования. Системы здравоохранения работают в меняющихся условиях: клинические рабочие процессы развиваются, оборудование обновляется, данные могут меняться, а модели могут модифицироваться. Процесс управления, который распределяет ответственность и требует мониторинга, может помочь выявить сбои, которые могут быть упущены при проверке перед развертыванием.
Пример Клалита с гепатитом С иллюстрирует потенциальную ценность сочетания эффективности модели с тщательной разработкой рабочего процесса. Ynetnews сообщает, что массовый опрос около 50 000 человек выявил только десятки носителей, в то время как целевой подход выявил 38 носителей среди примерно 500 человек, находящихся в группе риска. В статье это характеризуется как 100-кратное улучшение эффективности обнаружения и говорится, что инициатива зависела от постепенной интеграции в клинические рабочие процессы и объяснений, понятных врачам. Источник не предоставляет информацию о дизайне исследования, сравнительных показателях, частоте ложноположительных результатов, результатах последующего наблюдения или независимой проверке, необходимой для полной оценки результата.
Опубликованный опыт университетской больницы Хельсинки добавляет перспективы выбора. Ynetnews сообщает, что больница оценила 60 продуктов искусственного интеллекта и перешла к внедрению только 15, или около четверти. В статье также говорится, что лишь в меньшинстве оцененных проектов использовались формальные рамки, связывающие использование ИИ с клиническими результатами. Этот разрыв имеет значение, поскольку сама по себе техническая точность не позволяет определить, улучшает ли инструмент помощь, соответствующим образом меняет поведение врача или создает новые риски. Источник поддерживает рассмотрение OPTICA как подхода к управлению, описанного Ynetnews, а не как независимо доказанного доказательства того, что эта структура улучшает результаты.
Интерактивный механизм: как он на самом деле работает
Изучите технологию, лежащую в основе этой разработки, в интерактивном режиме.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Что посмотреть дальше
Предоставленный источник не устанавливает независимо дату публикации отчета ВОЗ, методологию или выводы за пределами аккаунта Ynetnews. В последующих отчетах необходимо изучить первоначальный отчет ВОЗ, доказательства, лежащие в основе результатов скрининга Клалит, является ли OPTICA общедоступной или принята за пределами Клалита, а также позволяет ли эта система заметно улучшить результаты лечения пациентов и снизить вред при рутинном уходе.
Первым приоритетом проверки является исходный отчет ВОЗ. В предоставленной статье не указано ее точное название, дата публикации, сведения об авторстве, метод обзора, критерии выбора четырех подходов, а также не указано ли в отчете официальное определение OPTICA в качестве глобального эталона. Эти детали будут определять, какой вес придать характеристике. До тех пор, пока отчет не будет рассмотрен напрямую, утверждения о рейтинге или одобрении ВОЗ должны оставаться приписанными Ynetnews.
Дальнейшее изучение должно быть сосредоточено на доказательствах, лежащих в основе скрининга на гепатит С, и на том, как OPTICA работает на практике. Важные неизвестные включают в себя то, как была проверена модель, как были выбраны пороговые значения риска, сколько людей было ошибочно отмечено или пропущено, изменили ли врачи решения из-за системы и улучшил ли этот подход результаты здравоохранения, а не только эффективность обнаружения. Также неясно, является ли контрольный список из 77 пунктов обязательным для каждого продукта Clalit AI, как проверяется соответствие требованиям и что происходит, когда мониторинг выявляет серьезную проблему.
Более широкой проверкой будет то, работают ли аналогичные механизмы надзора в больницах, специальностях, поставщиках и группах пациентов. Ynetnews сообщает, что в деле об инфраструктуре Aidoc особое внимание уделялось ответственному клиническому владению и мониторингу после модернизации оборудования, но предоставленный источник не приводит данных об инцидентах или сравнительной оценки. В будущих отчетах следует учитывать опубликованные результаты аудита, изменения производительности модели с течением времени, документированные отзывы или паузы, гарантии конфиденциальности и доказательства того, что врачи и пациенты могут понять и оспорить решения, поддерживаемые ИИ. Ему также следует установить, повлияла ли OPTICA на закупки или политику за пределами «Клалита».