ДалееСледующее руководство
Новые возможности больших языковых моделей
Языковой ИИ
РУКОВОДСТВО ПО ЯЗЫКУ ИИ
Медицинские модели большого языка могут составлять, обобщать, извлекать или преобразовывать медицинскую информацию, но беглый текст может содержать ошибки или упускать контекст.
Прослушайте это руководствоОзвучено ИИ · ~3 min
ВОЗ предупреждает, что крупные мультимодальные модели могут давать ложные, предвзятые или неполные результаты, и призывает к управлению и человеческому надзору. Клиническое использование требует определенной задачи, гарантий конфиденциальности, проверки и ответственного рецензента.
Большие языковые модели генерируют текст на основе шаблонов, изученных во время обучения, а также на основе подсказок или полученного контекста. В медицинских учреждениях они могут составлять документацию, обобщать записи, отвечать на административные вопросы или получать рекомендации. В руководстве ВОЗ по крупным мультимодальным моделям отмечаются риски, включая ложные или неточные утверждения, предвзятость, предвзятость автоматизации и проблемы конфиденциальности. Правдоподобное предложение не является доказательством того, что оно клинически правильное. Задача имеет значение. Составление краткой заметки для рассмотрения врачом сопряжено с другими рисками, чем рекомендация диагноза или лечения. Модели могут опускать отрицание, смешивать детали из записей, ссылаться на источники, которые не подтверждают утверждение, или давать сбой, когда подсказки неоднозначны. В руководстве FDA по поддержке принятия клинических решений объясняется, что некоторые функции программного обеспечения находятся под контролем устройства и что пользователям необходимо самостоятельно проверять основу для определенных рекомендаций. Команды должны определять применимые требования исходя из предполагаемой функции, а не предполагать общее исключение для чат-бота. Организации должны тестировать репрезентативные случаи, измерять фактические ошибки и упущения, защищать данные пациентов и обеспечивать этап проверки человеком. Используйте одобренную среду и наименее необходимую информацию. Ведите журналы аудита и пути возникновения инцидентов; не позволяйте сгенерированному тексту незаметно стать медицинской картой или назначением лечения. Врачи по-прежнему несут ответственность за профессиональные решения. Пациентам следует сообщать, когда ИИ вносит значимый вклад в их лечение. В письменной политике использования должны быть указаны разрешенные данные, запрещенные действия, подтверждение человеком и способ сообщения об ошибках. Перед развертыванием проверьте, могут ли сотрудники обнаружить неподтвержденные утверждения.
Прежде чем подписать, врач сверяет составленный с помощью ИИ отчет о посещении с источником.
В больнице проверяют, подтверждают ли цитаты ассистента его ответы.
Команда не допускает использования идентификаторов пациентов в неутвержденных внешних моделях.
Комитет по безопасности фиксирует использование модели и проверяет рекомендации.
По мере развития мер защиты организации здравоохранения могут применять модели для решения узких административных и информационных задач. Более мощные системы увеличивают потребность в доказательствах надежности, конфиденциальности и влияния на рабочий процесс. ВОЗ рекомендует управление, включающее затронутые сообщества и защищающее человеческую автономию. Местная политика должна определять приемлемое использование, проверку, эскалацию и подотчетность, а затем пересматриваться при изменении моделей или ролей. Организации должны рассказывать пациентам, как выражать обеспокоенность и могут ли они запросить альтернативу, предназначенную только для людей. В закупках также следует указать ответственность за использование, хранение данных, проверку безопасности и уведомление об изменениях.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Медицинские модели большого языка могут составлять, обобщать, извлекать или преобразовывать медицинскую информацию, но беглый текст может содержать ошибки или упускать контекст. ВОЗ предупреждает, что крупные мультимодальные модели могут давать ложные, предвзятые или неполные результаты, и призывает к управлению и человеческому надзору. Клиническое использование требует определенной задачи, гарантий конфиденциальности, проверки и ответственного рецензента.
Прежде чем подписать, врач сверяет составленный с помощью ИИ отчет о посещении с источником. В больнице проверяют, подтверждают ли цитаты ассистента его ответы. Команда не допускает использования идентификаторов пациентов в неутвержденных внешних моделях. Комитет по безопасности фиксирует использование модели и проверяет рекомендации.
По мере развития мер защиты организации здравоохранения могут применять модели для решения узких административных и информационных задач. Более мощные системы увеличивают потребность в доказательствах надежности, конфиденциальности и влияния на рабочий процесс. ВОЗ рекомендует управление, включающее затронутые сообщества и защищающее человеческую автономию. Местная политика должна определять приемлемое использование, проверку, эскалацию и подотчетность, а затем пересматриваться при изменении моделей или ролей. Организации должны рассказывать пациентам, как выражать обеспокоенность и могут ли они запросить альтернативу, предназначенную только для людей. В закупках также следует указать ответственность за использование, хранение данных, проверку безопасности и уведомление об изменениях.
Профессиональная ответственность остается за человеком, принимающим решения.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Новые возможности больших языковых моделей
Языковой ИИ