ДалееСледующее руководство
Материалы по обучению пациентов искусственному интеллекту
Приложения
РУКОВОДСТВО ПО ПРИМЕНЕНИЮ
Ответы, составленные с помощью ИИ, — это ответы, которые языковая модель записывает в почтовый ящик EHR врача на сообщение портала пациента.
Прослушайте это руководствоОзвучено ИИ · ~3 min
Врач должен просмотреть, отредактировать и отправить каждый из них. Ранние исследования показывают, что черновики могут снизить умственную нагрузку при работе с почтовым ящиком и часто воспринимаются как проявление сопереживания, но они не позволяют надежно сэкономить время, а их безопасность зависит от тщательного рассмотрения людьми.
Широкомасштабное использование началось в 2023 году, когда Epic и Microsoft начали предлагать черновики ответов на основе GPT-4 через Azure OpenAI. Среди первых последователей были UC San Diego Health, UW Health и Stanford Health Care. При типичной настройке система считывает сообщение пациента и некоторый контекст карты, а затем отображает предлагаемый ответ. Врач может начать с черновика или с нуля. Ничто не поступает к пациенту автоматически. Исследование неоднозначное. В исследовании 2023 года, проведенном Айерсом и его коллегами из JAMA Internal Medicine, ответы ChatGPT сравнивались с ответами врачей на вопросы общественного здравоохранения, опубликованные на Reddit. В большинстве сравнений оценщики отдали предпочтение ответам чат-ботов и оценили их выше за качество и эмпатию. Это место не было настоящим клиническим почтовым ящиком. Исследования внутри систем здравоохранения дают более скромную картину. Стэнфордское исследование, проведенное Гарсией и его коллегами из JAMA Network Open в 2024 году, показало, что врачи использовали черновики примерно для пятой части сообщений, что привело к снижению нагрузки на работу и показателям выгорания, но без существенной экономии времени. Исследование, проведенное Тай-Силом и его коллегами в Калифорнийском университете в Сан-Диего в 2024 году, не выявило сокращения времени ответа, увеличения времени, затрачиваемого на чтение сообщений, и увеличения продолжительности ответов. Исследования безопасности показывают, почему проверка имеет значение. Симуляционное исследование 2024 года в Mass General Brigham, опубликованное в Lancet Digital Health, показало, что небольшая часть неотредактированных черновиков GPT-4 могла бы нанести серьезный вред в случае отправки. Врачи, использовавшие черновики, иногда оставляли содержание модели на месте. Это предвзятость автоматизации: люди склонны принимать беглый черновик. Основное заблуждение состоит в том, что составление чертежей в основном экономит время. На данный момент имеющиеся данные указывают скорее на снижение умственной нагрузки, чем на экономию минут. Раскрытие информации также становится юридической проблемой. Калифорнийский закон AB 3030, вступающий в силу в 2025 году, требует, чтобы поставщики медицинских услуг раскрывали сообщения пациентов, созданные с помощью искусственного интеллекта, если только лицензированный поставщик не проверил их.
Медсестра открывает сообщение пациента о кашле, продолжающемся три недели. Она находит заранее написанный черновик с вопросами о лихорадке и одышке, редактирует его, предлагая посетить на той же неделе, и отправляет.
Врач отказывается от проекта, в котором пациенту предлагалось удвоить дозу лекарства от кровяного давления, потому что модель не видела вчерашних лабораторных результатов, показывающих высокий уровень калия.
Система здравоохранения добавляет к ответам строку, в которой говорится, что сообщение было составлено с помощью искусственного интеллекта и проверено врачом, чтобы пациенты знали, как их лечащая команда использует этот инструмент.
Организация отключает составление сообщений о результатах тестов и возможных чрезвычайных ситуациях, отправляя их на сортировку медсестрам без черновиков ИИ.
Черновики входящих сообщений, вероятно, будут распространяться, поскольку объем сообщений продолжает расти, но причины для его принятия смещаются от экономии минут к снижению нагрузки на врачей. Для подтверждения этого утверждения требуется более длительное наблюдение. Лучшее использование контекста диаграммы и более тщательная сортировка сообщений, получающих черновики, могут повысить точность. Большим риском остается предвзятость автоматизации, поэтому обучение, аудит и дизайн интерфейса, упрощающий редактирование, будут иметь такое же значение, как и модель. Ожидайте большего внимания к раскрытию информации и согласию пациентов, поскольку штаты и системы здравоохранения устанавливают правила. Открытый вопрос исследования заключается в том, изменят ли законопроекты результаты лечения пациентов, а не только врачей.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Ответы, составленные с помощью ИИ, — это ответы, которые языковая модель записывает в почтовый ящик EHR врача на сообщение портала пациента. Врач должен просмотреть, отредактировать и отправить каждый из них. Ранние исследования показывают, что черновики могут снизить умственную нагрузку при работе с почтовым ящиком и часто воспринимаются как проявление сопереживания, но они не позволяют надежно сэкономить время, а их безопасность зависит от тщательного рассмотрения людьми.
Врачи использовали черновики примерно для пятой части сообщений. Показатели бремени улучшились, но время существенно не изменилось.
В исследовании оценивались ответы чат-ботов и врачей на вопросы публичного форума, которым не хватает реального контекста карты и взаимоотношений с пациентами.
Время ответа не сократилось, время чтения выросло, а ответы стали длиннее. Это подрывает идею о том, что составление проектов в основном экономит время.
Предвзятость к автоматизации — это тенденция принимать машинную продукцию, особенно беглую, без достаточной проверки.
Если ключевые данные, такие как результаты новой лабораторной работы, отсутствуют в подсказке, модель может дать уверенный, но небезопасный ответ.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Материалы по обучению пациентов искусственному интеллекту
Приложения