ДалееСледующее руководство
Китайские меры по проверке этики исследований ИИ
Общество
РУКОВОДСТВО ПО ОБЩЕСТВУ
Этика ИИ для консультантов и терапевтов означает применение уже имеющихся у вас обязанностей, таких как компетентность, информированное согласие, конфиденциальность и предотвращение вреда, к ИИ-секретарям, чат-ботам и помощникам в принятии клинических решений.
Прослушайте это руководствоОзвучено ИИ · ~3 min
Это важно, поскольку лицензионные комиссии возлагают на врача ответственность за любую работу с использованием ИИ, которая затрагивает клиента. Поставщик программного обеспечения не несет такой ответственности.
Ни один крупный этический кодекс консультирования или психологии не был написан с учетом генеративного ИИ, но существующие стандарты по-прежнему применимы к нему. В Кодексе этики ACA (2014 г.) есть раздел H, посвященный дистанционному консультированию, технологиям и социальным сетям. Консультанты должны понимать технологию, которую они используют, объяснять ее преимущества и риски во время информированного согласия и защищать электронные записи. Этические принципы психологов и Кодекс поведения APA требуют от психологов работать в пределах своей компетенции, получать информированное согласие и сохранять конфиденциальность информации. В Кодекс этики NASW в редакции 2017 года добавлены технологические стандарты для социальных работников. С тех пор профессиональные ассоциации выпустили рекомендации, посвященные ИИ, и они в основном повторяют эти темы, а не создают новые обязанности. Четыре обязательства возникают снова и снова. Компетенция: понять, что делает инструмент, где он дает сбой и как он хранит данные, прежде чем положиться на него; Информированное согласие: клиенты должны знать, когда ИИ записывает, расшифровывает или составляет что-либо о них, и они должны иметь возможность отказаться; Конфиденциальность: в США ввод идентифицируемой информации о клиенте в потребительский чат-бот, у которого нет соглашения о деловом сотрудничестве, может нарушить HIPAA, каковы бы ни были ваши намерения; и Подотчетность: записка, диагноз или план лечения, которые вы подписываете, принадлежат вам, даже если их составило программное обеспечение. Законодательство штата тоже меняется. В 2025 году Иллинойс принял закон, запрещающий системам искусственного интеллекта проводить терапию или принимать терапевтические решения самостоятельно. Он по-прежнему позволяет использовать ИИ для выполнения административных и вспомогательных задач под контролем лицензированного профессионала. Другие штаты рассмотрели или приняли правила в отношении чат-ботов, связанных с психическим здоровьем. Правила различаются от штата к штату, поэтому уточняйте у своего совета директоров. Одним из распространенных заблуждений является то, что обезличивание данных решает любую проблему. Удаление имен никак не влияет на точность, предвзятость или на то, как результаты инструмента могут незаметно сформировать ваше клиническое суждение. Другой вариант заключается в том, что маркировка поставщика «Соответствует HIPAA» перекладывает ответственность на поставщика. Это не так.
Прежде чем использовать окружающего ИИ-писца для заметок сеанса, консультант подтверждает, что поставщик подпишет соглашение о деловом партнерстве HIPAA. Она добавляет запись искусственного интеллекта в свою форму информированного согласия и позволяет клиентам отказаться от участия без каких-либо последствий для их лечения.
Психолог вставляет обезличенную виньетку в чат-бот, чтобы провести мозговой штурм дифференциальных диагнозов. Она проверяет каждое предложение на соответствие критериям DSM-5-TR и своей собственной оценке, а не копирует его в протокол.
Групповая практика пишет политику ИИ. В нем перечислены одобренные инструменты и запрещенные способы использования, такие как ввод имен клиентов в потребительские чат-боты, а также указано, кто просматривает проекты ИИ и как документируются ошибки.
Клиент упоминает об использовании сопутствующего чат-бота между сеансами. Терапевт спрашивает об этом без осуждения, говорит о том, чего нельзя делать в кризисной ситуации, и следит за тем, чтобы у клиента была настоящая кризисная линия, например, 988 в США.
Ожидайте более подробного руководства, а не новых этических принципов. Профессиональные ассоциации, вероятно, будут продолжать обновлять свои заявления об ИИ по мере изменения инструментов. Все больше законодательных собраний штатов обсуждают ограничения на использование ИИ, выступающего в роли терапевта. Страховщики и страховые компании могут также начать просить практикующих врачей документировать, как они используют ИИ. Основные вопросы останутся прежними. Понимает ли врач этот инструмент? Клиент знает об этом и согласен? Защищены ли данные? Является ли лицензированный человек по-прежнему ответственным за клинические решения? Врачам, которые выработают эти привычки сейчас, будет легче адаптироваться к любым новым правилам.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Этика ИИ для консультантов и терапевтов означает применение уже имеющихся у вас обязанностей, таких как компетентность, информированное согласие, конфиденциальность и предотвращение вреда, к ИИ-секретарям, чат-ботам и помощникам в принятии клинических решений. Это важно, поскольку лицензионные комиссии возлагают на врача ответственность за любую работу с использованием ИИ, которая затрагивает клиента. Поставщик программного обеспечения не несет такой ответственности.
Раздел H Кодекса ACA 2014 года охватывает дистанционное консультирование, технологии и социальные сети. Это требует от консультантов понимания технологии, которую они используют, и объяснения ее рисков во время информированного согласия.
Ввод идентифицируемой информации о клиенте в инструмент, поставщик которого не подписал соглашение о деловом сотрудничестве, может нарушить HIPAA, каковы бы ни были намерения врача.
Закон штата Иллинойс запрещает системам искусственного интеллекта предоставлять терапию или принимать терапевтические решения самостоятельно. Он по-прежнему разрешает административное и вспомогательное использование под руководством лицензированного профессионала.
В руководстве говорится, что заметка, диагноз или план, который вы подписываете, принадлежат вам, даже если их подготовило программное обеспечение. Знак соответствия поставщика не снимает такой ответственности.
Удаление имен защищает личность. Это не делает результаты точными или беспристрастными и не мешает результатам формировать мышление врача.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Китайские меры по проверке этики исследований ИИ
Общество