РУКОВОДСТВО ПО ОБЩЕСТВУ
Этика искусственного интеллекта для консультантов и терапевтов
Этика ИИ для консультантов и терапевтов означает применение уже имеющихся у вас обязанностей, таких как компетентность, информированное согласие, конфиденциальность и предотвращение вреда, к ИИ-секретарям, чат-ботам и помощникам в принятии клинических решений.
На этой странице4 минуты чтения
Обзор
Это важно, поскольку лицензионные комиссии возлагают на врача ответственность за любую работу с использованием ИИ, которая затрагивает клиента. Поставщик программного обеспечения не несет такой ответственности.
Глубокое погружение
Ни один крупный этический кодекс консультирования или психологии не был написан с учетом генеративного ИИ, но существующие стандарты по-прежнему применимы к нему. В Кодексе этики ACA (2014 г.) есть раздел H, посвященный дистанционному консультированию, технологиям и социальным сетям. Консультанты должны понимать технологию, которую они используют, объяснять ее преимущества и риски во время информированного согласия и защищать электронные записи. Этические принципы психологов и Кодекс поведения APA требуют от психологов работать в пределах своей компетенции, получать информированное согласие и сохранять конфиденциальность информации. В Кодекс этики NASW в редакции 2017 года добавлены технологические стандарты для социальных работников. С тех пор профессиональные ассоциации выпустили рекомендации, посвященные ИИ, и они в основном повторяют эти темы, а не создают новые обязанности. Четыре обязательства возникают снова и снова. Компетенция: понять, что делает инструмент, где он дает сбой и как он хранит данные, прежде чем положиться на него; Информированное согласие: клиенты должны знать, когда ИИ записывает, расшифровывает или составляет что-либо о них, и они должны иметь возможность отказаться; Конфиденциальность: в США ввод идентифицируемой информации о клиенте в потребительский чат-бот, у которого нет соглашения о деловом сотрудничестве, может нарушить HIPAA, каковы бы ни были ваши намерения; и Подотчетность: записка, диагноз или план лечения, которые вы подписываете, принадлежат вам, даже если их составило программное обеспечение. Законодательство штата тоже меняется. В 2025 году Иллинойс принял закон, запрещающий системам искусственного интеллекта проводить терапию или принимать терапевтические решения самостоятельно. Он по-прежнему позволяет использовать ИИ для выполнения административных и вспомогательных задач под контролем лицензированного профессионала. Другие штаты рассмотрели или приняли правила в отношении чат-ботов, связанных с психическим здоровьем. Правила различаются от штата к штату, поэтому уточняйте у своего совета директоров. Одним из распространенных заблуждений является то, что обезличивание данных решает любую проблему. Удаление имен никак не влияет на точность, предвзятость или на то, как результаты инструмента могут незаметно сформировать ваше клиническое суждение. Другой вариант заключается в том, что маркировка поставщика «Соответствует HIPAA» перекладывает ответственность на поставщика. Это не так.
Стратегическое воздействие
Риски и безопасность
Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать.
Более четкие решения
Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности.
Пробивая шумиху
Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра.
Будущее этики искусственного интеллекта для консультантов и терапевтов
Ожидайте более подробного руководства, а не новых этических принципов. Профессиональные ассоциации, вероятно, будут продолжать обновлять свои заявления об ИИ по мере изменения инструментов. Все больше законодательных собраний штатов обсуждают ограничения на использование ИИ, выступающего в роли терапевта. Страховщики и страховые компании могут также начать просить практикующих врачей документировать, как они используют ИИ. Основные вопросы останутся прежними. Понимает ли врач этот инструмент? Клиент знает об этом и согласен? Защищены ли данные? Является ли лицензированный человек по-прежнему ответственным за клинические решения? Врачам, которые выработают эти привычки сейчас, будет легче адаптироваться к любым новым правилам.
Реальная реализация
Прежде чем использовать окружающего ИИ-писца для заметок сеанса, консультант подтверждает, что поставщик подпишет соглашение о деловом партнерстве HIPAA. Она добавляет запись искусственного интеллекта в свою форму информированного согласия и позволяет клиентам отказаться от участия без каких-либо последствий для их лечения.
Психолог вставляет обезличенную виньетку в чат-бот, чтобы провести мозговой штурм дифференциальных диагнозов. Она проверяет каждое предложение на соответствие критериям DSM-5-TR и своей собственной оценке, а не копирует его в протокол.
Групповая практика пишет политику ИИ. В нем перечислены одобренные инструменты и запрещенные способы использования, такие как ввод имен клиентов в потребительские чат-боты, а также указано, кто просматривает проекты ИИ и как документируются ошибки.
Клиент упоминает об использовании сопутствующего чат-бота между сеансами. Терапевт спрашивает об этом без осуждения, говорит о том, чего нельзя делать в кризисной ситуации, и следит за тем, чтобы у клиента была настоящая кризисная линия, например, 988 в США.
Риски и ограничения
Относитесь к экзистенциальному риску как к научной фантастике, в то время как возможности растут.
Сбивает с толку безопасность поверхности продукта и выравнивание при высокой автономности.
Оставляя неанглоязычную и неспециалистскую аудиторию только с некачественными источниками.
Дорожная карта реализации
Отдельные риски повреждения продукта, неправильного использования и потери контроля/перекоса.
Спросите, какие доказательства могут изменить ваше мнение о сроках и серьезности.
Предпочитайте первоисточники и конкретные оценки маркетинговым заявлениям.
Определите один путь действий: карьера, политика, финансирование или навыки, а не только осведомленность.
Продолжайте исследовать
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI Ethics for Counselors and Therapists quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Часто задаваемые вопросы
Что такое этика искусственного интеллекта для консультантов и терапевтов?
Этика ИИ для консультантов и терапевтов означает применение уже имеющихся у вас обязанностей, таких как компетентность, информированное согласие, конфиденциальность и предотвращение вреда, к ИИ-секретарям, чат-ботам и помощникам в принятии клинических решений. Это важно, поскольку лицензионные комиссии возлагают на врача ответственность за любую работу с использованием ИИ, которая затрагивает клиента. Поставщик программного обеспечения не несет такой ответственности.
Какой раздел Кодекса этики ACA 2014 года касается дистанционного консультирования, технологий и социальных сетей?
Раздел H Кодекса ACA 2014 года охватывает дистанционное консультирование, технологии и социальные сети. Это требует от консультантов понимания технологии, которую они используют, и объяснения ее рисков во время информированного согласия.
В соответствии с HIPAA США, что должен подтвердить терапевт перед вводом идентифицируемой информации о клиенте в инструмент искусственного интеллекта?
Ввод идентифицируемой информации о клиенте в инструмент, поставщик которого не подписал соглашение о деловом сотрудничестве, может нарушить HIPAA, каковы бы ни были намерения врача.
Согласно руководству, что сделал закон штата Иллинойс 2025 года?
Закон штата Иллинойс запрещает системам искусственного интеллекта предоставлять терапию или принимать терапевтические решения самостоятельно. Он по-прежнему разрешает административное и вспомогательное использование под руководством лицензированного профессионала.
Консультант подписывает составленную ИИ записку о проделанной работе, содержащую ошибку. Кто несет ответственность, согласно руководству?
В руководстве говорится, что заметка, диагноз или план, который вы подписываете, принадлежат вам, даже если их подготовило программное обеспечение. Знак соответствия поставщика не снимает такой ответственности.
Почему в руководстве говорится, что обезличивание данных не решает все этические проблемы?
Удаление имен защищает личность. Это не делает результаты точными или беспристрастными и не мешает результатам формировать мышление врача.
Продолжайте учиться
Связанные руководства
Другие руководства, выбранные по этой теме