이 페이지에서4분 읽기
개요
It matters because licensing boards hold the clinician responsible for any AI-assisted work that touches a client. The software vendor does not carry that responsibility.
심층 분석
No major counseling or psychology ethics code was written with generative AI in mind, but the existing standards still apply to it. The ACA Code of Ethics (2014) has Section H on distance counseling, technology and social media. It requires counselors to understand the technology they use, explain its benefits and risks during informed consent, and protect electronic records. The APA Ethical Principles of Psychologists and Code of Conduct requires psychologists to work within their competence, get informed consent and keep information confidential. The NASW Code of Ethics added technology standards for social workers in its 2017 revision. Professional associations have since issued AI-specific guidance, and it mostly restates these themes rather than creating new duties. Four obligations come up again and again. Competence: understand what a tool does, where it fails and how it stores data before you rely on it; Informed consent: clients should know when AI records, transcribes or drafts anything about them, and they should be able to decline; Confidentiality: in the US, entering identifiable client information into a consumer chatbot that has no business associate agreement can violate HIPAA, whatever your intent; and Accountability: a note, diagnosis or treatment plan you sign is yours, even if software drafted it. State law is changing too. In 2025 Illinois passed a law that bars AI systems from providing therapy or making therapeutic decisions on their own. It still allows AI for administrative and supporting tasks under a licensed professional's oversight. Other states have considered or passed rules on mental health chatbots. Rules differ from state to state, so check with your own board. One common misconception is that de-identifying data solves every problem. Removing names does nothing about accuracy, bias, or the way a tool's output can quietly shape your clinical judgment. Another is that a vendor's "HIPAA compliant" label moves responsibility onto the vendor. It does not.
전략적 영향
위험과 안전
치명적인 AI 피해와 일상적인 AI 피해는 누가 위험을 이해하고 누가 조치를 취할 수 있는지에 따라 달라집니다.
더 명확한 결정들
공공 및 전문 지식은 강력한 안전 정책이 정치적으로 가능한지 여부를 결정합니다.
과장된 과장을 뚫고 나가기
명확한 설명은 과대광고, 연구실 홍보, 모호한 윤리 연극에 의한 포착을 줄입니다.
The Future of AI Ethics for Counselors and Therapists
Expect more detailed guidance rather than new ethical principles. Professional associations will probably keep updating their AI statements as the tools change. More state legislatures are debating limits on AI that presents itself as a therapist. Insurers and malpractice carriers may also start asking practices to document how they use AI. The core questions will stay the same. Does the clinician understand the tool? Does the client know about it and agree? Is the data protected? Is a licensed human still responsible for clinical decisions? Clinicians who build these habits now will find it easier to adapt to whatever rules come next.
실제 구현
Before using an ambient AI scribe for session notes, a counselor confirms the vendor will sign a HIPAA business associate agreement. She adds AI recording to her informed consent form and lets clients opt out without any effect on their care.
A psychologist pastes a de-identified vignette into a chatbot to brainstorm differential diagnoses. She checks each suggestion against DSM-5-TR criteria and her own assessment instead of copying it into the record.
A group practice writes an AI policy. It lists approved tools and banned uses, such as typing client names into consumer chatbots, and says who reviews AI drafts and how errors are documented.
A client mentions using a companion chatbot between sessions. The therapist asks about it without judgment, talks about what it cannot do in a crisis, and makes sure the client has a real crisis line, such as 988 in the US.
위험 및 가드레일
실존적 위험을 공상과학처럼 다루면서 능력을 합성합니다.
높은 자율성 하에서 정렬과 표면 제품 안전성을 혼동합니다.
영어가 아니거나 전문가가 아닌 청중에게는 품질이 낮은 소스만 남겨 둡니다.
구현 로드맵
제품 손상, 오용, 통제력 상실/잘못 정렬 위험을 분리합니다.
일정과 심각도에 대한 귀하의 견해를 바꿀 수 있는 증거가 무엇인지 물어보십시오.
마케팅 주장보다 기본 소스와 구체적인 평가를 선호하세요.
인식뿐만 아니라 경력, 정책, 자금 조달 또는 기술 등 하나의 행동 경로를 식별하십시오.
계속 탐색하세요
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI Ethics for Counselors and Therapists quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
자주 묻는 질문
What is AI Ethics for Counselors and Therapists?
AI ethics for counselors and therapists means applying duties you already have, such as competence, informed consent, confidentiality and avoiding harm, to AI note-takers, chatbots and clinical decision aids. It matters because licensing boards hold the clinician responsible for any AI-assisted work that touches a client. The software vendor does not carry that responsibility.
2014 ACA 윤리강령 중 원격 상담, 기술 및 소셜 미디어를 다루는 섹션은 무엇입니까?
2014 ACA 규정의 섹션 H에는 원격 상담, 기술 및 소셜 미디어가 포함됩니다. 상담사는 자신이 사용하는 기술을 이해하고 사전 동의 중에 그 위험을 설명해야 합니다.
US HIPAA에 따라 치료사는 식별 가능한 고객 정보를 AI 도구에 입력하기 전에 무엇을 확인해야 합니까?
비즈니스 제휴 계약에 서명하지 않은 공급업체의 도구에 식별 가능한 고객 정보를 입력하는 것은 임상의가 의도한 것이 무엇이든 간에 HIPAA를 위반할 수 있습니다.
가이드에 따르면 2025년 일리노이주 법은 어떤 역할을 하였나요?
일리노이주 법은 AI 시스템이 스스로 치료를 제공하거나 치료 결정을 내리는 것을 금지합니다. 라이센스가 있는 전문가 하에서는 여전히 관리 및 지원 사용이 허용됩니다.
상담사는 오류가 포함된 AI 초안 진행 메모에 서명합니다. 가이드에 따르면 책임은 누구에게 있나요?
가이드에는 귀하가 서명한 메모, 진단 또는 계획이 소프트웨어에서 작성되었더라도 귀하의 소유라고 명시되어 있습니다. 공급업체의 규정 준수 라벨은 해당 책임을 옮기지 않습니다.
가이드에서는 데이터 비식별화가 모든 윤리적 문제를 해결하지 못한다고 말하는 이유는 무엇입니까?
이름을 제거하면 신원이 보호됩니다. 이는 출력을 정확하거나 편견 없이 만들지 않으며 출력이 임상의의 사고를 형성하는 것을 막지 않습니다.
계속 학습하세요
관련 가이드
이 주제에 대해 선택된 추가 가이드