무슨 일이 일어났나요?
Guardian은 Healthwatch England가 부정확한 상담 기록 및 요약을 생성하는 AI 스크라이빙 도구에 대한 여러 계정을 받았다고 보고합니다. 예를 들면 잘못된 진단, 혼동되는 약 이름, 반복 처방에 대한 누락된 지침 등이 있습니다.
Guardian은 2026년 8월 31일에 Healthwatch England가 의료 상담을 듣고 기록하는 데 사용되는 AI 시스템이 약물 이름과 질병을 잘못 식별할 수 있다고 경고했다고 보도했습니다. 보고서는 의사와 병원이 이미 27개의 서로 다른 시스템을 사용하고 있는 영국에서 AI 서기관이 빠르게 확장되는 기술이라고 설명합니다. 정부의 10개년 NHS 건강 계획은 행정 업무를 줄이고 임상의가 환자와 더 많은 시간을 보낼 수 있는 방법으로 도구를 제시합니다.
한 사례에는 AI가 생성한 요약에서 다발성 경화증과 관련될 수 있는 심각한 질환인 탈수초가 있다고 잘못 기술한 여성이 포함되었습니다. The Guardian에 따르면, 그 여성은 NHS 의료 전문가였으며 MRI 결과에 대한 도구 계정을 확인했을 때 문제를 발견했습니다. 이후 병원은 해당 기록을 '무수초 탈수초화'로 정정했다. 그 여성은 잘못된 진단을 받고 오타라는 말을 듣는 것이 충격적이었다고 신문에 말했습니다.
Guardian은 또한 환자들이 다른 오류도 발견했다고 보고했습니다. AI 서기관이 처방약을 비슷한 이름의 다른 약과 혼동했고, 자동으로 생성된 편지에는 환자가 GP로부터 편두통 처방을 반복 받아야 한다는 컨설턴트의 지시가 생략되었습니다. 헬스워치는 환자들이 의료 전문가들이 인지하지 못한 실수를 발견했다는 여러 이야기를 들었다고 말했습니다. 제공된 소스는 보고된 보조 계정입니다. 이러한 개별 사례, 영향을 받은 환자 수 및 도구의 정확한 오류율은 1차 규제 기관 보고서 또는 NHS 데이터 세트를 통해 여기에서 독립적으로 확인되지 않았습니다.
왜 중요한가요?
환자 치료에 사용된 기록의 오류는 치료, 약물 접근 및 NHS 자동화에 대한 신뢰에 영향을 미칠 수 있습니다. Guardian은 MHRA가 AI 서기관을 의료 기기로 분류하지 않기로 결정한 이후 영국에는 AI 서기관에 대한 전국적인 감독 체계가 없다고 보고했습니다.
실질적인 위험은 잘못된 기록이 환자의 의료 기록의 일부가 되어 향후 치료에 영향을 미칠 수 있다는 것입니다. 잘못된 진단은 고통을 야기하거나 부적절한 후속 조치를 유발할 수 있으며, 혼란스러운 약물 이름은 처방 또는 치료 오류에 기여할 수 있습니다. 환자가 예상한 대로 약물을 얻을 수 없는 경우 지침이 누락되어 접근 문제가 발생할 수도 있습니다. Guardian의 예는 피해가 극적인 임상 결정을 내리는 AI 시스템에 달려 있지 않다는 것을 보여줍니다. 작은 전사 또는 요약 오류는 임상 작업 흐름에 들어갈 때 중요할 수 있습니다.
Healthwatch England는 The Guardian에 환자가 실수를 발견하지 못하면 실수가 지속될 수 있다고 말했습니다. 이는 말한 내용을 모르거나 몸이 좋지 않거나 생성된 기록에 접근할 수 없는 사람들에게 품질 관리 부담의 일부를 가하는 것입니다. 이는 또한 임상의에게 작업 흐름에 대한 질문을 제기합니다. 의사가 모든 기록을 주의 깊게 확인해야 한다면 약속된 시간 절약이 줄어들 수 있습니다. The Guardian이 인용한 런던 GP인 Dr Shier Ziser Dawood는 이전에 환자에게 Prozac을 처방하거나 논의하지 않았음에도 불구하고 Prozac을 계속 사용하라고 말한 AI 서기 기록을 설명했습니다.
보고서는 또한 상담 전반에 걸쳐 고르지 못한 성과를 강조합니다. 웁살라 대학교의 AI 의료 연구원인 Charlotte Blease 박사는 The Guardian과의 인터뷰에서 여러 사람이 있을 때, 환자의 병력이 복잡할 때, 영어가 환자의 모국어가 아닐 때 오류가 발생할 가능성이 더 높다고 말했습니다. Blase의 조사에 참여한 영국 GP 1,003명 중 절반 이상이 주변 AI 기록이 스스로 생성한 기록보다 더 정확하다고 생각했지만 AI의 경우 오류율이 더 나쁠 수도 있다고 말했습니다. 설문 조사 결과는 특정 도구의 임상적 안전성을 확립하지 않으며 기사는 비교 오류 측정이나 독립적인 검증을 제공하지 않습니다.
대화형 메커니즘: 실제로 작동하는 방식
이 개발의 이면에 있는 기본 기술을 대화식으로 살펴보세요.
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
다음에 무엇을 볼 것인가
AI 생성 기록을 검토, 수정 및 보고하기 위한 보다 명확한 NHS 절차를 살펴보세요. 다양한 도구와 환자 그룹의 오류율에 대한 증거 규제 기관이 AI 서기관의 감독 상태를 재검토하는지 여부.
가장 중요한 문제는 환자가 AI가 생성한 메모를 검토하고 오류를 보고하고 수정 사항을 얻을 수 있는 간단하고 눈에 띄는 방법을 가질 수 있는지 여부입니다. Healthwatch는 필기 도구 또는 이를 사용하는 전문가가 저지른 실수를 어떻게 보고하고 수정해야 하는지에 대한 명확성이 시급히 필요하다고 The Guardian에 말했습니다. 기록 확인 책임이 누구에게 있는지, 얼마나 빨리 수정해야 하는지, 수정 사항이 이후 임상의에게 어떻게 전달되는지 정의하는 것이 유용한 안전 장치입니다.
Guardian은 Healthwatch가 AI 서기관을 의료 기기로 분류하지 않기로 한 의약품 및 의료 제품 규제 기관의 결정에 대해 우려하고 있다고 보도했습니다. 보고서에 따르면, 이러한 결정은 시스템의 안전과 효율성을 보장하기 위한 영국 전역의 감독이 없을 것임을 의미합니다. 제공된 기사에는 MHRA의 추론, Healthwatch의 경고에 대한 NHS의 대응 또는 국가 테스트 체제의 세부 사항이 포함되어 있지 않으므로 규제 결과는 여전히 중요한 알 수 없는 상태로 남아 있습니다.
추가 보고에서는 27개 시스템이 어떻게 다른지, 기록에만 사용되는지 또는 임상 문서 초안 작성에도 사용되는지, 임상의가 출력이 공식 기록에 도달하기 전에 얼마나 자주 검토하는지를 확립해야 합니다. 또한 강한 요크셔 억양으로 어려움을 겪고 있는 AI 접수원에 대한 Rotherham의 이전 불만에 이어 악센트, 다국어 상담, 복잡한 이력 및 다중 사람 약속에 대한 성과를 조사해야 합니다. Guardian의 보고서는 이러한 문제가 얼마나 널리 퍼져 있는지 또는 어떤 도구가 철회되었는지 여부를 보여주지 않으므로 기술 전체에 대한 결론은 제한적이어야 합니다.