Co się stało
The Guardian donosi, że Healthwatch England otrzymało wiele raportów dotyczących narzędzi do kopiowania AI, które generują niedokładne transkrypcje i podsumowania konsultacji. Przykładami mogą tu być: błędna diagnoza, pomylona nazwa leku i brak instrukcji dotyczącej uzyskania ponownej recepty.
The Guardian poinformował 31 sierpnia 2026 r., że Healthwatch England ostrzegł, że systemy sztucznej inteligencji używane do słuchania i transkrypcji konsultacji medycznych mogą błędnie identyfikować nazwy leków i choroby. W raporcie opisano skrybów AI jako szybko rozwijającą się technologię w Anglii, gdzie lekarze i szpitale korzystają już z 27 różnych systemów. W 10-letnim rządowym planie zdrowotnym NHS narzędzia te mają pomóc w ograniczeniu pracy administracyjnej i zapewnić lekarzom więcej czasu spędzonego z pacjentami.
Jeden przypadek dotyczył kobiety, której podsumowanie wygenerowane przez sztuczną inteligencję błędnie stwierdziło, że cierpi na demielinizację – poważną chorobę, która może być powiązana ze stwardnieniem rozsianym. Według The Guardian kobieta była pracownikiem służby zdrowia NHS i zauważyła problem, gdy sprawdziła wynik rezonansu magnetycznego w narzędziu. Szpital poprawił później zapis na „zero demielinizacji”. Kobieta powiedziała gazecie, że otrzymanie błędnej diagnozy, a następnie powiedzenie jej, że to literówka, było dla niej traumatyczne.
The Guardian poinformował również, że pacjenci zidentyfikowali inne błędy: skryba AI pomylił przepisany lek z innym lekiem o podobnej nazwie, a w automatycznie wygenerowanym piśmie pominięto instrukcję konsultanta, że pacjent powinien zwrócić się do swojego lekarza pierwszego kontaktu o ponowną receptę na migrenę. Healthwatch stwierdziło, że słyszało wiele historii, w których pacjenci zauważyli błędy, których nie zauważyli pracownicy służby zdrowia. Dostarczone źródło to zgłoszone konto dodatkowe; te indywidualne przypadki, liczba pacjentów dotkniętych chorobą i dokładne poziomy błędów narzędzi nie zostały tu niezależnie potwierdzone w raporcie głównego organu regulacyjnego ani w zbiorze danych NHS.
Szczegóły źródła: theguardian.com ↗
Dlaczego to ma znaczenie
Błędy w dokumentacji wykorzystywanej do opieki nad pacjentem mogą mieć wpływ na leczenie, dostęp do leków i zaufanie do automatyzacji NHS. The Guardian donosi, że w Anglii nie ma ogólnokrajowych ram nadzoru nad specjalistami zajmującymi się sztuczną inteligencją po tym, jak MHRA zdecydowała się nie klasyfikować ich jako wyrobów medycznych.
Praktyczne ryzyko polega na tym, że nieprawidłowy zapis może stać się częścią dokumentacji medycznej pacjenta i wpłynąć na późniejszą opiekę. Błędna diagnoza może wywołać niepokój lub spowodować nieodpowiednie dalsze leczenie, natomiast myląca nazwa leku może przyczynić się do błędu w przepisywaniu lub leczeniu. Brak instrukcji może również spowodować problemy z dostępem, jeśli pacjent nie będzie mógł otrzymać leku w oczekiwanym terminie. Przykłady „The Guardian” pokazują, że szkoda nie zależy od podjęcia przez system sztucznej inteligencji dramatycznej decyzji klinicznej; niewielki błąd w transkrypcji lub podsumowaniu może mieć znaczenie, gdy zostanie wprowadzony do obiegu klinicznego.
Healthwatch England powiedział dziennikowi The Guardian, że błędy mogą się utrzymywać, jeśli pacjenci ich nie wyłapią. To nakłada część ciężaru kontroli jakości na osoby, które mogą nie wiedzieć, co zostało powiedziane, mogą czuć się źle lub nie mieć dostępu do wygenerowanego zapisu. Rodzi to również pytanie dotyczące przepływu pracy dla klinicystów: jeśli lekarze muszą dokładnie sprawdzać każdy zapis, obiecana oszczędność czasu może zostać zmniejszona. Doktor Shier Ziser Dawood, londyński lekarz pierwszego kontaktu cytowany przez The Guardian, opisała wcześniej nagranie skryby AI, w którym kazała pacjentce kontynuować stosowanie Prozacu, mimo że nie przepisała go ani nie omawiała tego.
W raporcie zwrócono także uwagę na nierówne wyniki konsultacji. Dr Charlotte Blease, badaczka zajmująca się sztuczną inteligencją w opiece zdrowotnej na Uniwersytecie w Uppsali, powiedziała dziennikowi The Guardian, że błędy są bardziej prawdopodobne, gdy w badaniu uczestniczy kilka osób, gdy pacjent ma złożoną historię medyczną lub gdy angielski nie jest jego pierwszym językiem. Ponad połowa z 1003 lekarzy pierwszego kontaktu w Wielkiej Brytanii objętych ankietą Blease podobno uznała, że ich zapisy dotyczące sztucznej inteligencji w otoczeniu są dokładniejsze niż te, które sami sporządzili, ale stwierdziła również, że w przypadku sztucznej inteligencji wskaźnik błędów może być większy. Wyniki ankiety nie potwierdzają bezpieczeństwa klinicznego żadnego konkretnego narzędzia, a w artykule nie przedstawiono porównawczych pomiarów błędów ani niezależnej walidacji.
Mechanizm interaktywny: jak to faktycznie działa
Poznaj interaktywnie technologię leżącą u podstaw tego rozwoju.
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
Co obejrzeć dalej
Zwróć uwagę na jaśniejsze procedury NHS dotyczące przeglądania, poprawiania i raportowania zapisów generowanych przez sztuczną inteligencję; dowody dotyczące poziomów błędów w przypadku różnych narzędzi i grup pacjentów; oraz czy organy regulacyjne ponownie rozważą status nadzorczy autorów sztucznej inteligencji.
Główną kwestią jest to, czy pacjenci będą mieli prosty i widoczny sposób przeglądania notatek generowanych przez sztuczną inteligencję, zgłaszania błędów i uzyskiwania poprawek. Healthwatch powiedział dziennikowi The Guardian, że istnieje pilna potrzeba wyjaśnienia, w jaki sposób należy zgłaszać i korygować błędy popełniane podczas stosowania narzędzi do trasowania lub przez korzystających z nich specjalistów. Przydatne zabezpieczenia musiałyby określać, kto jest odpowiedzialny za sprawdzanie dokumentacji, jak szybko należy wprowadzić poprawki i w jaki sposób zmiany są przekazywane późniejszym lekarzom.
The Guardian poinformował, że Healthwatch jest zaniepokojony decyzją Agencji Regulacyjnej ds. Leków i Produktów Opieki Zdrowotnej, aby nie klasyfikować autorów sztucznej inteligencji jako wyrobów medycznych. Według raportu decyzja ta oznacza, że nie będzie żadnego nadzoru obejmującego całą Anglię, którego celem byłoby zapewnienie bezpieczeństwa i skuteczności systemów. Dostarczony artykuł nie zawiera uzasadnienia MHRA, odpowiedzi NHS na ostrzeżenie Healthwatch ani szczegółów dotyczących krajowego systemu badań, zatem konsekwencje regulacyjne pozostają ważnymi nieznanymi.
W dalszych sprawozdaniach należy ustalić, czym różni się 27 systemów, czy wykorzystuje się je wyłącznie do rejestrowania danych, czy także do sporządzania dokumentów klinicznych, a także jak często klinicyści przeglądają swoje wyniki, zanim trafią one do formalnego zapisu. Należy również zbadać wyniki pod kątem akcentów, konsultacji wielojęzycznych, złożonej historii i spotkań z wieloma osobami, w związku z wcześniejszymi skargami w Rotherham dotyczącymi recepcjonistki AI zmagającej się z silnym akcentem z Yorkshire. Z raportu Guardiana nie wynika, jak powszechne są te problemy ani czy jakiekolwiek narzędzie zostało wycofane, dlatego wnioski na temat technologii jako całości powinny pozostać ograniczone.