Wat is er gebeurd
The Guardian meldt dat Healthwatch Engeland meerdere accounts heeft ontvangen van AI-schrijftools die onnauwkeurige transcripties en samenvattingen van consultaties produceren. Voorbeelden hiervan zijn een onjuiste diagnose, een verwarde medicijnnaam en een ontbrekende instructie over het verkrijgen van een herhaalrecept.
The Guardian meldde op 31 augustus 2026 dat Healthwatch Engeland had gewaarschuwd dat AI-systemen die worden gebruikt om naar medische consultaties te luisteren en deze te transcriberen, medicijnnamen en ziekten verkeerd kunnen identificeren. Het rapport beschrijft AI-schrijvers als een snelgroeiende technologie in Engeland, waar artsen en ziekenhuizen al 27 verschillende systemen gebruiken. Het tienjarige NHS-gezondheidsplan van de overheid presenteert de instrumenten als een manier om het administratieve werk te verminderen en artsen meer tijd voor patiënten te geven.
Eén geval betrof een vrouw wier door AI gegenereerde samenvatting ten onrechte vermeldde dat ze demyelinisatie had, een ernstige aandoening die in verband kan worden gebracht met multiple sclerose. Volgens The Guardian was de vrouw een NHS-gezondheidsprofessional en merkte ze het probleem op toen ze het verslag van haar MRI-resultaat in de tool controleerde. Het ziekenhuis corrigeerde het record later naar ‘nuldemyelinisatie’. De vrouw vertelde de krant dat het traumatiserend was om een verkeerde diagnose te krijgen en vervolgens te horen dat het een typefout was.
The Guardian meldde ook dat patiënten andere fouten ontdekten: een AI-schrijver verwarde een voorgeschreven medicijn met een ander medicijn met een vergelijkbare naam, en in een automatisch gegenereerde brief werd de instructie van een adviseur weggelaten dat een patiënt een herhaalrecept voor migraine bij zijn huisarts moest aanvragen. Healthwatch zei dat het meerdere verhalen had gehoord waarin patiënten fouten opmerkten die gezondheidswerkers niet hadden opgemerkt. De opgegeven bron is een gerapporteerd secundair account; deze individuele gevallen, het aantal getroffen patiënten en de precieze foutenpercentages van de instrumenten werden hier niet onafhankelijk bevestigd via een rapport van de primaire toezichthouder of een NHS-.
Brongegevens: theguardian.com ↗
Waarom het ertoe doet
Fouten in gegevens die worden gebruikt voor patiëntenzorg kunnen van invloed zijn op de behandeling, de toegang tot medicijnen en het vertrouwen in NHS-automatisering. The Guardian meldt dat Engeland geen landelijk toezichtkader heeft voor AI-schrijvers nadat de MHRA had besloten deze niet als medische hulpmiddelen te classificeren.
Het praktische risico is dat een onjuist transcript onderdeel kan worden van het medisch dossier van een patiënt en de latere zorg kan beïnvloeden. Een verkeerde diagnose kan ongemak veroorzaken of aanleiding geven tot ongepaste follow-up, terwijl een verwarde medicatienaam kan bijdragen aan een voorschrijf- of behandelfout. Een ontbrekende instructie kan ook een toegangsprobleem opleveren als een patiënt de medicatie niet op het verwachte tijdstip kan krijgen. De voorbeelden van The Guardian laten zien dat de schade niet afhankelijk is van het feit dat een AI-systeem een dramatische klinische beslissing neemt; een kleine transcriptie- of samenvattingsfout kan van belang zijn wanneer deze in een klinische workflow terechtkomt.
Healthwatch England vertelde The Guardian dat fouten kunnen blijven bestaan als patiënten ze niet opmerken. Dat legt een deel van de lasten van de kwaliteitscontrole op mensen die misschien niet weten wat er gezegd is, die misschien onwel zijn of geen toegang hebben tot de gegenereerde gegevens. Het roept ook een workflow-vraag op voor artsen: als artsen elk transcript zorgvuldig moeten controleren, kan de beloofde tijdsbesparing worden verminderd. Dr. Shier Ziser Dawood, een Londense huisarts, aangehaald door The Guardian, beschreef eerder een opname van een AI-schrijver waarin ze een patiënt had verteld Prozac voort te zetten, ook al had ze het niet voorgeschreven of besproken.
Het rapport wijst ook op de ongelijke prestaties van de raadplegingen. Dr. Charlotte Blease, onderzoeker op het gebied van AI in de gezondheidszorg aan de Universiteit van Uppsala, vertelde The Guardian dat fouten waarschijnlijker zijn als er meerdere mensen aanwezig zijn, als een patiënt een complexe medische geschiedenis heeft of als Engels niet de eerste taal van de patiënt is. Meer dan de helft van de 1.003 Britse huisartsen in het onderzoek van Blease was naar verluidt van mening dat hun omgevings-AI-gegevens nauwkeuriger waren dan de gegevens die zij zelf produceerden, maar ze zei ook dat het foutenpercentage met AI slechter zou kunnen zijn. Het onderzoeksresultaat bevestigt niet de klinische veiligheid van een bepaald hulpmiddel, en het artikel biedt geen vergelijkende foutmetingen of onafhankelijke validatie.
Interactief mechanisme: hoe het eigenlijk werkt
Ontdek interactief de onderliggende technologie achter deze ontwikkeling.
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
Wat je nu moet bekijken
Let op duidelijkere NHS-procedures voor het beoordelen, corrigeren en rapporteren van door AI gegenereerde gegevens; bewijsmateriaal over foutenpercentages bij verschillende instrumenten en patiëntengroepen; en of toezichthouders de toezichtstatus van AI-schrijvers heroverwegen.
Een centrale vraag is of patiënten een eenvoudige, zichtbare manier zullen hebben om door AI gegenereerde aantekeningen te bekijken, fouten te melden en correcties te verkrijgen. Healthwatch vertelde The Guardian dat er dringend behoefte is aan duidelijkheid over hoe fouten gemaakt door het schrijven van tools of door de professionals die ze gebruiken, gerapporteerd en gecorrigeerd moeten worden. Er zouden nuttige waarborgen nodig zijn om te definiëren wie verantwoordelijk is voor het controleren van het dossier, hoe snel correcties moeten worden aangebracht en hoe wijzigingen aan latere artsen worden doorgegeven.
The Guardian meldde dat Healthwatch bezorgd was over het besluit van de Medicines and Healthcare products Regulatory Agency om AI-schrijvers niet als medische hulpmiddelen te classificeren. Volgens het rapport betekent dit besluit dat er geen toezicht in heel Engeland zal zijn dat specifiek bedoeld is om ervoor te zorgen dat de systemen veilig en effectief zijn. Het aangeleverde artikel bevat niet de redenering van de MHRA, de reactie van de NHS op de waarschuwing van Healthwatch of details over een nationaal testregime, dus de gevolgen voor de regelgeving blijven belangrijke onbekenden.
Verdere rapportage zou moeten aantonen hoe de 27 systemen van elkaar verschillen, of ze alleen worden gebruikt voor registratie of ook voor het opstellen van klinische documenten, en hoe vaak artsen hun output beoordelen voordat deze tot een formeel rapport komt. Het zou ook de prestaties op het gebied van accenten, meertalige consultaties, complexe geschiedenissen en afspraken met meerdere personen moeten onderzoeken, naar aanleiding van eerdere klachten in Rotherham over een AI-receptionist die worstelt met sterke Yorkshire-accenten. Het rapport van The Guardian laat niet zien hoe wijdverspreid deze problemen zijn en of er enig instrument is teruggetrokken, dus de conclusies over de technologie als geheel moeten beperkt blijven.