Τι έγινε
Ο Guardian αναφέρει ότι το Healthwatch England έχει λάβει πολλαπλούς λογαριασμούς εργαλείων γραφής τεχνητής νοημοσύνης που παράγουν ανακριβή μεταγραφές συμβουλών και περιλήψεις. Τα παραδείγματα περιλαμβάνουν μια εσφαλμένη διάγνωση, ένα μπερδεμένο όνομα φαρμάκου και μια οδηγία που λείπει σχετικά με τη λήψη επαναλαμβανόμενης συνταγής.
Ο Guardian ανέφερε στις 31 Αυγούστου 2026 ότι το Healthwatch England είχε προειδοποιήσει ότι τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται για την ακρόαση και τη μεταγραφή ιατρικών συμβουλών μπορούν να προσδιορίσουν εσφαλμένα ονόματα φαρμάκων και ασθένειες. Η έκθεση περιγράφει τους γραφείς AI ως μια ταχέως αναπτυσσόμενη τεχνολογία στην Αγγλία, όπου γιατροί και νοσοκομεία χρησιμοποιούν ήδη 27 διαφορετικά συστήματα. Το 10ετές σχέδιο υγείας της κυβέρνησης του NHS παρουσιάζει τα εργαλεία ως τρόπο μείωσης του διοικητικού έργου και παροχής στους κλινικούς γιατρούς περισσότερο χρόνο με τους ασθενείς.
Μια περίπτωση αφορούσε μια γυναίκα της οποίας η σύνοψη που δημιουργήθηκε με AI ανέφερε λανθασμένα ότι είχε απομυελίνωση, μια σοβαρή πάθηση που μπορεί να σχετίζεται με σκλήρυνση κατά πλάκας. Σύμφωνα με τον Guardian, η γυναίκα ήταν επαγγελματίας υγείας του NHS και παρατήρησε το πρόβλημα όταν έλεγξε τον λογαριασμό του εργαλείου για το αποτέλεσμα της μαγνητικής τομογραφίας. Το νοσοκομείο αργότερα διόρθωσε το αρχείο σε «μηδενική απομυελίνωση». Η γυναίκα είπε στην εφημερίδα ότι η λήψη μιας λανθασμένης διάγνωσης και στη συνέχεια η δήλωση ότι ήταν τυπογραφικό λάθος ήταν τραυματική.
Ο Guardian ανέφερε επίσης ότι οι ασθενείς εντόπισαν άλλα σφάλματα: ένας γραφέας τεχνητής νοημοσύνης μπέρδεψε ένα συνταγογραφούμενο φάρμακο με ένα άλλο φάρμακο με παρόμοιο όνομα και ένα γράμμα που δημιουργήθηκε αυτόματα παρέλειψε την οδηγία ενός συμβούλου ότι ένας ασθενής πρέπει να αναζητήσει μια επαναλαμβανόμενη συνταγή ημικρανίας από τον γιατρό του. Η Healthwatch είπε ότι είχε ακούσει πολλές ιστορίες στις οποίες οι ασθενείς παρατήρησαν λάθη που δεν είχαν κάνει οι επαγγελματίες υγείας. Η παρεχόμενη πηγή είναι ένας αναφερόμενος δευτερεύων λογαριασμός. Αυτές οι μεμονωμένες περιπτώσεις, ο αριθμός των προσβεβλημένων ασθενών και τα ακριβή ποσοστά σφάλματος των εργαλείων δεν επιβεβαιώθηκαν ανεξάρτητα εδώ μέσω μιας αναφοράς κύριου ρυθμιστή ή δεδομένων NHS.
Στοιχεία πηγής: theguardian.com ↗
Γιατί έχει σημασία
Τα σφάλματα στα αρχεία που χρησιμοποιούνται για τη φροντίδα των ασθενών θα μπορούσαν να επηρεάσουν τη θεραπεία, την πρόσβαση στα φάρμακα και την εμπιστοσύνη στον αυτοματισμό του NHS. Ο Guardian αναφέρει ότι η Αγγλία δεν διαθέτει εθνικό πλαίσιο εποπτείας για τους γραφείς τεχνητής νοημοσύνης, αφού το MHRA αποφάσισε να μην τους ταξινομήσει ως ιατροτεχνολογικά προϊόντα.
Ο πρακτικός κίνδυνος είναι ότι ένα λανθασμένο αντίγραφο μπορεί να γίνει μέρος του ιατρικού αρχείου ενός ασθενούς και να επηρεάσει τη μετέπειτα φροντίδα. Μια λανθασμένη διάγνωση μπορεί να προκαλέσει δυσφορία ή να προκαλέσει ακατάλληλη παρακολούθηση, ενώ μια μπερδεμένη ονομασία φαρμάκου θα μπορούσε να συμβάλει σε σφάλμα συνταγογράφησης ή θεραπείας. Μια οδηγία που λείπει μπορεί επίσης να δημιουργήσει πρόβλημα πρόσβασης εάν ένας ασθενής δεν μπορεί να λάβει φαρμακευτική αγωγή όταν αναμένεται. Τα παραδείγματα του Guardian δείχνουν ότι η βλάβη δεν εξαρτάται από τη λήψη μιας δραματικής κλινικής απόφασης από ένα σύστημα τεχνητής νοημοσύνης. ένα μικρό σφάλμα μεταγραφής ή σύνοψης μπορεί να έχει σημασία όταν εισέρχεται σε μια κλινική ροή εργασιών.
Το Healthwatch England είπε στον Guardian ότι τα λάθη μπορεί να επιμείνουν όταν οι ασθενείς δεν τα πιάνουν. Αυτό τοποθετεί μέρος της επιβάρυνσης του ποιοτικού ελέγχου σε άτομα που μπορεί να μην γνωρίζουν τι ειπώθηκε, μπορεί να μην είναι καλά ή να μην έχουν πρόσβαση στο αρχείο που δημιουργείται. Εγείρει επίσης ένα ερώτημα ροής εργασίας για τους κλινικούς ιατρούς: εάν οι γιατροί πρέπει να ελέγξουν προσεκτικά κάθε μεταγραφή, η εξοικονόμηση χρόνου που υποσχέθηκε μπορεί να μειωθεί. Η Δρ Shier Ziser Dawood, γενικός γιατρός του Λονδίνου που επικαλείται η The Guardian, περιέγραψε προηγουμένως έναν γραφέα τεχνητής νοημοσύνης που ηχογραφούσε ότι είχε πει σε έναν ασθενή να συνεχίσει το Prozac, παρόλο που δεν το είχε συνταγογραφήσει ή δεν το είχε συζητήσει.
Η έκθεση υπογραμμίζει επίσης την άνιση απόδοση στις διαβουλεύσεις. Η Δρ Charlotte Blease, ερευνήτρια AI-in-healthcare στο Πανεπιστήμιο της Ουψάλα, είπε στον Guardian ότι τα σφάλματα είναι πιο πιθανά όταν υπάρχουν πολλά άτομα, όταν ένας ασθενής έχει πολύπλοκο ιατρικό ιστορικό ή όταν τα αγγλικά δεν είναι η πρώτη γλώσσα του ασθενούς. Περισσότεροι από τους μισούς από τους 1.003 γενικούς ιατρούς του Ηνωμένου Βασιλείου στην έρευνα της Blease φέρεται να θεώρησαν τα αρχεία περιβάλλοντος AI πιο ακριβή από τα αρχεία που παρήγαγαν οι ίδιοι, αλλά είπε επίσης ότι το ποσοστό σφάλματος θα μπορούσε να είναι χειρότερο με την τεχνητή νοημοσύνη. Το αποτέλεσμα της έρευνας δεν αποδεικνύει την κλινική ασφάλεια οποιουδήποτε συγκεκριμένου εργαλείου και το άρθρο δεν παρέχει συγκριτικές μετρήσεις σφαλμάτων ή ανεξάρτητη επικύρωση.
Διαδραστικός Μηχανισμός: Πώς λειτουργεί στην πραγματικότητα
Εξερευνήστε την υποκείμενη τεχνολογία πίσω από αυτήν την εξέλιξη διαδραστικά.
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
Τι να παρακολουθήσετε στη συνέχεια
Παρακολουθήστε για σαφέστερες διαδικασίες NHS για την αναθεώρηση, τη διόρθωση και την αναφορά αρχείων που δημιουργούνται από AI. στοιχεία σχετικά με τα ποσοστά σφαλμάτων σε διαφορετικά εργαλεία και ομάδες ασθενών. και εάν οι ρυθμιστικές αρχές επανεξετάζουν το καθεστώς εποπτείας των γραφέων AI.
Ένα κεντρικό ζήτημα είναι αν οι ασθενείς θα έχουν έναν απλό, ορατό τρόπο να ελέγχουν τις σημειώσεις που δημιουργούνται από την τεχνητή νοημοσύνη, να αναφέρουν σφάλματα και να λαμβάνουν διορθώσεις. Η Healthwatch είπε στον Guardian ότι υπάρχει επείγουσα ανάγκη για σαφήνεια σχετικά με τον τρόπο με τον οποίο πρέπει να αναφέρονται και να διορθώνονται τα λάθη που γίνονται από τα εργαλεία γραφής ή από τους επαγγελματίες που τα χρησιμοποιούν. Χρήσιμες διασφαλίσεις θα πρέπει να καθορίσουν ποιος είναι υπεύθυνος για τον έλεγχο του αρχείου, πόσο γρήγορα πρέπει να γίνουν οι διορθώσεις και πώς οι τροποποιήσεις κοινοποιούνται στους μετέπειτα κλινικούς γιατρούς.
Ο Guardian ανέφερε ότι το Healthwatch ανησυχούσε για την απόφαση της Ρυθμιστικής Υπηρεσίας Φαρμάκων και Προϊόντων Υγείας να μην ταξινομήσει τους γραφείς τεχνητής νοημοσύνης ως ιατρικές συσκευές. Σύμφωνα με την έκθεση, αυτή η απόφαση σημαίνει ότι δεν θα υπάρξει εποπτεία σε όλη την Αγγλία που να αποσκοπεί συγκεκριμένα να διασφαλίσει ότι τα συστήματα είναι ασφαλή και αποτελεσματικά. Το παρεχόμενο άρθρο δεν περιλαμβάνει το σκεπτικό του MHRA, την απάντηση του NHS στην προειδοποίηση του Healthwatch ή λεπτομέρειες για οποιοδήποτε εθνικό καθεστώς δοκιμών, επομένως οι ρυθμιστικές συνέπειες παραμένουν σημαντικές άγνωστες.
Περαιτέρω αναφορές θα πρέπει να καθορίσουν πώς διαφέρουν τα 27 συστήματα, εάν χρησιμοποιούνται μόνο για την καταγραφή ή επίσης για τη σύνταξη κλινικών εγγράφων, και πόσο συχνά οι κλινικοί γιατροί επανεξετάζουν τα αποτελέσματά τους προτού φτάσει σε επίσημο αρχείο. Θα πρέπει επίσης να εξετάσει την απόδοση για προφορές, πολυγλωσσικές διαβουλεύσεις, περίπλοκες ιστορίες και συναντήσεις πολλών ατόμων, μετά από προηγούμενες καταγγελίες στο Ρόδεραμ για έναν ρεσεψιονίστ τεχνητής νοημοσύνης που παλεύει με έντονες προφορές του Γιορκσάιρ. Η έκθεση του Guardian δεν δείχνει πόσο διαδεδομένα είναι αυτά τα προβλήματα ή εάν κάποιο εργαλείο έχει αποσυρθεί, επομένως τα συμπεράσματα σχετικά με την τεχνολογία στο σύνολό τους θα πρέπει να παραμείνουν περιορισμένα.