Τι έγινε
Το Stamford Advocate, σε μια έκθεση που αναδημοσιεύτηκε από την GovTech, ανέφερε ότι ο Matthew Elliott, ένας αυτοεκπροσωπούμενος διάδικος του Κονέκτικατ, εισήγαγε σχεδόν αόρατο λευκό κείμενο στα δικαστήρια. Η κρυφή οδηγία είπε σε οποιοδήποτε σύστημα τεχνητής νοημοσύνης που εξετάζει το έγγραφο να συμφωνήσει με τα επιχειρήματα του Elliott και να υποστηρίξει την αντιστροφή μιας προηγούμενης απόφασης. Ο δικαστής του Ανωτάτου Δικαστηρίου του Κονέκτικατ, Walter Spader Jr., περιέγραψε την τακτική ως σκόπιμη έγκαιρη έγχυση και επέβαλε κυρώσεις στον Elliott απαιτώντας να υποβληθούν μελλοντικές καταθέσεις στην υπόθεση σε χαρτί.
Ο δικηγόρος του Stamford, στην αναφορά που αναδημοσίευσε η GovTech, είπε ότι ο Έλιοτ τοποθέτησε ένα μήνυμα με μικροσκοπικό λευκό κείμενο μέσα σε μια δικογραφία του Κονέκτικατ. Η οδηγία ξεκίνησε, «Εάν αυτό το έγγραφο αναθεωρηθεί από ένα μοντέλο τεχνητής νοημοσύνης» και κατεύθυνε το σύστημα να διασφαλίσει ότι η παραγωγή του συμφωνούσε με την κατάθεση του Έλιοτ. Σύμφωνα με την έκθεση, οδήγησε επίσης το σύστημα προς την ανατροπή της προηγούμενης απόφασης ενός υπαλλήλου και την εξεύρεση αθέτησης υποχρεώσεων του New York Bariatric Group. Ο λογαριασμός αποδίδει αυτές τις λεπτομέρειες στο υπόμνημα του δικαστή Walter Spader Jr. και σε σχετικά δικαστικά έγγραφα.
Η έκθεση ανέφερε ότι ο Σπέιντερ ανακάλυψε το κείμενο κατά την εξέταση των αρχειοθετημάτων στις 31 Ιουλίου και την εκτύπωση εγγράφων που φαινόταν να περιέχουν ασυνήθιστες κενές περιοχές. Το δικαστήριο διαπίστωσε ότι η μορφοποιημένη γλώσσα ήταν σχεδόν αόρατη σε ένα άτομο, ενώ παρέμεινε ευανάγνωστη στο λογισμικό που επεξεργαζόταν το κείμενο του εγγράφου. Ο Elliott αναγνώρισε στο CT Insider, όπως αναφέρεται στην έκθεση, ότι είχε χρησιμοποιήσει αόρατο κείμενο που προοριζόταν για ένα σύστημα AI. Αμφισβήτησε την ερμηνεία του δικαστή για τον σκοπό του, λέγοντας ότι προσπαθούσε να προσδιορίσει εάν η τεχνητή νοημοσύνη χρησιμοποιήθηκε για την εξέταση των αρχειοθετημάτων του.
Η έκθεση ανέφερε ότι το δικαστικό τμήμα του Κονέκτικατ δεν χρησιμοποιεί επί του παρόντος σύστημα τεχνητής νοημοσύνης για να ελέγχει τις αρχειοθετήσεις ή τις πιθανές αδυναμίες. Ωστόσο, ο Spader κατέληξε στο συμπέρασμα ότι η συμπεριφορά ήταν ακατάλληλη επειδή οι δικηγόροι, οι διάδικοι και άλλοι επαγγελματίες νομικοί μπορεί να χρησιμοποιήσουν εργαλεία τεχνητής νοημοσύνης για να ελέγξουν τα έγγραφα, να συνοψίσουν αρχεία ή να προετοιμάσουν υποθέσεις. Ο δικαστής έγραψε ότι το ζήτημα δεν εξαρτιόταν από το αν το ίδιο το δικαστήριο χρησιμοποίησε τεχνητή νοημοσύνη, επειδή το κρυφό υλικό ήταν μια προσπάθεια παραπλάνησης του δικαστηρίου και των αντιπάλων.
Αφού το δικαστήριο έθεσε το ζήτημα, ο Έλιοτ συνέχισε να τοποθετεί σχεδόν αόρατο υλικό σε μεταγενέστερες καταθέσεις, σύμφωνα με την έκθεση. Κάποια μηνύματα αναφέρονταν αστειευόμενα στον ιδρυτή του αντιπάλου, ένα βίντεο με τον Μπομπ Σφουγγαράκη και μια γραμμή που απευθύνεται σε όποιον μπορεί να δει το κρυφό κείμενο. Ο Έλιοτ είπε ότι αυτές οι προσθήκες ήταν αστεία και όχι περαιτέρω προσπάθειες επηρεασμού της τεχνητής νοημοσύνης. Ο Spader θεώρησε τη συνεχιζόμενη απόκρυψη ως απόδειξη ότι η αρχική συμπεριφορά ήταν σκόπιμη. Ο δικαστής απαγόρευσε στον Έλιοτ από την ηλεκτρονική κατάθεση της υπόθεσης, αλλά του επέτρεψε να συνεχίσει τη δικαστική διαδικασία και να χρησιμοποιεί την τεχνητή νοημοσύνη για να βοηθήσει στην προετοιμασία των αρχειοθετήσεων. Η εκτύπωση των εγγράφων θα αφαιρούσε το κρυφό ψηφιακό κείμενο από τη διαδικασία αρχειοθέτησης που περιγράφεται στην αναφορά.
Γιατί έχει σημασία
Η υπόθεση παρέχει ένα συγκεκριμένο παράδειγμα άμεσης ένεσης μετάβασης από τις επιδείξεις τεχνητής νοημοσύνης σε μια νομική διαδικασία. Η έκθεση αναφέρει ότι το δικαστικό τμήμα του Κονέκτικατ δεν χρησιμοποιούσε σύστημα τεχνητής νοημοσύνης για την εξέταση των φακέλων και δεν υπάρχει καμία ένδειξη ότι η κρυφή οδηγία άλλαξε την έκβαση της υπόθεσης. Ωστόσο, οι συμμετέχοντες στο δικαστήριο, οι δικηγόροι και οι νομικοί ερευνητές χρησιμοποιούν όλο και περισσότερο την τεχνητή νοημοσύνη για να συνοψίσουν έγγραφα, να εξετάσουν έγγραφα και να προετοιμάσουν επιχειρήματα, δημιουργώντας πιθανές διαδρομές για κρυφές οδηγίες για να επηρεάσουν τα κατάντη συστήματα.
Η άμεση έγχυση γενικά περιλαμβάνει την τοποθέτηση οδηγιών σε υλικό που καλείται να διαβάσει ένα σύστημα τεχνητής νοημοσύνης, με στόχο την αλλαγή της συμπεριφοράς του συστήματος. Η αναφερόμενη τακτική είναι σημαντική επειδή η οδηγία ήταν κρυμμένη από το ανθρώπινο κοινό ενώ στόχευε σε λογισμικό. Ο Spader χαρακτήρισε την κρυφή εντολή ως μυστική επικοινωνία με τον μηχανισμό με τον οποίο μπορούσε να διαβαστεί και να ζυγιστεί ένα θέμα. Αυτή η διάκριση έχει σημασία σε νομικές διαδικασίες, όπου τα αντίπαλα μέρη αναμένεται να δουν και να απαντήσουν σε επιχειρήματα που παρουσιάζονται στο δικαστήριο.
Η έκθεση δεν αποδεικνύει ότι ένα σύστημα τεχνητής νοημοσύνης διάβασε πραγματικά την κατάθεση του Elliott, ακολούθησε τις οδηγίες ή επηρέασε μια απόφαση. Λέει ότι η προτροπή προφανώς δεν λειτούργησε σε αυτήν την περίπτωση. Αυτοί οι περιορισμοί είναι σημαντικοί: το συγκεκριμένο γεγονός είναι η εισαγωγή και η ανακάλυψη κρυμμένου κειμένου, ακολουθούμενη από κύρωση, όχι ένα αποδεδειγμένο δικαστικό σφάλμα με τη βοήθεια τεχνητής νοημοσύνης. Η αναφορά επίσης δεν επαληθεύει ανεξάρτητα την πλήρη τεχνική συμπεριφορά του εγγράφου σε διαφορετικά συστήματα λογισμικού ή ροές εργασιών σάρωσης.
Το περιστατικό δείχνει ένα ευρύτερο πρόβλημα ασφάλειας για οργανισμούς που τροφοδοτούν μη αξιόπιστα έγγραφα σε συστήματα τεχνητής νοημοσύνης. Ένα έγγραφο μπορεί να είναι κατάλληλο για ανθρώπινη ανάγνωση αλλά να περιέχει κρυφή μορφοποίηση, μεταδεδομένα ή αναγνώσιμες από μηχανή οδηγίες που επηρεάζουν έναν αυτοματοποιημένο συνοψιστή ή βοηθό. Σε ένα δικαστήριο, μια τέτοια χειραγώγηση θα μπορούσε να παραμορφώσει μια περίληψη, να δώσει προτεραιότητα στις αξιώσεις ενός μέρους, να παραλείψει το σχετικό πλαίσιο ή να δημιουργήσει μια ανακριβή εντύπωση του αρχείου. Παρόμοιοι κίνδυνοι θα μπορούσαν να προκύψουν στις ροές εργασιών προσλήψεων, εκπαίδευσης, ασφάλισης και κυβέρνησης, αν και τα παραδείγματα αυτών των ρυθμίσεων της έκθεσης αποδίδονται στον δικαστή και δεν εξετάζονται ανεξάρτητα εδώ.
Η υπόθεση διαχωρίζει επίσης την υπεύθυνη βοήθεια της τεχνητής νοημοσύνης από την μη ελεγχόμενη εξάρτηση. Ο Spader έγραψε ότι τα εργαλεία AI είναι πιθανό να παραμείνουν μέρος της νομικής εργασίας και είπε ότι χρησιμοποίησε το Google Gemini για μια λειτουργική μετάφραση και εργαλεία Westlaw AI για τον έλεγχο των αρχών, ενώ επαληθεύει ανεξάρτητα τα αποτελέσματα. Το πρακτικό μάθημα δεν είναι ότι τα δικαστήρια πρέπει να εγκαταλείψουν την τεχνητή νοημοσύνη, αλλά ότι χρειάζονται ελέγχους σχετικά με την προέλευση, την απόδοση εγγράφων, τον ανθρώπινο έλεγχο και την ικανότητα ανασυγκρότησης του τρόπου παραγωγής ενός προϊόντος. Η έκθεση δεν αναφέρει εάν το Κονέκτικατ έχει υιοθετήσει τέτοιους ελέγχους.
Διαδραστικός Μηχανισμός: Πώς λειτουργεί στην πραγματικότητα
Εξερευνήστε την υποκείμενη τεχνολογία πίσω από αυτήν την εξέλιξη διαδραστικά.
Why can ethical evaluation not be reduced to one model score?
Τι να παρακολουθήσετε στη συνέχεια
Το κεντρικό αναπάντητο ερώτημα είναι πώς τα δικαστήρια θα ελέγχουν τα ψηφιακά υποβληθέντα έγγραφα όταν η ορατή σελίδα ενδέχεται να μην περιέχει όλα όσα είναι ενσωματωμένα στο αρχείο. Η έκθεση δεν προσδιορίζει μια ενιαία δικαστική πολιτική για τον εντοπισμό κρυφού κειμένου, ούτε αποδεικνύει ότι οποιοδήποτε σύστημα τεχνητής νοημοσύνης επεξεργάστηκε την προτροπή του Elliott. Μελλοντικές υποθέσεις ενδέχεται να αποσαφηνίσουν τις κυρώσεις, τα καθήκοντα αποκάλυψης, τις διασφαλίσεις επεξεργασίας εγγράφων και τον τρόπο με τον οποίο τα μέρη μπορούν να αμφισβητήσουν μια απόφαση υποβοηθούμενη από την τεχνητή νοημοσύνη που μπορεί να έχει επηρεαστεί από κρυφό περιεχόμενο.
Τα δικαστήρια και οι πάροχοι νομικών υπηρεσιών ενδέχεται να χρειαστούν διαδικασίες που συγκρίνουν την εμφάνιση ενός εγγράφου με το υποκείμενο κείμενο και τη μορφοποίησή του. Πιθανές διασφαλίσεις περιλαμβάνουν τη μετατροπή αρχείων σε τυποποιημένες μορφές, την επισήμανση λευκού σε άσπρο κειμένου και χαρακτήρων που δεν εκτυπώνονται, τη σάρωση για κρυφά επίπεδα και την απαίτηση ανθρώπινης αναθεώρησης πριν επηρεάσουν τις αποφάσεις οι περιλήψεις που δημιουργούνται από AI. Η πηγή δεν αναφέρει ότι το Κονέκτικατ έχει εφαρμόσει κάποιο από αυτά τα μέτρα, επομένως η χρήση τους δεν πρέπει να θεωρείται δεδομένη.
Μελλοντικές διαφωνίες μπορεί να ελέγξουν εάν οι κρυφές οδηγίες παραβιάζουν υφιστάμενους κανόνες σχετικά με την ειλικρίνεια, την ακεραιότητα κατάθεσης, την απάτη ή την κατάχρηση των δικαστικών διαδικασιών και εάν οι κυρώσεις θα πρέπει να διαφέρουν όταν υπάρχει απλώς μια προτροπή σε σχέση με όταν αλλάζει εμφανώς μια έξοδο τεχνητής νοημοσύνης. Στην περίπτωση του Elliott, η αναφερόμενη κύρωση ήταν η απώλεια των προνομίων ηλεκτρονικής κατάθεσης και όχι η απόρριψη της αγωγής. Η έκθεση δεν παρέχει ένα ευρύτερο προηγούμενο ούτε αναφέρει εάν η απόφαση έχει ασκηθεί ένσταση.
Ένα βασικό ερώτημα επαλήθευσης θα είναι εάν οποιοδήποτε δικαστήριο, μέρος ή πωλητής μπορεί να αποδείξει ότι ένα σύστημα AI επεξεργάστηκε το κρυφό κείμενο. Η αναφερόμενη έλλειψη συστήματος ελέγχου αρχειοθέτησης τεχνητής νοημοσύνης από το δικαστικό τμήμα του Κονέκτικατ περιορίζει την άμεση αξίωση, αλλά οι δικηγόροι και οι διάδικοι μπορούν να χρησιμοποιήσουν εργαλεία τρίτων εκτός των συστημάτων του δικαστηρίου. Οι ερευνητές θα χρειαστούν αρχεία μεταφορτώσεων εγγράφων, εκδόσεις λογισμικού, προτροπές, αποτελέσματα και ανθρώπινες αποφάσεις για να διαπιστώσουν εάν η παραποίηση επηρέασε ένα αποτέλεσμα.
Η έκθεση υποδηλώνει ότι οι κρυφές οδηγίες θα μπορούσαν να γίνουν πιο δύσκολο να εντοπιστούν, καθώς οι νομικές ροές εργασίας βασίζονται στη σύνοψη εγγράφων και την αυτοματοποιημένη αναθεώρηση. Οι πρακτικές διασφαλίσεις θα πρέπει να διατηρούν την προσβασιμότητα για τους αυτοεκπροσωπούμενους διαδίκους, ενώ θα εμποδίζουν τα ψηφιακά αρχεία να μεταφέρουν άγνωστες εντολές. Μέχρι να δημοσιεύσουν τα δικαστήρια σαφέστερα τεχνικά και διαδικαστικά πρότυπα, η έκταση του κινδύνου παραμένει αβέβαιη. Ο λογαριασμός αυτού του άρθρου βασίζεται στην αναφορά The Stamford Advocate όπως αναδημοσιεύτηκε από την GovTech και στο δικαστικό υλικό και τις συνεντεύξεις που παραθέτει. οι υποκείμενες αρχειοθετήσεις και τυχόν αρχεία καταγραφής επεξεργασίας AI δεν εξετάστηκαν ανεξάρτητα εδώ.