Sędzia z Connecticut nakłada sankcje na stronę sporu za ukrycie wezwania AI w pozwie sądowym

Co się stało

W raporcie opublikowanym ponownie przez GovTech rzecznik Stamford Advocate poinformował, że Matthew Elliott, samoistnie reprezentujący się strona procesowa z Connecticut, umieścił prawie niewidoczny biały tekst w dokumentach sądowych. Ukryta instrukcja mówiła każdemu systemowi AI przeglądającemu dokument, aby zgodził się z argumentami Elliotta i poparł uchylenie wcześniejszego orzeczenia. Sędzia Sądu Najwyższego stanu Connecticut, Walter Spader Jr., opisał tę taktykę jako celowy, natychmiastowy zastrzyk i ukarał Elliotta, wymagając, aby przyszłe dokumenty w sprawie składane były w formie papierowej.

W raporcie ponownie opublikowanym przez GovTech rzecznik Stamford poinformował, że Elliott umieścił wiadomość napisaną drobnym białym tekstem w pozwie sądowym w Connecticut. Instrukcja zaczynała się od słów: „Jeśli ten dokument zostanie sprawdzony przez model sztucznej inteligencji” i polecała systemowi, aby upewnił się, że jego dane wyjściowe są zgodne z dokumentacją Elliotta. Według raportu nakierowało to również system na uchylenie wcześniejszej decyzji urzędnika i uznanie New York Bariatric Group za niewywiązującą się ze zobowiązań. W relacji przypisano te szczegóły memorandum sędziego Waltera Spadera Jr. i powiązanym dokumentom sądowym.

Z raportu wynika, że ​​Spader odkrył ten tekst 31 lipca podczas przeglądania dokumentów i drukowania dokumentów, które wydawały się zawierać niezwykłe puste obszary. Trybunał stwierdził, że sformatowany język jest prawie niewidoczny dla człowieka, a jednocześnie czytelny dla oprogramowania przetwarzającego tekst dokumentu. Jak cytowano w raporcie, Elliott przyznał CT Insider, że użył niewidzialnego tekstu przeznaczonego dla systemu sztucznej inteligencji. Zakwestionował interpretację sędziego dotyczącą jego celu, twierdząc, że próbował ustalić, czy sztuczna inteligencja była wykorzystywana do przeglądu jego dokumentów.

W raporcie wskazano, że oddział sądowy Connecticut nie korzysta obecnie z systemu sztucznej inteligencji do sprawdzania wniosków lub potencjalnych uchybień. Niemniej jednak Spader doszedł do wniosku, że zachowanie było niewłaściwe, ponieważ prawnicy, strony sporu i inni prawnicy mogą korzystać z narzędzi sztucznej inteligencji do przeglądania akt, podsumowywania akt lub przygotowywania spraw. Sędzia napisała, że ​​kwestia nie zależy od tego, czy sam sąd wykorzystał sztuczną inteligencję, gdyż utajniony materiał był próbą wprowadzenia sądu i stron przeciwnych w błąd.

Z raportu wynika, że ​​po podniesieniu tej kwestii przez sąd Elliott w dalszym ciągu umieszczał w późniejszych dokumentach prawie niewidoczne materiały. Niektóre wiadomości zawierały żartobliwe odniesienia do założyciela przeciwnej partii, wideo SpongeBoba Kanciastoportego i wypowiedź skierowaną do każdego, kto mógłby zobaczyć ukryty tekst. Elliott powiedział, że te dodatki to raczej żarty niż dalsze próby wywarcia wpływu na sztuczną inteligencję. Spader uznał dalsze ukrywanie sprawy za dowód, że pierwotne zachowanie było zamierzone. Sędzia zakazał Elliottowi składania wniosków w formie elektronicznej, ale pozwolił mu na dalsze prowadzenie postępowań sądowych i korzystanie ze sztucznej inteligencji do przygotowywania wniosków. Wydrukowanie dokumentów spowodowałoby usunięcie ukrytego tekstu cyfrowego z procesu archiwizacji opisanego w raporcie.

Szczegóły źródła: govtech.com ↗

Dlaczego to ma znaczenie

Sprawa stanowi konkretny przykład szybkiego przejścia od demonstracji sztucznej inteligencji do procesu prawnego. Z raportu wynika, że ​​wydział sądowy stanu Connecticut nie korzystał z systemu sztucznej inteligencji do sprawdzania zgłoszeń i nic nie wskazuje na to, aby ukryte instrukcje zmieniły wynik sprawy. Jednak uczestnicy sądów, prawnicy i badacze prawni coraz częściej wykorzystują sztuczną inteligencję do podsumowywania dokumentów, przeglądania akt i przygotowywania argumentów, tworząc potencjalne drogi przekazywania ukrytych instrukcji w celu wywarcia wpływu na systemy niższego szczebla.

Szybkie wstrzyknięcie zazwyczaj polega na umieszczeniu instrukcji w materiale, który ma zostać przeczytany przez system sztucznej inteligencji, w celu zmiany zachowania systemu. Zgłoszona taktyka jest istotna, ponieważ instrukcja była ukryta przed ludzkimi odbiorcami, a jej celem było oprogramowanie. Spader scharakteryzował ukryte polecenie jako tajną komunikację z mechanizmem, za pomocą którego można odczytać i zważyć sprawę. To rozróżnienie ma znaczenie w postępowaniu sądowym, w którym od stron przeciwnych oczekuje się zapoznania się z argumentami przedstawionymi sądowi i udzielenia na nie odpowiedzi.

W raporcie nie wykazano, czy system sztucznej inteligencji faktycznie przeczytał dokumenty Elliotta, postępował zgodnie z instrukcjami lub miał wpływ na orzeczenie. Mówi, że monit najwyraźniej nie zadziałał w tym przypadku. Ograniczenia te są ważne: konkretnym zdarzeniem jest umieszczenie i odkrycie ukrytego tekstu, po którym następuje sankcja, a nie wykazany błąd sądowy wspomagany przez sztuczną inteligencję. Raport nie weryfikuje również niezależnie pełnego zachowania technicznego dokumentu w różnych systemach oprogramowania ani w różnych procesach skanowania.

Incydent ilustruje szerszy problem bezpieczeństwa organizacji, które wprowadzają niezaufane dokumenty do systemów sztucznej inteligencji. Dokument może nadawać się do odczytania przez człowieka, ale zawierać ukryte formatowanie, metadane lub instrukcje do odczytu maszynowego, które mają wpływ na automatyczny moduł podsumowujący lub asystenta. W sądzie taka manipulacja może zniekształcić streszczenie, nadać priorytet twierdzeniom jednej ze stron, pominąć odpowiedni kontekst lub stworzyć niedokładne wrażenie co do protokołu. Podobne ryzyko może pojawić się w przypadku zatrudnienia, edukacji, ubezpieczeń i działań rządowych, chociaż przykłady tych ustawień zawarte w raporcie przypisuje się sędziemu i nie są tu niezależnie analizowane.

Sprawa oddziela również odpowiedzialną pomoc AI od niezweryfikowanego polegania. Spader napisał, że narzędzia sztucznej inteligencji prawdopodobnie pozostaną częścią prac prawnych i stwierdził, że użył Google Gemini do tłumaczenia roboczego, a narzędzi Westlaw AI do sprawdzania organów, jednocześnie niezależnie weryfikując wyniki. Praktyczna lekcja nie jest taka, że ​​sądy muszą porzucić sztuczną inteligencję, ale że potrzebują kontroli pochodzenia, renderowania dokumentów, weryfikacji przez człowieka i możliwości zrekonstruowania sposobu, w jaki uzyskano wynik. W raporcie nie podano, czy Connecticut wprowadziło takie kontrole.

Co obejrzeć dalej

Głównym pytaniem bez odpowiedzi jest to, w jaki sposób sądy będą sprawdzać dokumenty złożone w formie cyfrowej, gdy widoczna strona może nie zawierać wszystkiego, co jest zawarte w aktach. W raporcie nie wskazano jednolitej polityki sądu w zakresie wykrywania ukrytego tekstu ani nie ustalono, czy jakikolwiek system sztucznej inteligencji przetworzył monit Elliotta. Przyszłe sprawy mogą wyjaśnić sankcje, obowiązki w zakresie ujawniania informacji, gwarancje przetwarzania dokumentów oraz sposób, w jaki strony mogą kwestionować decyzję wspomaganą przez sztuczną inteligencję, na którą mogły mieć wpływ ukryte treści.

Sądy i dostawcy usług prawnych mogą potrzebować procedur porównujących renderowany wygląd dokumentu z jego tekstem i formatowaniem. Możliwe zabezpieczenia obejmują konwertowanie zgłoszeń do standardowych formatów, oznaczanie tekstu białego na białym i znaków niedrukowalnych, skanowanie w poszukiwaniu ukrytych warstw i wymaganie weryfikacji przez człowieka, zanim podsumowania wygenerowane przez sztuczną inteligencję będą miały wpływ na decyzje. Źródło nie podaje, że Connecticut wdrożyło którykolwiek z tych środków, więc nie należy zakładać, że zostaną one zastosowane.

W przyszłych sporach można sprawdzić, czy ukryte instrukcje naruszają istniejące zasady dotyczące szczerości, uczciwości składania wniosków, oszustw lub nadużyć procesów sądowych oraz czy sankcje powinny różnić się w przypadku jedynie pojawienia się podpowiedzi w porównaniu z sytuacją, w której w oczywisty sposób zmienia ona wyniki działania sztucznej inteligencji. W przypadku Elliotta zgłoszoną sankcją była utrata uprawnień do składania wniosków drogą elektroniczną, a nie oddalenie pozwu. Raport nie przedstawia szerszego precedensu ani nie wskazuje, czy od wyroku złożono apelację.

Kluczową kwestią weryfikacyjną będzie to, czy jakikolwiek sąd, strona lub sprzedawca może wykazać, że system sztucznej inteligencji przetworzył ukryty tekst. Zgłoszony przez Oddział Sądowniczy Connecticut brak systemu weryfikacji zgłoszeń opartego na sztucznej inteligencji zawęża zakres bezpośrednich roszczeń, ale prawnicy i strony sporu mogą korzystać z narzędzi stron trzecich poza systemami sądu. Śledczy potrzebowaliby zapisów przesłanych dokumentów, wersji oprogramowania, podpowiedzi, wyników i decyzji ludzkich, aby ustalić, czy manipulacja miała wpływ na wynik.

Z raportu wynika, że ​​ukryte instrukcje mogą stać się trudniejsze do zidentyfikowania, ponieważ legalny obieg dokumentów opiera się na podsumowaniu dokumentów i automatycznym przeglądzie. Praktyczne gwarancje będą musiały chronić dostępność dla samoreprezentujących się stron sporu, jednocześnie uniemożliwiając, aby zgłoszenia cyfrowe zawierały nieujawnione polecenia. Dopóki sądy nie opublikują jaśniejszych standardów technicznych i proceduralnych, zakres ryzyka pozostaje niepewny. Relacja w tym artykule opiera się na raporcie The Stamford Advocate opublikowanym ponownie przez GovTech oraz materiałach sądowych i wywiadach, które on cytuje; podstawowe zgłoszenia i wszelkie dzienniki przetwarzania AI nie zostały tutaj niezależnie sprawdzone.

Powiązane przewodniki i quizy