Co się stało
„ABA Journal” donosi, że Sąd Najwyższy Nowego Meksyku usunął obrońcę w sprawach karnych Stephena Aaronsa z apelacji w sprawie morderstwa po znalezieniu nieistniejących świadków i fikcyjnych zeznań w piśmie, które przygotował wraz z ChatGPT. Sąd uznał Aaronsa za pogardę, nakazał mu wpłatę 5000 dolarów na fundusz ochrony klientów i przekazał sprawę komisji dyscyplinarnej. Apelacja zostanie przydzielona obrońcy z urzędu.
„ABA Journal” doniósł 24 sierpnia, że Sąd Najwyższy Nowego Meksyku usunął obrońcę w sprawach karnych z Santa Fe, Stephena Aaronsa, z apelacji w sprawie morderstwa po odkryciu w briefingach błędów wygenerowanych przez sztuczną inteligencję. W raporcie wskazano Aaronsa jako prawnika z ponad 40-letnią praktyką i stwierdzono, że reprezentował on 60-letniego mężczyznę skazanego rok wcześniej za zamordowanie swojej żony. Jak wynika z relacji dziennika ABA Journal, który w kilku szczegółach powołuje się na „Santa Fe New Mexican”, apelacja zostanie skierowana do obrońcy z urzędu.
Według dziennika ABA Journal Aarons powiedział sądowi, że dostarczył ChatGPT stenogramy rozpraw i inne dokumenty sądowe i spodziewał się, że system przedstawi „kuloodporne” podsumowanie. Zamiast tego w briefingu znalazły się odniesienia do nieistniejących świadków i fikcyjne zeznania przypisywane co najmniej jednemu prawdziwemu świadkowi. Źródło nie wskazuje każdego błędnego fragmentu, nie podaje, ilu cytatów dotyczyło, ani nie opisuje, czy błędy wpłynęły na argumentację prawną lub wynik odwołania.
„ABA Journal” donosi, że podczas piątkowej rozprawy Aarons przyznał się do swojej „głupoty”. Stwierdził, że ukończył ustawiczne kształcenie prawnicze dotyczące sztucznej inteligencji i zasugerował, że obowiązkowe kształcenie mogłoby pomóc w zapobieganiu podobnym błędom popełnianym przez innych prawników. W protokole nie wskazano, jakie szkolenie ukończył, kiedy to nastąpiło ani czy sąd uznał jego wyjaśnienia za łagodzące zachowanie.
Zgłoszona przez sąd odpowiedź obejmowała trzy odrębne działania: usunięcie Aaronsa ze sprawy, uznanie go za pogardę i nakazanie mu wpłaty 5000 dolarów na fundusz ochrony klienta w ciągu 30 dni. Dziennik ABA podaje także, że sprawa została przekazana do komisji dyscyplinarnej sądu do dalszego rozpatrzenia. Źródłem nie jest pisemne postanowienie sądu, skierowanie dyscyplinarne, samo zgłoszenie ani protokół rozprawy, zatem szczegóły te nie zostały tutaj niezależnie potwierdzone.
Szczegóły źródła: abajournal.com ↗
Dlaczego to ma znaczenie
Sprawa pokazuje, że prawnicy mogą ponieść bezpośrednie konsekwencje zawodowe i finansowe, jeśli przedstawią niezweryfikowany materiał prawny wygenerowany przez sztuczną inteligencję. Nakłada także odpowiedzialność na prawnika, a nie na oprogramowanie, za sprawdzanie cytatów, zeznań i twierdzeń faktycznych przed złożeniem ich w sądzie.
Bezpośrednim problemem nie jest po prostu to, że system sztucznej inteligencji wygenerował nieprawidłowy tekst. Relacja dziennika ABA Journal opisuje sfabrykowanych świadków i zeznania składane w pozwie karnym, w którym prawdziwość faktów ma kluczowe znaczenie dla praw oskarżonego. Złożenie wniosku przez prawnika do sądu jest zatem momentem, w którym zwykła pomoc w redagowaniu tekstu może stać się poważnym problemem w zakresie odpowiedzialności zawodowej, jeśli materiał leżący u jego podstaw nie zostanie sprawdzony z protokołem.
Zgłoszone sankcje sprawiają, że ryzyko dla osób wykonujących zawody prawnicze staje się konkretne. Usunięcie ze sprawy może zakłócić reprezentację, natomiast ustalenia dotyczące pogardy i wpłata na fundusz ochrony klienta mogą mieć wpływ zarówno na sytuację zawodową, jak i finanse. „ABA Journal” nie podaje odrębnej kary nałożonej przez komisję dyscyplinarną, dlatego czytelnicy nie powinni zakładać, że zgłoszona zapłata 5 tysięcy dolarów będzie ostateczną konsekwencją.
Sprawa ilustruje również podstawowe ograniczenie chatbotów ogólnego przeznaczenia w pracy prawniczej: system może generować płynne streszczenia, które wydają się miarodajne, wprowadzając jednocześnie niepoparte faktami. Wniosek ten opiera się na zgłoszonych zgłoszeniach, ale źródło nie dostarcza żadnych technicznych dowodów na to, która wersja modelu została wykorzystana, jakie podpowiedzi zostały dostarczone, czy umożliwiono wyszukiwanie lub inne zabezpieczenia, ani też czy błędy powstały w wyniku podsumowania, transkrypcji lub innego etapu.
Dla sądów i klientów praktyczne pytanie brzmi, w jaki sposób prace wspomagane sztuczną inteligencją są sprawdzane przed przesłaniem. „ABA Journal” donosi, że starszy prawnik podjął kształcenie ustawiczne związane z sztuczną inteligencją, a mimo to sfabrykowane materiały nadal docierały do sądu. Nie oznacza to, że szkolenie jest nieskuteczne, ale sugeruje, że samo szkolenie może nie gwarantować wiarygodnej weryfikacji. Źródło nie opisuje procesu kontroli wewnętrznej firmy, jeśli taki istnieje, ani nie wskazuje konkretnej procedury ogólnosądowej przyjętej w odpowiedzi.
Mechanizm interaktywny: jak to faktycznie działa
Poznaj interaktywnie technologię leżącą u podstaw tego rozwoju.
Why can ethical evaluation not be reduced to one model score?
Co obejrzeć dalej
Skierowanie dyscyplinarne może określić, czy nastąpią dalsze sankcje lub ograniczenia zawodowe. Źródłem nie jest pisemna opinia sądu, materiały z akt sprawy ani odpowiedź Aaronsa, zatem dokładne uzasadnienie, zakres błędów i szersza zasada ogłoszona przez sąd pozostają niejasne.
Kolejnym konkretnym wydarzeniem jest kontrola dyscyplinarna. Jak donosi „ABA Journal”, Sąd Najwyższy Nowego Meksyku skierował sprawę do swojej komisji dyscyplinarnej, jednak źródło nie podaje, czy złożono formalną skargę, jakie zasady można rozważyć ani kiedy komisja podejmie działania. Każda późniejsza decyzja publiczna może wyjaśnić, czy dane zachowanie jest traktowane jako zaniedbanie, niewłaściwe postępowanie czy poważniejsze naruszenie zgodnie z obowiązującymi standardami zawodowymi.
Pisemne uzasadnienie sądu również będzie miało znaczenie. Źródło cytuje sędziego C. Shannona Bacona, który krytykował prawników opierających się na halucynacjach sztucznej inteligencji i twierdzi, że było to niezgodne z kodeksem postępowania. Nie odtwarza pełnej opinii ani nie wskazuje konkretnych przepisów, o których mowa. Opublikowane orzeczenie mogłoby wykazać, czy sąd zastosował istniejące obowiązki w zakresie kompetencji i szczerości, czy też wyraził nowe oczekiwania w zakresie pracy prawniczej wspomaganej przez sztuczną inteligencję.
W aktach sprawy należy również wyjaśnić praktyczny wpływ apelacji oskarżonego. „ABA Journal” podaje, że pałeczkę przejmie obrońca z urzędu, nie podaje jednak, czy apelacja się opóźniła, czy nieprawdziwy wniosek został wycofany lub zastąpiony, ani czy błędy miały wpływ na jakąkolwiek kwestię merytoryczną. Fakty te są ważne dla oceny szkody dla klienta, a nie skupiania się wyłącznie na postępowaniu prawnika.
Mówiąc szerzej, instytucje prawne mogą reagować poprzez orzeczenia sądowe, składanie zaświadczeń, kształcenie ustawiczne lub wymogi dotyczące ludzkiej weryfikacji organów i cytowań. Źródło podaje sugestię Aaronsa dotyczącą obowiązkowej edukacji w zakresie sztucznej inteligencji, ale nie podaje żadnych informacji o zmianach przepisów w Nowym Meksyku ani ogłoszeniu polityki. Do czasu udostępnienia akt sądu głównego i akt dyscyplinarnych potwierdzone wiadomości ograniczają się do sankcji i skierowań opisanych w czasopiśmie ABA Journal, a szersze skutki są nadal nieznane.