NastępnyNastępny poradnik
Narzędzia do pisania AI
Językowa sztuczna inteligencja
PRZEWODNIK Językowy AI
Wskaźniki halucynacji w legalnych narzędziach AI
Niezależne testy wykazały, że narzędzia do badań prawnych AI oparte na generowaniu wspomaganym wyszukiwaniem (RAG) nadal przez znaczną część czasu udzielają nieprawidłowych lub nieuzasadnionych odpowiedzi.
Posłuchaj tego przewodnikaOpowiadane przez sztuczną inteligencję · ~3 min
Na tej stronie4 minuty czytania
Przegląd
Badanie Stanforda z 2024 r. wykazało, że halucynacje występują w więcej niż jednym na sześć zapytań, nawet w przypadku najskuteczniejszego narzędzia komercyjnego. Ma to znaczenie, ponieważ dostawcy reklamowali te narzędzia jako narzędzia pozwalające uniknąć halucynacji, a prawnicy, którzy na nich polegają, nadal są odpowiedzialni za każdy złożony przez nich cytat.
Głębokie nurkowanie
Debatę ukształtowały dwa badania stowarzyszone ze Stanford. W pierwszym, „Large Legal Fictions” (2024) autorstwa Matthew Dahla, Varuna Magesha, Miraca Suzguna i Daniela Ho przetestowano chatboty ogólnego przeznaczenia, odpowiadając na weryfikowalne pytania dotyczące spraw przed sądami federalnymi. Okazało się, że w przypadku tych pytań wskaźnik halucynacji wahał się od 69 do 88 procent. Modele miały także tendencję do akceptowania fałszywych przesłanek wbudowanych w pytania. Komercyjni dostawcy usług prawnych argumentowali, że ich narzędzia pozwalają uniknąć tego problemu poprzez generowanie wspomagane wyszukiwaniem, co pozwala uzyskać odpowiedzi w prawdziwych prawnych bazach danych. W niektórych marketingach używano wyrażeń takich jak „wolny od halucynacji”. W 2024 roku naukowcy z RegLab na Uniwersytecie Stanforda i Instytutu Sztucznej Inteligencji Skoncentrowanej na Człowieku sprawdzili to twierdzenie w badaniu zatytułowanym „Wolne od halucynacji?” Przeprowadzili ponad 200 zapytań prawnych za pośrednictwem Lexis+ AI, Westlaw AI-Assisted Research i Ask Practical Law AI, dla porównania GPT-4. Liczyli odpowiedź jako halucynację, jeśli była błędna lub błędnie uzasadniona. Błędne uzasadnienie oznacza, że zacytowano prawdziwe źródło, które nie potwierdza twierdzenia. Sztuczna inteligencja Lexis+ wypadła najlepiej, a mimo to w przypadku ponad 17 procent zapytań nadal występowały halucynacje. Narzędzie Westlawa miało halucynacje mniej więcej w jednej trzeciej. Zapytaj o prawo praktyczne AI często dawała niekompletne odpowiedzi. Wczesna wersja artykułu została skrytykowana, ponieważ badaczom początkowo brakowało dostępu do narzędzia badawczego Westlawa; później przetestowali to i poprawili artykuł. Odzyskiwanie zmniejsza błędy, ale ich nie usuwa z kilku powodów. Retriever może znaleźć dokumenty, które zawierają takie same słowa jak zapytanie, ale nie są istotne z prawnego punktu widzenia. Może pominąć organ kontrolujący lub wyciągnąć sprawę z niewłaściwej jurysdykcji lub zastąpionej wersji przepisu. Model może następnie błędnie odczytać lub zignorować to, co zostało pobrane, połączyć źródła lub przyjąć fałszywe założenie. Powszechnym błędnym przekonaniem jest to, że prawidłowo wyglądający cytat oznacza poprawną odpowiedź. Kategoria błędnie uzasadniona pokazuje, że prawdziwy cytat może potwierdzać fałszywe twierdzenie.
Implementacja w świecie rzeczywistym
Współpracownik zadaje narzędzie badawcze, dlaczego sąd orzekł w określony sposób w sprawie, która w rzeczywistości poszła w drugą stronę. Narzędzie przyjmuje fałszywe założenie i wyjaśnia wymyślone orzeczenie, powołując się na prawdziwą opinię.
Narzędzie zwraca prawdziwą sprawę apelacyjną z dokładnym cytatem propozycji, której sprawa nigdy nie dotyczy. Jest to „błędna” odpowiedź, która wygląda na wiarygodną, dopóki ktoś nie przeczyta opinii.
Narzędzie badawcze przytacza decyzję, którą później uchylono, gdyż przywołało starszą opinię i nie sprawdziło jej późniejszej historii.
Dział prawny testuje dwóch dostawców na własnym zestawie 100 pytań ze znanymi odpowiedziami. Rejestruje, czy każdy cytat istnieje, czy potwierdza twierdzenie i czy odpowiedź jest kompletna.
Przyszłość wskaźników halucynacji w legalnych narzędziach AI
Dostawcy aktualizowali swoje produkty od czasu badań z 2024 r., więc określone poziomy błędów mogą nie opisywać aktualnych wersji. Dlatego powtarzane, niezależne testy mają większe znaczenie niż jakakolwiek pojedyncza liczba. Wysiłki porównawcze podejmowane przez strony trzecie i same kancelarie prawne stają się coraz bardziej powszechne. Lepsi autorzy cytowań, przepływ pracy w stylu agenta, który sprawdza własne cytaty, i mocniejsze podstawy mogą zmniejszyć liczbę błędów. Jak dotąd nic nie wskazuje na to, że odzyskanie ich całkowicie usunie. Do sądów w dalszym ciągu trafiają wnioski zawierające sfabrykowane lub błędnie przedstawiane informacje, a niektóre z nich nałożyły sankcje. W dającej się przewidzieć przyszłości ludzka weryfikacja każdego cytowanego autorytetu pozostanie obowiązkiem zawodowym, niezależnie od twierdzeń dostawcy.
Wdrażanie tego w praktykę
Dlaczego to ma znaczenie
- Szybkość i skala. Przepływy pracy związane z językiem mogą przebiegać szybciej bez utraty spójności.
- Dostęp i zasięg. Rozszerza dostęp w różnych językach i stylach komunikacji.
- Jaśniejsze decyzje. Zespoły mogą spędzać więcej czasu na ocenie, podczas gdy automatyzacja radzi sobie z powtarzalnością.
Uważaj na
- Halucynacyjne fakty mogą po cichu trafiać do raportów, strumieni wsparcia lub wyników badań.
- Szybka czułość może spowodować niespójne wyniki w przypadku podobnych żądań.
- Wrażliwe dane tekstowe mogą zostać ujawnione, jeśli kontrola dostępu jest słaba.
Kolejne kroki
- Zdefiniuj format wyjściowy, ton i standardy jakości przed wdrożeniem.
- Zawsze, gdy liczy się dokładność, korzystaj z zaufanych źródeł.
- Utrzymuj punkt kontrolny weryfikacji ręcznej w przypadku wyników o wysokiej stawce.
- Śledź wzorce niepowodzeń i regularnie powtarzaj monity lub przepływy pracy.
Odkrywaj dalej
Darmowy newsletter
Otrzymuj codzienne podsumowanie AI
Trzy zweryfikowane historie AI każdego poranka w dni robocze, napisane prostym angielskim. Bezpłatne na zawsze, bez reklam.
Jedno e‑mail każdego dnia roboczego. Wypisz się jednym kliknięciem. Nigdy nie sprzedajemy ani nie udostępniamy Twojego adresu.
Sprawdź się
Take the Hallucination Rates in Legal AI Tools quiz
Natychmiastowa informacja zwrotna na każde pytanie oraz udostępnialny certyfikat z weryfikowalnym ID po zaliczeniu kursu.
Wspieraj darmową edukację AI. AI Understanding jest organizacją non-profit 501(c)(3) — bez reklam, bez płatnej ściany, zawsze. Przekaż darowiznę
Często zadawane pytania
Jakie są wskaźniki halucynacji w legalnych narzędziach AI?
Niezależne testy wykazały, że narzędzia do badań prawnych AI oparte na generowaniu wspomaganym wyszukiwaniem (RAG) nadal przez znaczną część czasu udzielają nieprawidłowych lub nieuzasadnionych odpowiedzi. Badanie Stanforda z 2024 r. wykazało, że halucynacje występują w więcej niż jednym na sześć zapytań, nawet w przypadku najskuteczniejszego narzędzia komercyjnego. Ma to znaczenie, ponieważ dostawcy reklamowali te narzędzia jako narzędzia pozwalające uniknąć halucynacji, a prawnicy, którzy na nich polegają, nadal są odpowiedzialni za każdy złożony przez nich cytat.
Jak Stanford „wolny od halucynacji”? badanie definiuje halucynację?
W badaniu wzięto pod uwagę dwa rodzaje błędów: stwierdzenia nieprawidłowe oraz stwierdzenia poparte cytatem, który w rzeczywistości ich nie potwierdza.
Jaka jest odpowiedź „błędnie uzasadniona” w ujęciu badania Stanforda?
Błędna odpowiedź wskazuje na prawdziwy autorytet, ale autorytet ten nie potwierdza tego, co mówi odpowiedź. Dzięki temu wygląda na bardziej godnego zaufania, niż jest w rzeczywistości.
Które narzędzie wypadło najlepiej w teście Stanforda z 2024 r., ale nadal powodowało halucynacje w przypadku ponad 17 procent zapytań?
Najlepsze wyniki uzyskała Lexis+ AI, a mimo to w przypadku ponad 17 procent zapytań nadal występowały halucynacje. Narzędzie Westlawa miało halucynacje mniej więcej w jednej trzeciej.
Jaki zakres halucynacji odkryło „Large Legal Fictions” w przypadku chatbotów ogólnego przeznaczenia w przypadku sprawdzalnych pytań sądu federalnego?
Badanie wykazało, że ogólne chatboty miały halucynacje w 69–88% przypadków w przypadku tych konkretnych, możliwych do sprawdzenia pytań.
Dlaczego etap pobierania może znaleźć niewłaściwy organ, nawet jeśli baza danych zawiera właściwy?
Retrievery cenią sobie bliskość w brzmieniu i znaczeniu. Sprzeciw, podsumowanie argumentacji drugiej strony lub sprawa z niewłaściwej jurysdykcji mogą mieć wysoką rangę, nie będąc organem kontrolnym.
Ucz się dalej
Powiązane przewodniki
Wybrano więcej przewodników na ten temat