Co se stalo
Podle KFOR společnosti Nexstar soudce okresu Stephens Lawrence Wheeler vyšetřovatelům přiznal, že v soudním příkazu uvedl nejméně dva neexistující případy z Oklahomy poté, co je našel prostřednictvím ChatGPT. Příkaz se týkal žádosti o psychologické vyšetření ve věci péče o dítě. KFOR hlásí, že Wheeler řekl, že rozkaz napsal sám a použil AI pouze pro výzkum.
KFOR společnosti Nexstar hlásí, že incident začal v listopadu během případu opatrovnictví dětí v okrese Stephens. Soudce Lawrence Wheeler zamítl žádost právníka, aby se druhý rodič podrobil psychologickému testu, a uvedl v příkazu několik údajných precedentů z Oklahomy. KFOR hlásí, že nejméně dva z těchto případů neexistovaly.
Oklahomská rada pro soudní stížnosti požádala Oklahoma State Bureau of Investigation o prošetření. V srpnovém dopise kanceláři generálního prokurátora okresní prokurátor Stephens County Jason Hicks údajně napsal, že Wheeler agentům OSBI řekl, že ChatGPT dodal nejméně dva neexistující případy. Wheeler řekl, že nakonec napsal příkaz sám a použil AI pro výzkum.
KFOR uvádí, že Kancelář generálního prokurátora přezkoumala zjištění OSBI, ale dospěla k závěru, že důkazy nepodporují trestní stíhání. Úřad také uvedl, že nejvyšší pravomoc nad soudní disciplínou má nejvyšší soud v Oklahomě. KFOR kontaktoval Wheelerova právního zástupce, který se odmítl vyjádřit.
Tento účet se opírá o hlášení a prohlášení KFOR připisovaná okresnímu prokurátorovi, kanceláři generálního prokurátora a právníkovi Timu Gilpinovi. Zdroj nezávisle nezveřejňuje soudní příkaz, vyšetřovací spis ani přepis rozhovoru, takže základní přiznání a plný rozsah vykonstruovaných citací zde nejsou nezávisle potvrzeny.
Podrobnosti o zdroji: wfla.com ↗
Proč na tom záleží
Zpráva ilustruje následný způsob selhání při použití generativní umělé inteligence v právním výzkumu: vymyšlené úřady mohou přijímat rozhodnutí, která ovlivňují práva lidí a rodinné vztahy. Zpráva KFOR také ukazuje, že trestní odpovědnost a soudní kázeň jsou samostatné otázky. Kancelář generálního prokurátora uvedla, že důkazy nepodporují stíhání, zatímco Nejvyšší soud v Oklahomě si ponechává konečnou pravomoc nad disciplinárními soudci. Zdroj nezjistil, zda byl příkaz stažen, opraven nebo přezkoumán v rámci odvolání.
Právní citace jsou ověřitelné faktické autority, nikoli pouze návrhy. Pokud se v soudním příkazu objeví neexistující případy, problém může ovlivnit zdůvodnění, které mají strany k dispozici, a zkomplikovat pozdější přezkoumání, i když příkaz podepíše soudce – nikoli software.
Zpráva odděluje dvě formy odpovědnosti. Kancelář generálního prokurátora našla nedostatečné důkazy pro trestní stíhání, ale toto rozhodnutí neřeší, zda byly porušeny soudní normy. Jakákoli disciplinární reakce by podle zprávy KFOR spadala pod pravomoc Nejvyššího soudu v Oklahomě.
Praktickou lekcí hlášenou KFOR je, že právní výzkum podporovaný AI vyžaduje ověření zdroje od zdroje. Článek nezjišťuje, zda uvedené nepřesnosti změnily rozhodnutí o vazbě nebo způsobily měřitelnou škodu. Rovněž neuvádí, zda soud zavedl nové záruky.
Interaktivní mechanismus: Jak to vlastně funguje
Interaktivně prozkoumejte základní technologii tohoto vývoje.
Why can ethical evaluation not be reduced to one model score?
Na co se dále dívat
Klíčové nezodpovězené otázky jsou, zda Nejvyšší soud v Oklahomě bude disciplinovaně dodržovat, zda bude soudní příkaz opraven nebo zrušen a zda soudy v Oklahomě přijmou jasnější pravidla pro ověřování právního výzkumu s pomocí AI. Zpráva KFOR neposkytuje rozkaz, výsledky vyšetřování OSBI ani nezávislý přezkum citovaných případů, takže tyto podrobnosti zůstávají nepotvrzené.
Sledujte jakékoli kroky Nejvyššího soudu v Oklahomě, včetně disciplinárního řízení nebo veřejného vysvětlení toho, jak mohou soudci používat generativní umělou inteligenci. Zdroj neuvádí, že k takové akci došlo.
Sledujte opravy nebo další soudní spory ohledně příkazu k péči o dítě. KFOR neuvádí, zda příkaz zůstává v platnosti, byl pozměněn nebo byl napaden kvůli citacím.
Více dokumentace by objasnila případ: samotný příkaz, nálezy OSBI, totožnost a stav neexistujících případů a jakákoli odpověď od soudce Wheelera. Žádný není v dodaném zdroji nezávisle dostupný.