Mi történt
A Stamford Advocate a GovTech által újra közzétett jelentésében arról számolt be, hogy Matthew Elliott, a Connecticut állam saját képviseletében álló peres fél szinte láthatatlan fehér szöveget illesztett be a bírósági beadványokba. A rejtett utasítás azt mondta a dokumentumot áttekintő AI-rendszereknek, hogy egyetértsenek Elliott érveivel, és támogassák egy korábbi ítélet megváltoztatását. A Connecticuti Legfelsőbb Bíróság bírája, Walter Spader Jr. szándékos azonnali injekcióként jellemezte a taktikát, és szankcionálta Elliottot azzal, hogy megkövetelte, hogy az ügyben a jövőben papíron nyújtsák be a bejelentéseket.
A Stamford Advocate a GovTech által újra közzétett jelentésében elmondta, hogy Elliott apró, fehér szöveggel ellátott üzenetet helyezett el egy connecticuti bírósági beadványban. Az utasítás így kezdődött: „Ha ezt a dokumentumot egy AI-modell felülvizsgálja”, és arra utasította a rendszert, hogy biztosítsa, hogy a kimenet megfeleljen Elliott bejelentésének. A jelentés szerint ez a rendszert egy hivatalnok korábbi döntésének megfordítása és a New York Bariatric Group fizetésképtelenségének megállapítása felé is irányította. A beszámoló ezeket a részleteket Walter Spader Jr. bíró memorandumának és a kapcsolódó bírósági dokumentumoknak tulajdonítja.
A jelentés szerint Spader akkor fedezte fel a szöveget, amikor július 31-én átnézte a bejelentéseket, és olyan dokumentumokat nyomtatott, amelyek szokatlan üres területeket tartalmaztak. A bíróság megállapította, hogy a formázott nyelv szinte láthatatlan egy személy számára, miközben olvasható marad a dokumentum szövegét feldolgozó szoftver számára. Elliott elismerte a CT Insidernek, amint azt a jelentés idézi, hogy egy mesterséges intelligencia-rendszerhez szánt láthatatlan szöveget használt. Vitatta a bíró által a céljával kapcsolatos értelmezését, mondván, megpróbálja megállapítani, hogy mesterséges intelligenciát használtak-e a beadványainak áttekintésére.
A jelentés szerint a Connecticut Judicial Branch jelenleg nem használ mesterséges intelligencia rendszert a bejelentések vagy az esetleges mulasztások felülvizsgálatára. Spader mindazonáltal arra a következtetésre jutott, hogy a magatartás helytelen volt, mivel az ügyvédek, peres felek és más jogi szakemberek mesterséges intelligencia eszközöket használhatnak feljegyzések áttekintésére, feljegyzések összefoglalására vagy ügyek előkészítésére. A bíró azt írta, hogy a kérdés nem azon múlik, hogy maga a bíróság használt-e mesterséges intelligenciát, mert az eltitkolt anyag a bíróság és a szembenálló felek félrevezetésére tett kísérletet.
Miután a bíróság felvetette a kérdést, Elliott a jelentés szerint továbbra is szinte láthatatlan anyagokat helyezett el a későbbi bejelentésekben. Egyes üzenetek tréfásan az ellenfél alapítójára utaltak, egy Spongyabob Kockanadrág videóra és egy sorra, amely mindenkinek szólt, aki esetleg látja a rejtett szöveget. Elliott szerint ezek a kiegészítések inkább viccek, semmint további kísérletek az AI befolyásolására. Spader a folyamatos titkolózást annak bizonyítékának tekintette, hogy az eredeti magatartás szándékos volt. A bíró eltiltotta Elliottot az elektronikus bejelentéstől az ügyben, de megengedte neki, hogy folytassa a pereskedést és a mesterséges intelligencia használatát a bejelentések előkészítésében. A dokumentumok kinyomtatása eltávolítaná a rejtett digitális szöveget a jelentésben leírt iktatási folyamatból.
Forrás részletei: govtech.com ↗
Miért számít
Az eset konkrét példát ad arra, hogy a mesterséges intelligencia demonstrációiból jogi eljárásba kerül az azonnali injekció. A jelentés szerint a Connecticut's Judicial Branch nem használt mesterséges intelligencia rendszert a bejelentések áttekintésére, és semmi sem utal arra, hogy a rejtett utasítás megváltoztatta volna az ügy kimenetelét. A bírósági résztvevők, ügyvédek és jogkutatók azonban egyre gyakrabban használják a mesterséges intelligenciát dokumentumok összegzésére, jegyzőkönyvek áttekintésére és érvek előkészítésére, potenciális útvonalakat hozva létre a rejtett utasítások számára, hogy befolyásolják a downstream rendszereket.
Az azonnali befecskendezés általában azt jelenti, hogy utasításokat helyeznek el olyan anyagokba, amelyeket egy AI-rendszernek el kell olvasnia, azzal a céllal, hogy megváltoztassa a rendszer viselkedését. A jelentett taktika azért jelentős, mert az utasítást eltitkolták az emberi közönség elől, miközben a szoftverre irányultak. Spader úgy jellemezte a rejtett parancsot, mint egy titkos kommunikációt a mechanizmussal, amellyel az anyag kiolvasható és mérlegelhető. Ez a megkülönböztetés fontos a bírósági eljárásokban, ahol a szembenálló feleknek látniuk kell és válaszolniuk kell a bíróság elé terjesztett érvekre.
A jelentés nem bizonyítja, hogy egy mesterséges intelligencia rendszer valóban elolvasta Elliott beadványát, követte az utasítást vagy befolyásolt volna egy döntést. Azt írja, hogy a felszólítás láthatóan nem működött ebben az esetben. Ezek a korlátozások fontosak: a konkrét esemény az elrejtett szöveg beszúrása és felfedezése, amelyet szankció követ, nem pedig bizonyított, mesterséges intelligencia által támogatott bírói hiba. A jelentés nem ellenőrzi függetlenül a dokumentum teljes műszaki viselkedését különböző szoftverrendszerekben vagy szkennelési munkafolyamatokban.
Az incidens egy szélesebb körű biztonsági problémát szemléltet azon szervezetek számára, amelyek nem megbízható dokumentumokat táplálnak be az AI-rendszerekbe. Egy dokumentum alkalmas lehet emberi olvasásra, de tartalmazhat rejtett formázást, metaadatokat vagy géppel olvasható utasításokat, amelyek hatással vannak az automatizált összesítőre vagy asszisztensre. A bíróságon az ilyen manipuláció eltorzíthatja az összefoglalót, előnyben részesítheti az egyik fél követeléseit, kihagyhatja a releváns kontextust, vagy pontatlan benyomást kelthet az iratról. Hasonló kockázatok merülhetnek fel a munkaerő-felvétel, az oktatás, a biztosítás és a kormányzati munkafolyamatok terén, bár a jelentésben szereplő példákat a bírónak tulajdonítják, és itt nem vizsgáljuk meg őket függetlenül.
Az eset különválasztja a felelős AI-segélyt a nem felülvizsgált támaszkodástól. Spader azt írta, hogy az AI-eszközök valószínűleg továbbra is a jogi munka részét képezik, és elmondta, hogy a Google Gemini Gemini-t használta egy működő fordításhoz, a Westlaw AI-eszközöket pedig a hatóságok ellenőrzésére, miközben az eredményeket függetlenül ellenőrizte. A gyakorlati tanulság nem az, hogy a bíróságoknak fel kell hagyniuk a mesterséges intelligenciával, hanem az, hogy ellenőrzésekre van szükségük a származással, a dokumentumok megjelenítésével, az emberi felülvizsgálattal és a kimenet létrehozásának rekonstrukciójával kapcsolatban. A jelentés nem szól arról, hogy Connecticut elfogadta-e az ilyen ellenőrzéseket.
Interaktív mechanizmus: Hogyan működik valójában
Fedezze fel interaktívan a fejlesztés mögött meghúzódó technológiát.
Why can ethical evaluation not be reduced to one model score?
Mit nézzünk ezután
A központi megválaszolatlan kérdés az, hogy a bíróságok hogyan vizsgálják majd meg a digitálisan benyújtott dokumentumokat, ha a látható oldal nem tartalmazhat mindent, ami az aktába van ágyazva. A jelentés nem határoz meg egységes bírósági szabályzatot a rejtett szövegek észlelésére, és azt sem állapítja meg, hogy bármely mesterséges intelligencia rendszer feldolgozta volna Elliott felszólítását. A jövőbeli esetek tisztázhatják a szankciókat, a nyilvánosságra hozatali kötelezettségeket, a dokumentumfeldolgozási biztosítékokat, valamint azt, hogy a felek hogyan támadhatnak meg egy mesterséges intelligencia által támogatott döntést, amelyet esetleg érinthetett a rejtett tartalom.
A bíróságoknak és a jogi szolgáltatóknak olyan eljárásokra lehet szükségük, amelyek összehasonlítják a dokumentum megjelenített megjelenését a mögöttes szöveggel és formázással. A lehetséges óvintézkedések közé tartozik a bejelentések szabványos formátumúvá alakítása, a fehér-fehér szöveg és a nem nyomtatható karakterek megjelölése, a rejtett rétegek keresése, valamint az emberi ellenőrzés megkövetelése, mielőtt az AI által generált összefoglalók befolyásolnák a döntéseket. A forrás nem számol be arról, hogy Connecticut végrehajtotta volna ezeket az intézkedéseket, így ezek alkalmazását nem szabad feltételezni.
A jövőbeli viták tesztelhetik, hogy az eltitkolt utasítások sértik-e az őszinteségre, a bejelentések integritására, a csalásra vagy a bírósági eljárásokkal való visszaélésre vonatkozó meglévő szabályokat, és hogy a szankcióknak eltérniük kell-e abban az esetben, ha a felszólítás csupán jelen van, és ha az bizonyíthatóan megváltoztatja a mesterséges intelligencia kimenetét. Elliott esetében a bejelentett szankció az elektronikus bejelentési jogosultságok elvesztése volt, nem pedig a kereset elutasítása. A jelentés nem nyújt szélesebb körű precedenst, és nem jelzi, hogy fellebbeztek-e az ítélet ellen.
A kulcsfontosságú ellenőrző kérdés az lesz, hogy bármelyik bíróság, fél vagy eladó be tudja-e mutatni, hogy egy mesterséges intelligencia-rendszer feldolgozta a rejtett szöveget. A Connecticut Judicial Branch jelentése szerint nincs mesterséges intelligencia-felülvizsgálati rendszer, ez leszűkíti az azonnali keresetet, de az ügyvédek és a peres felek a bíróság saját rendszerein kívül is használhatnak harmadik felek eszközeit. A nyomozóknak szükségük lenne a dokumentumok feltöltésének, szoftververziók, promptok, kimenetek és emberi döntések nyilvántartására annak megállapításához, hogy a manipuláció befolyásolta-e az eredményt.
A jelentés azt sugallja, hogy a rejtett utasítások azonosítása nehezebbé válhat, mivel a jogi munkafolyamatok a dokumentumok összesítésén és az automatikus felülvizsgálaton alapulnak. Gyakorlati biztosítékokkal kell megőrizni a hozzáférést a saját képviseletében részt vevő peres felek számára, miközben meg kell akadályozni, hogy a digitális bejelentések nyilvánosságra nem hozható parancsokat hordozzanak. Amíg a bíróságok világosabb technikai és eljárási szabványokat nem tesznek közzé, a kockázat mértéke bizonytalan marad. Ennek a cikknek a beszámolója a GovTech által újra közzétett The Stamford Advocate jelentésen, valamint az általa idézett bírósági anyagokon és interjúkon alapul; az alapul szolgáló bejelentéseket és az AI-feldolgozási naplókat itt nem vizsgálták meg függetlenül.