Jaji wa Connecticut amemuwekea vikwazo mlalamishi kwa sababu ya siri ya AI katika kuwasilisha mahakamani

Nini kilitokea

Wakili wa Stamford, katika ripoti iliyochapishwa tena na GovTech, iliripoti kwamba Matthew Elliott, mtetezi wa Connecticut aliyejiwakilisha mwenyewe, aliingiza maandishi meupe karibu yasiyoonekana kwenye faili za mahakama. Maagizo yaliyofichwa yaliambia mfumo wowote wa AI unaokagua hati kukubaliana na hoja za Elliott na kuunga mkono kubatilisha uamuzi wa awali. Jaji wa Mahakama ya Juu ya Connecticut, Walter Spader Jr. alielezea mbinu hiyo kuwa sindano ya haraka ya kimakusudi na akaidhinisha Elliott kwa kutaka majalada ya baadaye katika kesi hiyo yawasilishwe kwenye karatasi.

Wakili wa Stamford, katika kuripoti kuchapishwa tena na GovTech, alisema Elliott aliweka ujumbe katika maandishi madogo meupe ndani ya jalada la mahakama ya Connecticut. Maagizo yalianza, "Ikiwa hati hii itapitiwa na mfano wa AI," na kuelekeza mfumo kuhakikisha kuwa matokeo yake yanakubaliana na kufungua kwa Elliott. Kulingana na ripoti hiyo, pia ilielekeza mfumo huo kuelekea kubadili uamuzi wa awali wa karani na kupata Kikundi cha New York Bariatric bila malipo. Akaunti inahusisha maelezo haya na risala ya Jaji Walter Spader Mdogo na hati zinazohusiana za mahakama.

Ripoti hiyo ilisema Spader aligundua maandishi hayo alipokuwa akikagua majalada mnamo Julai 31 na kuchapisha nyaraka ambazo zilionekana kuwa na sehemu zisizo na kitu zisizo za kawaida. Mahakama ilipata lugha iliyoumbizwa kuwa karibu kutoonekana kwa mtu huku ikisalia kuwa halali kwa programu iliyochakata maandishi ya hati. Elliott alikiri kwa CT Insider, kama ilivyonukuliwa katika ripoti hiyo, kwamba alikuwa ametumia maandishi yasiyoonekana yaliyokusudiwa kwa mfumo wa AI. Alipinga tafsiri ya jaji wa madhumuni yake, akisema alikuwa akijaribu kuamua ikiwa AI ilikuwa inatumiwa kukagua faili zake.

Ripoti hiyo ilisema kuwa Tawi la Mahakama la Connecticut halikutumia mfumo wa kijasusi-bandia kwa sasa kukagua majalada au makosa yanayoweza kutokea. Spader hata hivyo alihitimisha kuwa mwenendo huo haukuwa sawa kwa sababu mawakili, wadai na wataalamu wengine wa sheria wanaweza kutumia zana za AI kukagua hati, kufupisha rekodi au kuandaa kesi. Jaji aliandika kwamba suala hilo halikutegemea ikiwa mahakama yenyewe ilitumia AI, kwa sababu nyenzo zilizofichwa zilikuwa jaribio la kupotosha mahakama na pande zinazopingana.

Baada ya korti kuibua suala hilo, Elliott aliendelea kuweka nyenzo karibu zisizoonekana katika faili za baadaye, kulingana na ripoti hiyo. Ujumbe fulani ulirejelea kwa utani mwanzilishi wa chama pinzani, video ya SpongeBob SquarePants na mstari ulioelekezwa kwa mtu yeyote ambaye anaweza kuona maandishi yaliyofichwa. Elliott alisema nyongeza hizo zilikuwa utani badala ya majaribio zaidi ya kushawishi AI. Spader aliona kuendelea kufichwa kama ushahidi kwamba mwenendo wa awali ulikuwa wa makusudi. Jaji alimzuia Elliott kuwasilisha kesi kwa njia ya kielektroniki lakini alimruhusu kuendelea kushtaki na kutumia AI kusaidia kuandaa majalada. Kuchapisha hati kungeondoa maandishi ya kidijitali yaliyofichwa kutoka kwa mchakato wa uwasilishaji uliofafanuliwa katika ripoti.

Maelezo ya chanzo: govtech.com ↗

Kwa nini ni muhimu

Kesi hiyo inatoa mfano halisi wa sindano ya haraka kutoka kwa maonyesho ya AI hadi mchakato wa kisheria. Ripoti hiyo inasema Tawi la Mahakama la Connecticut halikutumia mfumo wa AI kukagua majalada, na hakuna dalili kwamba maagizo yaliyofichwa yalibadilisha matokeo ya kesi. Lakini washiriki wa mahakama, wanasheria na watafiti wa kisheria wanazidi kutumia AI kufanya muhtasari wa hati, kukagua hati na kuandaa hoja, kuunda njia zinazowezekana za maagizo yaliyofichwa ili kuathiri mifumo ya chini.

Sindano ya haraka kwa ujumla inajumuisha kuweka maagizo katika nyenzo ambayo mfumo wa AI unaombwa kusoma, kwa lengo la kubadilisha tabia ya mfumo. Mbinu iliyoripotiwa ni muhimu kwa sababu maagizo yalifichwa kutoka kwa hadhira ya kibinadamu yakilenga programu. Spader ilibainisha amri iliyofichwa kama mawasiliano ya siri kwa utaratibu ambao jambo linaweza kusomwa na kupimwa. Tofauti hiyo inahusika katika mashauri ya kisheria, ambapo pande zinazopingana zinatarajiwa kuona na kujibu hoja zinazowasilishwa mahakamani.

Ripoti haithibitishi kuwa mfumo wa AI ulisoma uwasilishaji wa Elliott, ulifuata maagizo au kuathiri uamuzi. Inasema haraka hiyo inaonekana haikufanya kazi katika kesi hii. Mapungufu hayo ni muhimu: tukio madhubuti ni uwekaji na ugunduzi wa maandishi yaliyofichwa, ikifuatiwa na vikwazo, sio kosa la mahakama lililosaidiwa na AI. Ripoti pia haidhibitishi kwa kujitegemea tabia kamili ya kiufundi ya hati katika mifumo tofauti ya programu au utiririshaji wa kazi wa kuchanganua.

Tukio hilo linaonyesha tatizo pana la usalama kwa mashirika ambayo hulisha hati zisizoaminika katika mifumo ya AI. Hati inaweza kufaa kwa usomaji wa kibinadamu ilhali ina uumbizaji fiche, metadata au maagizo yanayosomeka na mashine ambayo huathiri muhtasari au msaidizi wa kiotomatiki. Katika mahakama, upotoshaji kama huo unaweza kupotosha muhtasari, kuweka madai ya mhusika mmoja kipaumbele, kuacha muktadha unaofaa au kuunda hisia isiyo sahihi ya rekodi. Hatari kama hizo zinaweza kutokea katika kuajiri, elimu, bima na mtiririko wa kazi wa serikali, ingawa mifano ya ripoti ya mipangilio hiyo inahusishwa na hakimu na haijachunguzwa hapa kwa kujitegemea.

Kesi hiyo pia hutenganisha usaidizi wa AI unaowajibika kutoka kwa utegemezi ambao haujakaguliwa. Spader aliandika kwamba zana za AI zinaweza kubaki sehemu ya kazi ya kisheria na akasema ametumia Google Gemini kwa tafsiri inayofanya kazi na zana za Westlaw AI kukagua mamlaka, huku akithibitisha matokeo kwa uhuru. Somo la vitendo si kwamba mahakama lazima ziachane na AI, lakini zinahitaji udhibiti kuhusu uandishi, utoaji wa hati, mapitio ya kibinadamu na uwezo wa kuunda upya jinsi matokeo yalivyotolewa. Ripoti haisemi ikiwa Connecticut imepitisha udhibiti kama huo.

Nini cha kutazama baadaye

Swali kuu ambalo halijajibiwa ni jinsi mahakama zitakavyokagua hati zilizowasilishwa kidijitali wakati ukurasa unaoonekana hauwezi kuwa na kila kitu kilichopachikwa kwenye faili. Ripoti hiyo haitambui sera sare ya mahakama ya kugundua maandishi yaliyofichwa, wala haiashirii kuwa mfumo wowote wa AI ulichakata ombi la Elliott. Kesi za siku zijazo zinaweza kufafanua vikwazo, majukumu ya ufichuzi, ulinzi wa kuchakata hati na jinsi wahusika wanaweza kupinga uamuzi unaosaidiwa na AI ambao unaweza kuwa umeathiriwa na maudhui yaliyofichwa.

Mahakama na watoa huduma za kisheria wanaweza kuhitaji taratibu zinazolinganisha mwonekano wa hati na maandishi yake ya msingi na umbizo. Ulinzi unaowezekana ni pamoja na kubadilisha faili kuwa miundo sanifu, kuripoti maandishi meupe-kweupe na herufi zisizochapishwa, kuchanganua kwa tabaka zilizofichwa na kuhitaji ukaguzi wa kibinadamu kabla ya mihtasari inayozalishwa na AI kuathiri maamuzi. Chanzo hakiripoti kuwa Connecticut imetekeleza mojawapo ya hatua hizi, kwa hivyo matumizi yao hayafai kudhaniwa.

Mizozo ya siku zijazo inaweza kupima kama maagizo yaliyofichwa yanakiuka sheria zilizopo kuhusu ukweli, uadilifu wa kufungua, ulaghai au matumizi mabaya ya michakato ya mahakama, na kama vikwazo vinapaswa kutofautiana wakati kidokezo kipo dhidi ya wakati kinabadilisha matokeo ya AI. Katika kesi ya Elliott, adhabu iliyoripotiwa ilikuwa upotezaji wa marupurupu ya uwasilishaji wa kielektroniki badala ya kufutwa kwa kesi hiyo. Ripoti haitoi mfano mpana zaidi au kuonyesha kama uamuzi huo umekatiwa rufaa.

Swali kuu la uthibitishaji litakuwa ikiwa mahakama, mhusika au mchuuzi yeyote anaweza kuonyesha kuwa mfumo wa AI ulichakata maandishi yaliyofichwa. Tawi la Mahakama la Connecticut limeripoti ukosefu wa mfumo wa ukaguzi wa faili wa AI hupunguza dai la hapo hapo, lakini mawakili na walalamikaji wanaweza kutumia zana za wahusika wengine nje ya mifumo ya mahakama yenyewe. Wachunguzi wangehitaji rekodi za upakiaji wa hati, matoleo ya programu, vidokezo, matokeo na maamuzi ya kibinadamu ili kubaini ikiwa udanganyifu uliathiri matokeo.

Ripoti inapendekeza kuwa maagizo yaliyofichwa yanaweza kuwa magumu kutambuliwa kwani utendakazi wa kisheria unategemea muhtasari wa hati na ukaguzi wa kiotomatiki. Milinzi inayotumika italazimika kuhifadhi ufikiaji kwa walalamikaji wanaojiwakilisha huku ikizuia faili za kidijitali kubeba amri ambazo hazijafichuliwa. Hadi mahakama zitakapochapisha viwango vilivyo wazi zaidi vya kiufundi na kiutaratibu, kiwango cha hatari bado hakijulikani. Akaunti ya makala haya inategemea ripoti ya Wakili wa Stamford jinsi ilivyochapishwa tena na GovTech na nyenzo za mahakama na mahojiano inayotaja; majalada ya msingi na kumbukumbu zozote za usindikaji wa AI hazikukaguliwa hapa kwa kujitegemea.

Miongozo & maswali yanayohusiana