Ce sa întâmplat
Departamentul de justiție din Tasmania a confirmat o revizuire a utilizării inteligenței artificiale în deciziile de eliberare condiționată în urma unei hotărâri judecătorești care a invalidat condiția de eliberare condiționată impusă lui Susan Neill-Fraser. Hotărârea a arătat că Consiliul de eliberare condiționată s-a bazat pe un document asistat de AI care citează jurisprudență care nu există.
Departamentul de justiție din Tasmania a confirmat vineri că efectuează o revizuire pentru a determina măsura în care inteligența artificială ar fi putut fi folosită pentru a informa deciziile anterioare ale Consiliului Tasmanian de Parole. Această acțiune vine în urma unei hotărâri a Curții Supreme din Tasmania de marți, care a considerat invalidă o condiție condiționată impusă criminalului condamnat Susan Neill-Fraser din cauza lipsei de corectitudine procedurală.
În timpul contestației în justiție, a fost relevat că Comisia de eliberare condiționată s-a bazat pe un document întocmit cu asistența AI. Acest document a citat o jurisprudență care nu există, un fenomen cunoscut sub numele de halucinație AI. Instanța a decis că condiția, care a împiedicat-o pe Neill-Fraser să vorbească cu presa despre presupusa ei condamnare abuzivă, a fost făcută fără garanții procedurale adecvate.
Consiliul de eliberare condiționată, un organism independent, a declarat că nu comentează cu privire la chestiuni individuale și nu a putut răspunde la întrebări cu privire la gradul de utilizare a AI. Cu toate acestea, procurorul general al statului, Guy Barnett, a scris Consiliului de administrație cerând o explicație, etichetând greșeala ca fiind inacceptabilă. Purtătorul de cuvânt al Departamentului de Justiție a menționat că revizuirea este în prezent în curs și nu pot fi furnizate alte detalii.
Ca răspuns la hotărâre, Greg Barns, președintele Serviciului Juridic pentru Deținuți Tasmania, a anunțat că organizația sa efectuează propriul audit al deciziilor comisiei de eliberare condiționată în valoare de doi ani. Această analiză independentă își propune să identifice orice alte cazuri de utilizare a IA sau erori similare în hotărârile anterioare. Sarah Schwartz de la Centrul de Drept pentru Drepturile Omului, care l-a reprezentat pe Neill-Fraser, a descris situația ca dezvăluind deficiențe grave în procesele Consiliului.
Detalii sursa: theguardian.com ↗
De ce contează
Acest incident evidențiază riscuri semnificative în implementarea AI în cadrul proceselor legale și administrative critice, în special în ceea ce privește halucinarea precedentelor legale. Evaluarea urmărește să determine sfera influenței AI asupra deciziilor anterioare, abordând preocupările legate de echitatea procedurală și integritatea rezultatelor judiciare.
Utilizarea inteligenței artificiale în deciziile legale cu mize mari, cum ar fi audierile de eliberare condiționată, ridică întrebări esențiale cu privire la responsabilitate și acuratețe. Descoperirea unei citări false într-un document recunoscut de instanță demonstrează că instrumentele AI pot introduce erori de fapt care ar putea să nu fie detectate de recenzori umani, putând compromite drepturile persoanelor implicate în sistemul de justiție.
Acest caz servește ca un exemplu concret al riscurilor asociate cu integrarea AI generativă în fluxurile de lucru administrative și judiciare. Subliniază necesitatea unor protocoale solide de verificare și a unor orientări clare privind utilizarea IA în contexte în care deciziile au consecințe juridice și personale semnificative.
Evaluarea de către departamentul de justiție din Tasmania și auditul independent de către Prisoners Legal Service Tasmania va crea probabil un precedent pentru modul în care alte jurisdicții abordează supravegherea IA în procesele legale. Rezultatul ar putea influența discuțiile de politică privind siguranța și fiabilitatea AI în instituțiile guvernamentale.
Mecanism interactiv: cum funcționează de fapt
Explorați tehnologia care stau la baza acestei dezvoltări în mod interactiv.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Ce să urmărești în continuare
Rezultatul revizuirii departamentului de justiție și al auditului independent de către Prisoners Legal Service Tasmania, care examinează doi ani de decizii ale Consiliului de eliberare condiționată pentru semne de utilizare sau erori ale AI.
Constatările revizuirii departamentului de justiție din Tasmania, care va clarifica amploarea utilizării AI în deciziile anterioare ale Consiliului de eliberare condiționată și orice probleme sistemice identificate.
Rezultatele auditului de către Prisoners Legal Service Tasmania a doi ani de decizii, care pot dezvălui cazuri suplimentare de erori sau eșecuri procedurale legate de IA.
Modificări potențiale de politică sau noi orientări emise de guvernul tasmanian sau de Consiliul de eliberare condiționată pentru a reglementa utilizarea AI în deciziile viitoare de eliberare condiționată și alte proceduri legale.