Apa yang terjadi
Departemen Kehakiman Tasmania mengkonfirmasi peninjauan terhadap penggunaan kecerdasan buatan dalam keputusan pembebasan bersyarat menyusul keputusan pengadilan yang membatalkan persyaratan pembebasan bersyarat yang dikenakan pada Susan Neill-Fraser. Keputusan tersebut mengungkapkan bahwa Dewan Pembebasan Bersyarat mengandalkan dokumen bantuan AI yang mengutip kasus hukum yang tidak ada.
Departemen Kehakiman Tasmania mengkonfirmasi pada hari Jumat bahwa mereka sedang melakukan peninjauan untuk menentukan sejauh mana kecerdasan buatan mungkin telah digunakan untuk menginformasikan keputusan Dewan Pembebasan Bersyarat Tasmania di masa lalu. Tindakan ini menyusul keputusan Mahkamah Agung Tasmania pada hari Selasa, yang menganggap syarat pembebasan bersyarat yang dikenakan pada terpidana pembunuh Susan Neill-Fraser tidak sah karena kurangnya keadilan prosedural.
Selama gugatan hukum, terungkap bahwa Dewan Pembebasan Bersyarat mengandalkan dokumen yang disiapkan dengan bantuan AI. Dokumen ini mengutip kasus hukum yang tidak ada, sebuah fenomena yang dikenal sebagai halusinasi AI. Pengadilan memutuskan bahwa kondisi yang menghalangi Neill-Fraser untuk berbicara kepada media tentang dugaan hukumannya yang salah, dibuat tanpa perlindungan prosedural yang tepat.
Dewan Pembebasan Bersyarat, sebuah badan independen, menyatakan bahwa mereka tidak mengomentari masalah individu dan tidak dapat menjawab pertanyaan mengenai sejauh mana penggunaan AI. Namun, jaksa agung negara bagian, Guy Barnett, menulis surat kepada Dewan meminta penjelasan, dan menyebut kesalahan tersebut sebagai hal yang tidak dapat diterima. Juru bicara departemen kehakiman mencatat bahwa peninjauan tersebut sedang berlangsung dan tidak ada rincian lebih lanjut yang dapat diberikan.
Menanggapi keputusan tersebut, Greg Barns, ketua Layanan Hukum Tahanan Tasmania, mengumumkan bahwa organisasinya sedang melakukan audit sendiri terhadap keputusan Dewan Pembebasan Bersyarat selama dua tahun. Tinjauan independen ini bertujuan untuk mengidentifikasi contoh penggunaan AI lainnya atau kesalahan serupa dalam putusan sebelumnya. Sarah Schwartz dari Pusat Hukum Hak Asasi Manusia, yang mewakili Neill-Fraser, menggambarkan situasi ini menunjukkan adanya kekurangan serius dalam proses Dewan.
Detail sumber: theguardian.com ↗
Mengapa itu penting
Insiden ini menyoroti risiko signifikan dalam penerapan AI dalam proses hukum dan administratif yang penting, khususnya terkait halusinasi preseden hukum. Tinjauan ini bertujuan untuk menentukan cakupan pengaruh AI terhadap keputusan-keputusan di masa lalu, mengatasi kekhawatiran mengenai keadilan prosedural dan integritas hasil peradilan.
Penggunaan AI dalam pengambilan keputusan hukum yang berisiko tinggi, seperti sidang pembebasan bersyarat, menimbulkan pertanyaan kritis mengenai akuntabilitas dan keakuratan. Penemuan kutipan palsu dalam dokumen yang diakui pengadilan menunjukkan bahwa alat AI dapat menimbulkan kesalahan faktual yang mungkin tidak terdeteksi oleh peninjau manusia, sehingga berpotensi membahayakan hak-hak individu yang terlibat dalam sistem peradilan.
Kasus ini menjadi contoh nyata mengenai risiko yang terkait dengan pengintegrasian AI generatif ke dalam alur kerja administratif dan peradilan. Hal ini menggarisbawahi perlunya protokol verifikasi yang kuat dan pedoman yang jelas mengenai penggunaan AI dalam konteks di mana keputusan mempunyai konsekuensi hukum dan pribadi yang signifikan.
Peninjauan yang dilakukan oleh Departemen Kehakiman Tasmania dan audit independen yang dilakukan oleh Prisoners Legal Service Tasmania kemungkinan besar akan menjadi preseden mengenai pendekatan yurisdiksi lain terhadap pengawasan AI dalam proses hukum. Hasil dari penelitian ini dapat mempengaruhi diskusi kebijakan mengenai keamanan dan keandalan AI di lembaga-lembaga pemerintah.
Mekanisme Interaktif: Cara Kerja Sebenarnya
Jelajahi teknologi yang mendasari di balik perkembangan ini secara interaktif.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Apa yang harus ditonton selanjutnya
Hasil peninjauan Departemen Kehakiman dan audit independen oleh Prisoners Legal Service Tasmania, yang memeriksa keputusan Dewan Pembebasan Bersyarat selama dua tahun untuk mencari tanda-tanda penggunaan atau kesalahan AI.
Temuan tinjauan Departemen Kehakiman Tasmania, yang akan memperjelas tingkat penggunaan AI dalam keputusan Dewan Pembebasan Bersyarat di masa lalu dan masalah sistem apa pun yang teridentifikasi.
Hasil audit dari Prisoners Legal Service Tasmania atas keputusan yang diambil selama dua tahun, yang mungkin mengungkap contoh tambahan kesalahan atau kegagalan prosedur terkait AI.
Potensi perubahan kebijakan atau pedoman baru yang dikeluarkan oleh pemerintah Tasmania atau Dewan Pembebasan Bersyarat untuk mengatur penggunaan AI dalam keputusan pembebasan bersyarat di masa depan dan proses hukum lainnya.