Mahkamah Agung New Mexico mencabut pengacara dari banding pembunuhan atas kesalahan yang disebabkan oleh AI

Apa yang terjadi

Jurnal ABA melaporkan bahwa Mahkamah Agung New Mexico menghapus pengacara pembela kriminal Stephen Aarons dari banding pembunuhan setelah menemukan tidak ada saksi dan kesaksian fiktif dalam laporan singkat yang dia persiapkan dengan ChatGPT. Pengadilan memutuskan Aarons melakukan penghinaan, memerintahkan dia untuk membayar $5.000 ke dana perlindungan klien dan merujuk masalah tersebut ke dewan disipliner. Permohonan banding akan diserahkan kepada pembela umum.

Jurnal ABA melaporkan pada 24 Agustus bahwa Mahkamah Agung New Mexico menghapus pengacara pembela kriminal Santa Fe Stephen Aarons dari banding pembunuhan setelah menemukan kesalahan yang dihasilkan oleh kecerdasan buatan dalam laporan singkatnya. Laporan tersebut mengidentifikasi Aarons sebagai pengacara dengan pengalaman lebih dari 40 tahun dan mengatakan dia mewakili seorang pria berusia 60 tahun yang dihukum pada tahun sebelumnya karena membunuh istrinya. Permohonan banding tersebut akan dirujuk ke pembela umum, menurut laporan ABA Journal, yang mengutip Santa Fe New Mexican untuk beberapa rinciannya.

Menurut Jurnal ABA, Aarons mengatakan kepada pengadilan bahwa dia telah memberikan ChatGPT transkrip persidangan dan dokumen pengadilan lainnya dan mengharapkan sistem menghasilkan ringkasan yang “antipeluru”. Sebaliknya, laporan singkat tersebut berisi referensi tentang saksi yang tidak ada dan kesaksian fiktif yang dikaitkan dengan setidaknya satu saksi nyata. Sumber tidak mengidentifikasi setiap bagian yang salah, menyebutkan berapa banyak kutipan yang terpengaruh, atau menjelaskan apakah kesalahan tersebut mengubah argumen hukum atau hasil banding.

Jurnal ABA melaporkan bahwa Aarons mengakui “kebodohannya” selama sidang pengadilan hari Jumat. Dia mengatakan dia telah menyelesaikan pendidikan hukum lanjutan mengenai AI dan menyarankan bahwa pendidikan wajib dapat membantu mencegah kesalahan serupa yang dilakukan pengacara lain. Laporan tersebut tidak menyebutkan pelatihan apa yang telah ia selesaikan, kapan hal tersebut terjadi, atau apakah pengadilan menerima penjelasannya sebagai hal yang meringankan tindakan tersebut.

Tanggapan yang dilaporkan pengadilan mencakup tiga tindakan berbeda: mengeluarkan Aarons dari kasus ini, menganggapnya melakukan penghinaan dan memerintahkan dia untuk membayar $5.000 ke dana perlindungan klien dalam waktu 30 hari. Jurnal ABA juga melaporkan bahwa masalah tersebut telah dikirim ke dewan disiplin pengadilan untuk ditinjau lebih lanjut. Sumber tersebut tidak mencantumkan perintah tertulis pengadilan, rujukan disipliner, pengajuan itu sendiri atau transkrip sidang, sehingga rincian tersebut belum dikonfirmasi secara independen di sini.

Detail sumber: abajournal.com ↗

Mengapa itu penting

Kasus ini menunjukkan bahwa pengacara dapat menghadapi konsekuensi profesional dan finansial langsung ketika mereka menyerahkan materi hukum yang dihasilkan oleh AI yang tidak diverifikasi. Hal ini juga menempatkan tanggung jawab pada pengacara, bukan pada perangkat lunak, untuk memeriksa kutipan, kesaksian dan klaim faktual sebelum mengajukannya ke pengadilan.

Masalah utamanya bukan hanya sistem AI yang menghasilkan teks yang salah. Laporan Jurnal ABA menggambarkan saksi dan kesaksian palsu yang dimasukkan dalam pengajuan banding pidana, di mana keakuratan faktual sangat penting bagi hak-hak terdakwa. Oleh karena itu, pengajuan pengacara ke pengadilan merupakan titik di mana bantuan penyusunan dokumen biasa dapat menjadi masalah tanggung jawab profesional yang serius jika materi yang mendasarinya tidak diperiksa dengan catatan.

Sanksi yang dilaporkan menjadikan risiko ini nyata bagi para praktisi hukum. Penghapusan kasus dapat mengganggu keterwakilan, sementara temuan penghinaan dan pembayaran ke dana perlindungan klien dapat mempengaruhi kedudukan profesional dan keuangan. Jurnal ABA tidak melaporkan hukuman terpisah apa pun yang dijatuhkan oleh dewan disiplin, jadi pembaca tidak boleh berasumsi bahwa pembayaran $5.000 yang dilaporkan adalah konsekuensi akhir.

Kasus ini juga menggambarkan keterbatasan mendasar dari chatbot yang bertujuan umum dalam pekerjaan hukum: suatu sistem dapat menghasilkan ringkasan yang lancar namun tampak berwibawa namun menyajikan fakta yang tidak didukung. Kesimpulan tersebut didasarkan pada pengajuan yang dilaporkan, namun sumber tersebut tidak memberikan bukti teknis tentang versi model mana yang digunakan, petunjuk apa yang diberikan, apakah pengambilan atau perlindungan lainnya diaktifkan, atau apakah kesalahan muncul dari peringkasan, transkripsi, atau langkah lainnya.

Bagi pengadilan dan klien, pertanyaan praktisnya adalah bagaimana pekerjaan yang dibantu AI ditinjau sebelum diserahkan. Jurnal ABA melaporkan bahwa seorang pengacara senior telah mengikuti pendidikan lanjutan terkait AI, namun materi palsu masih sampai ke pengadilan. Hal ini tidak berarti bahwa pelatihan tidak efektif, namun hal ini menunjukkan bahwa pelatihan saja tidak menjamin verifikasi yang dapat diandalkan. Sumber tersebut tidak menjelaskan proses peninjauan internal perusahaan, jika ada, atau mengidentifikasi prosedur spesifik di pengadilan yang diterapkan sebagai tanggapannya.

Apa yang harus ditonton selanjutnya

Rujukan disipliner dapat menentukan apakah akan dikenakan sanksi lebih lanjut atau pembatasan profesional. Sumber tersebut tidak mencakup opini tertulis pengadilan, materi berkas perkara, atau tanggapan dari Aarons, sehingga alasan sebenarnya, cakupan kesalahan, dan aturan lebih luas yang diumumkan oleh pengadilan masih belum jelas.

Perkembangan konkrit selanjutnya adalah tinjauan disipliner. Jurnal ABA melaporkan bahwa Mahkamah Agung New Mexico merujuk masalah ini ke dewan disiplinernya, namun sumber tersebut tidak menyatakan apakah pengaduan resmi telah diajukan, peraturan apa yang mungkin dipertimbangkan atau kapan dewan tersebut akan bertindak. Keputusan publik apa pun yang diambil kemudian dapat memperjelas apakah tindakan tersebut dianggap sebagai kelalaian, pelanggaran, atau pelanggaran yang lebih serius berdasarkan standar profesional yang berlaku.

Alasan tertulis pengadilan juga penting. Sumber tersebut mengutip Hakim C. Shannon Bacon yang mengkritik pengacara yang mengandalkan halusinasi AI dan mengatakan bahwa tindakan tersebut tidak sesuai dengan kode etik. Dokumen ini tidak mereproduksi opini lengkap atau mengidentifikasi ketentuan sebenarnya yang dipermasalahkan. Perintah yang diterbitkan dapat menunjukkan apakah pengadilan menerapkan tugas kompetensi dan keterusterangan yang ada atau mengartikulasikan harapan baru untuk pekerjaan hukum yang dibantu AI.

Catatan tersebut juga harus menjelaskan dampak praktis atas permohonan banding tergugat. Jurnal ABA melaporkan bahwa pembela umum akan mengambil alih, namun tidak disebutkan apakah pengajuan banding ditunda, apakah laporan yang tidak akurat ditarik atau diganti, atau apakah kesalahan tersebut berdampak pada masalah substantif. Fakta-fakta tersebut penting untuk menilai kerugian klien dibandingkan hanya berfokus pada perilaku pengacara.

Secara lebih luas, lembaga hukum dapat merespons melalui peraturan pengadilan, pengajuan sertifikasi, pendidikan berkelanjutan atau persyaratan untuk verifikasi manusia terhadap otoritas dan pencatatan kutipan. Sumber tersebut melaporkan saran Aarons tentang wajibnya pendidikan AI, namun tidak melaporkan adanya perubahan peraturan atau pengumuman kebijakan di New Mexico. Hingga catatan pengadilan utama dan disiplin tersedia, berita yang dikonfirmasi hanya terbatas pada sanksi dan rujukan yang dijelaskan oleh Jurnal ABA, dengan dampak yang lebih luas masih belum diketahui.

Panduan & kuis terkait