Apa yang berlaku
KOAT melaporkan bahawa Mahkamah Agung New Mexico mendapati peguam Santa Fe, Stephen Aarons menghina, mendendanya $5,000, merujuknya ke lembaga tatatertib dan menghalangnya daripada hadir di hadapan mahkamah buat sementara waktu. Aarons mengaku menggunakan ChatGPT semasa menyediakan ringkasan rayuan tetapi berkata dia tidak faham ia boleh mengada-adakan saksi, keterangan, petikan dan pihak berkuasa undang-undang yang munasabah.
KOAT melaporkan bahawa Mahkamah Agung New Mexico mendapati Aarons menghina selepas taklimat yang dikemukakannya dalam rayuan Oscar Renee Sandoval didapati mengandungi bahan yang direka oleh ChatGPT. Sandoval mengaku tidak bersalah membunuh pasangannya dan ibu kepada anak-anaknya, menurut laporan itu.
Mahkamah mendenda Aarons $5,000, merujuknya ke lembaga tatatertib dan menghalangnya daripada hadir di hadapan Mahkamah Agung sementara siasatan dan prosiding diteruskan. KOAT berkata mahkamah melihat kelakuan peguam itu sebagai menunjukkan kekurangan penyesalan dan keprihatinan terhadap anak guamnya.
Aarons mengakui menggunakan ChatGPT untuk menyediakan ringkasan dan mengakui bahawa dia gagal mengesahkan tuntutan fakta sebelum menandatangani dan memfailkannya. KOAT melaporkan bahawa dia berkata dia tidak menghargai bahawa ChatGPT boleh menjana saksi, keterangan, petikan dan pihak berkuasa yang kelihatan koheren tetapi rekaan.
Menurut KOAT, pemfailan itu termasuk keterangan palsu daripada saksi rekaan penuh yang dikenal pasti sebagai Pegawai Michelle Amarillo, Pegawai Sanchez, Manal Al-Jibury dan Teresa Marquez, serta keterangan palsu yang dikaitkan dengan saksi sebenar. KOAT berkata OpenAI tidak menjawab permintaan untuk mengulas pada masa penerbitan.
Akaun tersebut adalah berdasarkan laporan KOAT dan perihalannya mengenai pemfailan mahkamah. Pemfailan tersebut tidak diterbitkan semula dalam sumber yang dibekalkan, jadi butirannya tidak disahkan secara bebas di sini.
Mengapa ia penting
Kes ini menunjukkan akibat undang-undang yang konkrit apabila peguam menyerahkan output AI generatif yang tidak disahkan dalam rayuan jenayah. Ia juga menggambarkan bahawa tanggungjawab untuk pemfailan mahkamah kekal dengan peguam yang menandatanganinya, walaupun apabila bahan itu dihasilkan dengan alat AI. Insiden itu amat berbangkit kerana KOAT melaporkan bahawa bahan rekaan itu termasuk kedua-dua saksi rekaan sepenuhnya dan keterangan palsu yang dikaitkan dengan saksi sebenar.
Keputusan itu menjadikan risiko pemalsuan undang-undang yang dijana oleh AI ketara: ringkasan yang nampaknya koheren boleh memperkenalkan orang dan kenyataan ciptaan ke dalam prosiding yang melibatkan kebebasan seseorang. Sekatan yang dilaporkan juga mengukuhkan bahawa peguam mesti menyemak dan mengesahkan pemfailan sebelum menyerahkannya.
Ini bukan bukti bahawa ChatGPT sahaja menyebabkan keputusan undang-undang atau bahawa setiap penggunaan alat menghasilkan bahan rekaan. Ini adalah kegagalan khusus yang dilaporkan untuk mengesahkan tuntutan yang dijana AI dalam tetapan yang berisiko tinggi. Sumber tidak menyatakan versi ChatGPT atau peringkat akaun yang digunakan, dan ia tidak memberikan ujian bebas ke atas tingkah laku model.
Bagi mahkamah dan pengamal undang-undang, implikasi praktikalnya ialah penggubalan berbantukan AI memerlukan semakan peringkat sumber bagi setiap penegasan fakta, petikan dan kuasa. Kes ini juga boleh memaklumkan bimbingan profesional dan jangkaan disiplin, walaupun KOAT tidak melaporkan sebarang peraturan baru di seluruh negeri yang terhasil daripadanya.
Mekanisme Interaktif: Bagaimana Ia Berfungsi Sebenarnya
Terokai teknologi asas di sebalik pembangunan ini secara interaktif.
Why can ethical evaluation not be reduced to one model score?
Apa yang perlu ditonton seterusnya
Siasatan lembaga disiplin dan prosiding berkaitan akan menentukan sama ada Aarons menghadapi sekatan profesional tambahan. Bar sementara Mahkamah Agung New Mexico juga akan kekal berkuat kuasa sementara menunggu prosiding tersebut, menurut KOAT. Sumber itu tidak secara bebas menetapkan kandungan tepat pemfailan mahkamah, sejauh mana bahaya terhadap rayuan defendan, atau sama ada OpenAI akan bertindak balas.
Semakan lembaga tatatertib dan sebarang prosiding mahkamah selanjutnya boleh menjelaskan akibat profesional selepas denda $5,000 dan larangan hadir sementara.
Masih tidak diketahui daripada laporan yang dibekalkan sama ada rayuan defendan akan menerima remedi, sama ada bahan rekaan itu menjejaskan keputusan mahkamah, dan sama ada peserta lain dalam kes itu akan menghadapi akibat.
KOAT melaporkan bahawa OpenAI tidak menjawab permintaan untuk komen. Sumber itu juga tidak mengenal pasti sebarang perlindungan khusus, amaran atau perubahan produk daripada OpenAI yang berkaitan dengan kejadian itu.