Apa yang berlaku
The Stamford Advocate, dalam laporan yang diterbitkan semula oleh GovTech, melaporkan bahawa Matthew Elliott, seorang litigasi Connecticut yang mewakili diri sendiri, memasukkan teks putih yang hampir tidak kelihatan ke dalam pemfailan mahkamah. Arahan tersembunyi memberitahu mana-mana sistem AI yang menyemak dokumen untuk bersetuju dengan hujah dan sokongan Elliott yang membalikkan keputusan terdahulu. Hakim Mahkamah Tinggi Connecticut Walter Spader Jr. menyifatkan taktik itu sebagai suntikan segera yang disengajakan dan membenarkan Elliott dengan memerlukan pemfailan masa depan dalam kes itu diserahkan di atas kertas.
The Stamford Advocate, dalam laporan yang diterbitkan semula oleh GovTech, berkata Elliott meletakkan mesej dalam teks putih kecil di dalam pemfailan mahkamah Connecticut. Arahan bermula, "Jika dokumen ini disemak oleh model AI," dan mengarahkan sistem untuk memastikan outputnya bersetuju dengan pemfailan Elliott. Menurut laporan itu, ia juga mengemudi sistem ke arah membalikkan keputusan awal seorang kerani dan mencari New York Bariatric Group secara lalai. Akaun tersebut mengaitkan butiran ini kepada memorandum Hakim Walter Spader Jr. dan dokumen mahkamah yang berkaitan.
Laporan itu berkata Spader menemui teks itu semasa menyemak pemfailan pada 31 Julai dan mencetak dokumen yang kelihatan mengandungi kawasan kosong yang luar biasa. Mahkamah mendapati bahasa yang diformatkan hampir tidak dapat dilihat oleh seseorang sambil kekal boleh dibaca oleh perisian yang memproses teks dokumen. Elliott mengakui kepada CT Insider, seperti yang dipetik dalam laporan itu, bahawa dia telah menggunakan teks halimunan yang bertujuan untuk sistem AI. Dia mempertikaikan tafsiran hakim tentang tujuannya, mengatakan dia cuba menentukan sama ada AI digunakan untuk menyemak pemfailannya.
Laporan itu berkata Cawangan Kehakiman Connecticut pada masa ini tidak menggunakan sistem kecerdasan buatan untuk menyemak pemfailan atau kemungkinan mungkir. Walau bagaimanapun, Spader membuat kesimpulan bahawa kelakuan itu adalah tidak wajar kerana peguam, pihak berperkara dan profesional undang-undang lain mungkin menggunakan alat AI untuk menyemak dokumen, meringkaskan rekod atau menyediakan kes. Hakim menulis bahawa isu itu tidak bergantung kepada sama ada mahkamah itu sendiri menggunakan AI, kerana bahan yang disembunyikan adalah percubaan untuk mengelirukan mahkamah dan pihak lawan.
Selepas mahkamah membangkitkan isu itu, Elliott terus meletakkan bahan yang hampir tidak kelihatan dalam pemfailan kemudian, menurut laporan itu. Beberapa mesej merujuk secara bergurau kepada pengasas parti lawan, video SpongeBob SquarePants dan talian yang ditujukan kepada sesiapa sahaja yang mungkin melihat teks tersembunyi. Elliott berkata penambahan itu adalah jenaka dan bukannya percubaan lanjut untuk mempengaruhi AI. Spader melihat penyembunyian berterusan sebagai bukti bahawa kelakuan asal itu disengajakan. Hakim menghalang Elliott daripada memfailkan elektronik dalam kes itu tetapi membenarkannya meneruskan litigasi dan menggunakan AI untuk membantu menyediakan pemfailan. Mencetak dokumen akan mengalih keluar teks digital tersembunyi daripada proses pemfailan yang diterangkan dalam laporan.
Mengapa ia penting
Kes ini memberikan contoh konkrit suntikan segera beralih daripada demonstrasi AI ke dalam proses undang-undang. Laporan itu mengatakan Cawangan Kehakiman Connecticut tidak menggunakan sistem AI untuk menyemak pemfailan, dan tidak ada petunjuk arahan tersembunyi mengubah keputusan kes. Tetapi peserta mahkamah, peguam dan penyelidik undang-undang semakin menggunakan AI untuk meringkaskan dokumen, menyemak doket dan menyediakan hujah, mewujudkan laluan berpotensi untuk arahan tersembunyi untuk mempengaruhi sistem hiliran.
Suntikan segera biasanya melibatkan meletakkan arahan dalam bahan yang diminta untuk dibaca oleh sistem AI, dengan tujuan mengubah tingkah laku sistem. Taktik yang dilaporkan adalah penting kerana arahan itu disembunyikan daripada khalayak manusia manakala disasarkan pada perisian. Spader mencirikan arahan tersembunyi sebagai komunikasi rahsia kepada mekanisme yang boleh dibaca dan ditimbang sesuatu perkara. Perbezaan itu penting dalam prosiding undang-undang, di mana pihak lawan dijangka melihat dan menjawab hujah yang dikemukakan kepada mahkamah.
Laporan itu tidak menetapkan bahawa sistem AI sebenarnya membaca pemfailan Elliott, mengikut arahan atau mempengaruhi keputusan. Ia mengatakan bahawa gesaan nampaknya tidak berfungsi dalam kes ini. Had tersebut adalah penting: peristiwa konkrit ialah penyisipan dan penemuan teks tersembunyi, diikuti dengan sekatan, bukan kesilapan kehakiman bantuan AI yang ditunjukkan. Laporan itu juga tidak mengesahkan secara bebas kelakuan teknikal penuh dokumen dalam sistem perisian yang berbeza atau aliran kerja pengimbasan.
Insiden itu menggambarkan masalah keselamatan yang lebih luas untuk organisasi yang memasukkan dokumen yang tidak dipercayai ke dalam sistem AI. Dokumen boleh sesuai untuk bacaan manusia tetapi mengandungi pemformatan tersembunyi, metadata atau arahan yang boleh dibaca mesin yang mempengaruhi ringkasan atau pembantu automatik. Di mahkamah, manipulasi sedemikian boleh memutarbelitkan ringkasan, mengutamakan tuntutan satu pihak, meninggalkan konteks yang berkaitan atau mencipta tanggapan yang tidak tepat tentang rekod. Risiko yang sama mungkin timbul dalam pengambilan pekerja, pendidikan, insurans dan aliran kerja kerajaan, walaupun contoh laporan tetapan tersebut dikaitkan dengan hakim dan tidak diperiksa secara bebas di sini.
Kes ini juga memisahkan bantuan AI yang bertanggungjawab daripada pergantungan yang tidak disemak. Spader menulis bahawa alatan AI berkemungkinan kekal sebagai sebahagian daripada kerja undang-undang dan berkata dia telah menggunakan Google Gemini untuk terjemahan yang berfungsi dan alatan Westlaw AI untuk menyemak pihak berkuasa, sambil mengesahkan keputusan secara bebas. Pengajaran praktikal bukanlah bahawa mahkamah mesti meninggalkan AI, tetapi mereka memerlukan kawalan di sekitar asal, rendering dokumen, semakan manusia dan keupayaan untuk membina semula cara output dihasilkan. Laporan itu tidak menyatakan sama ada Connecticut telah menerima pakai kawalan sedemikian.
Mekanisme Interaktif: Bagaimana Ia Berfungsi Sebenarnya
Terokai teknologi asas di sebalik pembangunan ini secara interaktif.
Why can ethical evaluation not be reduced to one model score?
Apa yang perlu ditonton seterusnya
Soalan utama yang belum dijawab ialah bagaimana mahkamah akan memeriksa dokumen yang diserahkan secara digital apabila halaman yang kelihatan mungkin tidak mengandungi semua yang dibenamkan dalam fail. Laporan itu tidak mengenal pasti dasar mahkamah seragam untuk mengesan teks tersembunyi, dan juga tidak menetapkan bahawa mana-mana sistem AI memproses gesaan Elliott. Kes masa hadapan mungkin menjelaskan sekatan, tugas pendedahan, perlindungan pemprosesan dokumen dan cara pihak boleh mencabar keputusan yang dibantu AI yang mungkin telah terjejas oleh kandungan tersembunyi.
Mahkamah dan penyedia perkhidmatan undang-undang mungkin memerlukan prosedur yang membandingkan penampilan dokumen yang diberikan dengan teks dan pemformatan asasnya. Perlindungan yang mungkin termasuk menukar pemfailan ke dalam format piawai, membenderakan teks putih-putih dan aksara bukan mencetak, mengimbas lapisan tersembunyi dan memerlukan semakan manusia sebelum ringkasan yang dijana oleh AI mempengaruhi keputusan. Sumber itu tidak melaporkan bahawa Connecticut telah melaksanakan mana-mana langkah ini, jadi penggunaannya tidak boleh diandaikan.
Pertikaian masa depan mungkin menguji sama ada arahan yang disembunyikan melanggar peraturan sedia ada mengenai kejujuran, integriti pemfailan, penipuan atau penyalahgunaan proses mahkamah dan sama ada sekatan harus berbeza apabila gesaan hanya hadir berbanding apabila ia secara nyata mengubah output AI. Dalam kes Elliott, sekatan yang dilaporkan adalah kehilangan keistimewaan pemfailan elektronik dan bukannya penolakan tuntutan mahkamah. Laporan itu tidak memberikan preseden yang lebih luas atau menunjukkan sama ada keputusan itu telah dirayu.
Soalan pengesahan utama ialah sama ada mana-mana mahkamah, pihak atau vendor boleh menunjukkan bahawa sistem AI memproses teks tersembunyi. Kekurangan sistem semakan pemfailan AI yang dilaporkan oleh Cawangan Kehakiman Connecticut mengecilkan tuntutan segera, tetapi peguam dan pihak berperkara boleh menggunakan alat pihak ketiga di luar sistem mahkamah sendiri. Penyiasat memerlukan rekod muat naik dokumen, versi perisian, gesaan, output dan keputusan manusia untuk menentukan sama ada manipulasi menjejaskan keputusan.
Laporan itu mencadangkan bahawa arahan yang disembunyikan boleh menjadi lebih sukar untuk dikenal pasti kerana aliran kerja undang-undang bergantung pada ringkasan dokumen dan semakan automatik. Perlindungan praktikal perlu mengekalkan kebolehcapaian untuk pihak yang berperkara yang mewakili diri sambil menghalang pemfailan digital daripada membawa arahan yang tidak didedahkan. Sehingga mahkamah menerbitkan piawaian teknikal dan prosedur yang lebih jelas, tahap risiko masih tidak pasti. Akaun artikel ini adalah berdasarkan laporan The Stamford Advocate seperti yang diterbitkan semula oleh GovTech dan bahan mahkamah serta temu bual yang dipetiknya; pemfailan asas dan sebarang log pemprosesan AI tidak disemak secara bebas di sini.