Apa yang berlaku
Penghakiman dalam saman partition yang berjalan lama (O.S. No.4956/2011, Gayathri lwn Guru Reddy Raju S N) telah dimuat naik ke portal undang-undang awam Indian Kanoon dengan teks terbenam yang berbunyi seperti perbualan ChatGPT. Dokumen itu menunjukkan gesaan pengguna meminta AI membincangkan akibat senario wasiat, respons berbilang perenggan AI, pembetulan daripada pengguna dan respons AI yang disemak. Kedua-dua versi muncul secara verbatim dalam penghakiman, sebelum bahagian "Sebab" rasmi, yang sebaliknya mengandungi pemegang tempat. Teks yang dijana AI tidak dialih keluar sebelum pesanan ditandatangani dan diterbitkan secara digital.
Penghakiman, yang diumumkan pada 27 Januari 2026, telah dimuat naik ke Indian Kanoon, repositori awam keputusan mahkamah India. Pertengahan dokumen, selepas perintah operasi dan sebelum bahagian "Sebab", teks bertukar kepada format yang mencerminkan antara muka sembang, bermula dengan frasa "Sebut sahaja perkataan".
Gesaan tertanam meminta AI membincangkan akibat wasiat yang melibatkan isteri kedua yang masih hidup dan pembeli hartanah yang tidak dilaksanakan. AI bertindak balas dengan perbincangan undang-undang tentang "kepentingan hidup," diikuti dengan tawaran untuk menyepadukan alasan ke dalam perintah itu. Pembetulan seterusnya menukar premis kepada "warisan mutlak", mendorong perbincangan yang dijana AI baharu.
Kedua-dua blok yang dijana AI diulang kemudian dalam dokumen, dan bahagian "Sebab" rasmi hanya mengandungi aksara pemegang tempat, mencadangkan teks AI tidak dimaksudkan untuk penghakiman muktamad. Dokumen itu ditandatangani secara digital dan disediakan secara terbuka tanpa kandungan AI yang tidak diperlukan dialih keluar.
OfficeChai menyatakan bahawa ini bukanlah insiden pertama berkaitan AI di mahkamah India. Terdahulu pada tahun 2024, Mahkamah Agung menyerlahkan petikan yang dijana AI rekaan sebagai isu sistemik, dan hakim Mahkamah Tinggi Punjab dan Haryana telah berunding secara terbuka dengan ChatGPT untuk perundangan jaminan dalam kes pembunuhan 2023.
Butiran sumber: officechai.com ↗
Mengapa ia penting
Insiden itu menggambarkan bagaimana kandungan yang dijana AI secara tidak sengaja boleh menjadi sebahagian daripada rekod undang-undang rasmi, mendedahkan kelemahan prosedur dan potensi risiko bantuan AI yang tidak didedahkan dalam badan kehakiman. Mahkamah Agung India telah pun menandakan petikan rekaan AI sebagai "ancaman", dan beberapa mahkamah tinggi telah mengeluarkan dasar yang mengehadkan penggunaan AI kepada penyelidikan dan terjemahan. Kes Bengaluru ini menunjukkan bahawa walaupun tanpa pergantungan yang disengajakan pada AI untuk alasan undang-undang, kehadiran bahan yang digubal AI dalam perintah yang ditandatangani boleh menjejaskan keyakinan terhadap dokumen kehakiman, menimbulkan persoalan tentang akauntabiliti dan mendorong pengawasan yang lebih ketat terhadap alatan AI di mahkamah. Ia juga memberi isyarat kepada bidang kuasa lain bahawa perlindungan diperlukan untuk mengelakkan kemasukan keluaran AI secara tidak sengaja dalam pemfailan rasmi.
Kehadiran dorongan AI mentah dalam penghakiman yang ditandatangani menimbulkan kebimbangan tentang integriti dokumen undang-undang dan potensi pengaruh AI yang tidak didedahkan pada hasil kehakiman.
Ia menekankan keperluan untuk garis panduan prosedur yang jelas dan perlindungan teknikal—seperti alat pengesanan output AI atau pernyataan pendedahan mandatori—untuk memastikan bantuan AI tidak menjadi sebahagian daripada rekod rasmi secara tidak sengaja.
Insiden itu mungkin mendorong mahkamah India untuk mengetatkan dasar sedia ada yang pada masa ini membenarkan AI untuk penyelidikan dan terjemahan tetapi melarang penggunaannya untuk jaminan, hukuman atau keputusan muktamad, melanjutkan sekatan tersebut kepada peringkat penyediaan dan penggubalan dokumen.
Di peringkat antarabangsa, kes ini menambah bukti yang semakin meningkat bahawa integrasi AI dalam aliran kerja undang-undang boleh menghasilkan artifak yang tidak diingini, memaklumkan perbincangan peraturan perbandingan tentang tadbir urus AI dalam badan kehakiman.
Mekanisme Interaktif: Bagaimana Ia Berfungsi Sebenarnya
Terokai teknologi asas di sebalik pembangunan ini secara interaktif.
Why can ethical evaluation not be reduced to one model score?
Apa yang perlu ditonton seterusnya
Pemfailan mahkamah di India pada masa hadapan untuk artifak AI yang serupa, sebarang maklum balas rasmi atau penjelasan dasar daripada mahkamah Bengaluru atau Kementerian Undang-undang dan Keadilan, dan sama ada badan kehakiman India akan menerima pakai kawalan teknikal (mis., pengesanan output AI, pendedahan mandatori) untuk mengelakkan kesilapan tersebut. Di peringkat antarabangsa, lihat kajian perbandingan tentang kesilapan kehakiman berkaitan AI dan rangka kerja pengawalseliaan yang berpotensi.
Sama ada mahkamah Bengaluru atau pihak berkuasa kehakiman yang lebih tinggi mengeluarkan kenyataan rasmi atau tindakan pembetulan mengenai kemasukan teks AI secara tidak sengaja.
Potensi penggunaan perisian pengesanan output AI oleh mahkamah India untuk membenderakan dan mengalih keluar kandungan yang dijana AI sebelum dimuktamadkan.
Cadangan perundangan atau dasar daripada Kementerian Undang-undang dan Keadilan bertujuan untuk menyeragamkan protokol penggunaan AI merentas semua peringkat badan kehakiman.
Pelaporan susulan mengenai sebarang insiden serupa di mahkamah India lain atau dalam bidang kuasa lain, yang boleh menunjukkan isu sistemik yang lebih luas.