The Guardian mendapati petikan yang dijana AI memasuki pertanyaan parlimen Australia

Apa yang berlaku

The Guardian melaporkan bahawa penyerahan siasatan parlimen Australia dipengaruhi oleh maklumat salah yang dijana oleh AI, termasuk kajian ciptaan dan petikan salah yang dikaitkan dengan ahli akademik dan pengarang sebenar. Analisisnya mengenal pasti sekurang-kurangnya 39 penyerahan yang mengandungi rujukan yang nampaknya tidak wujud, manakala lebih daripada 100 kertas kerja termasuk teg URL ChatGPT dalam pautan rujukan.

The Guardian melaporkan bahawa berpuluh-puluh penyerahan merentas spektrum politik kepada pertanyaan parlimen semasa Australia mengandungi rujukan yang nampaknya dihasilkan atau diubah oleh model bahasa yang besar. Kesilapan yang dilaporkan termasuk kajian ciptaan, artikel yang tidak wujud, butiran halaman yang salah dan penyelidik sebenar yang dikaitkan dengan kerja yang tidak mereka hasilkan. Penyerahan itu meliputi bidang dasar termasuk keganasan keluarga, bunuh diri, ketidaksamaan perumahan dan maklumat salah iklim.

Laporan itu menerangkan penyerahan kepada siasatan keganasan keluarga dan bunuh diri yang mengaitkan rujukan yang tidak wujud dan penemuan penyelidikan yang salah kepada Divna Haslam, seorang profesor bersekutu Universiti Queensland dan ahli psikologi klinikal. Haslam memberitahu Guardian bahawa petikan itu kelihatan cukup masuk akal untuk mengelirukan seseorang yang hanya menjalankan semakan sepintas lalu. Organisasi penyerahan, Drilldown Reports, berkata ia telah menggunakan AI dalam proses penyelidikannya dan kemudiannya mengenal pasti ralat, tetapi terlepas tarikh akhir untuk membetulkan penyerahan asal.

The Guardian mengatakan ia membina program tersuai yang mengekstrak rujukan daripada dokumen pertanyaan dan mencarinya terhadap Crossref dan Google Scholar. Ia juga menyemak pengecam objek digital jika tersedia dan dokumen yang disemak secara manual di mana sekurang-kurangnya 20% rujukan tidak dapat dipadankan. Angka yang terhasil ialah sekurang-kurangnya 39 penyerahan dengan rujukan yang nampaknya berhalusinasi. The Guardian mencirikan nombor itu sebagai konservatif kerana kaedah itu hanya dapat mengesan ralat dalam dokumen yang mengandungi rujukan, bukan teks tidak disokong yang dihasilkan tanpa petikan.

Siasatan juga menemui lebih daripada 100 kertas yang mengandungi tag URL ChatGPT dalam pautan rujukan. The Guardian memberi amaran bahawa teg sedemikian tidak membuktikan seseorang menggunakan ChatGPT secara langsung, kerana bahan mungkin telah disalin daripada sumber pihak ketiga. Ia juga mengatakan petikan yang tidak sepadan boleh menunjukkan penggunaan AI tetapi tidak menetapkannya dalam setiap kes. Oleh itu, laporan itu membentangkan penemuannya sebagai bukti ralat yang dijana AI atau bantuan AI yang jelas, bukan sebagai ukuran muktamad bagi semua penggunaan AI dalam penyerahan parlimen.

Butiran sumber: theguardian.com ↗

Mengapa ia penting

Siasatan parlimen bertujuan untuk memberikan bukti kepada penggubal undang-undang daripada pakar, organisasi dan orang awam. Jika petikan rekaan memasuki proses itu dan dianggap sebagai boleh dipercayai, keputusan boleh berdasarkan penyelidikan yang tidak wujud dan keyakinan orang ramai terhadap institusi demokrasi boleh menjadi lemah.

Penyerahan siasatan parlimen boleh membentuk cara jawatankuasa memahami masalah awam dan menilai undang-undang atau program yang dicadangkan. The Guardian melaporkan bahawa beberapa laporan jawatankuasa memetik penyerahan yang mengandungi rujukan yang nampaknya direka-reka. Itu mewujudkan risiko bahawa tuntutan yang tidak disokong boleh menambah berat institusi hanya kerana ia telah memasuki proses pengumpulan bukti rasmi.

Kemudaratan praktikal tidak terhad kepada satu nota kaki yang salah. Penyelidik yang dipetik oleh Guardian berkata petikan rekaan boleh memutuskan rantaian antara tuntutan dasar dan bukti yang kononnya menyokongnya. Dalam bidang seperti keganasan rumah tangga, kesihatan, imigresen dan dasar iklim, keputusan berdasarkan kajian yang tidak wujud boleh menyelewengkan perhatian, memesongkan perbahasan atau menjejaskan perlindungan untuk orang yang terjejas. Sumber itu tidak menetapkan bahawa sebarang dasar Australia khusus telah digubal kerana petikan halusinasi, jadi akibat itu kekal sebagai risiko dan bukannya hasil yang ditunjukkan.

Episod ini juga menggambarkan gelung maklum balas yang melibatkan AI generatif dan sistem carian. The Guardian melaporkan bahawa ringkasan AI Google kadangkala menganggap rujukan palsu sebagai tulen, manakala sistem ChatGPT dan Google boleh memetik penyerahan pertanyaan yang mengandungi ralat itu. Itu boleh membuat dokumen yang tidak tepat kelihatan disahkan secara bebas walaupun kajian asas tidak wujud. Laporan itu tidak secara bebas menguji julat penuh keadaan di mana sistem ini menghasilkan ringkasan sedemikian, tetapi ia mendokumenkan risiko melalui contoh yang diperiksa.

Isu institusi yang lebih luas ialah akauntabiliti. Panduan Senat Australia dilaporkan memberi amaran kepada pengirim bahawa AI boleh menjejaskan kualiti maklumat dan ketepatan tetap menjadi tanggungjawab pengirim. Pengerusi jawatankuasa yang dipetik oleh Guardian berkata jawatankuasa menerima bahan yang berbeza-beza kualiti dan mesti menyoal siasat bukti semasa proses siasatan. Sumber itu terbuka sama ada jawatankuasa pada masa ini mempunyai kakitangan, alat teknikal atau prosedur yang diperlukan untuk melakukan penelitian itu secara konsisten.

Apa yang perlu ditonton seterusnya

Soalan segera ialah sama ada jawatankuasa parlimen akan memperkenalkan peraturan pengesahan atau pendedahan yang lebih kukuh, cara penyampai membetulkan bahan yang telah difailkan, dan sama ada agensi kerajaan mempunyai sumber yang mencukupi untuk menyemak rujukan. The Guardian juga meminta maklum balas daripada OpenAI dan Google tentang peranan mereka dalam mengukuhkan rujukan yang tidak tepat melalui sistem AI dan ringkasan carian.

Perhatikan perubahan rasmi kepada panduan penyerahan dan amalan semakan jawatankuasa. The Guardian melaporkan bahawa Christian Downie, seorang profesor Universiti Kebangsaan Australia, meminta garis panduan baharu yang akan menggalakkan kebenaran sambil mengekalkan proses siasatan terbuka. Langkah-langkah yang mungkin termasuk pendedahan yang lebih jelas tentang bantuan AI, semakan mandatori untuk sumber yang disebut, tingkap pembetulan selepas pemfailan, atau keperluan yang lebih kukuh untuk organisasi yang menyerahkan bukti berasaskan penyelidikan. Sumber itu tidak mengatakan bahawa sebarang pembaharuan sebegitu masih belum diterima pakai.

Tonton sama ada penyelidik dan pengirim yang terjejas mendapatkan pembetulan atau penjelasan awam. The Guardian melaporkan bahawa Nicole Gurran dikaitkan dengan kerja yang tidak wujud dan Margaret Simons nampaknya dikaitkan dengan artikel yang tidak wujud. Drilldown Reports berkata ia telah menemui kesilapan dalam penyerahan susulan, manakala Rangkaian Tenaga Rasional Kebangsaan tidak menjawab permintaan Guardian untuk mendapatkan komen. Status setiap penyerahan yang dipertikaikan dan sama ada jawatankuasa meminda laporan mereka kekal sebagai persoalan penting yang belum diselesaikan.

Perhatikan bukti tentang skala dan pengedaran masalah melangkaui dokumen dengan rujukan rasmi. Program Guardian tidak dapat mengenal pasti prosa jana AI yang tidak mengandungi petikan, dan ia memberi amaran bahawa angka 39 penyerahannya meremehkan penggunaan AI. Pada masa yang sama, pengesan AI komersial boleh menghasilkan positif palsu, jadi mana-mana sistem penguatkuasaan masa hadapan perlu membezakan dakwaan yang tidak disokong daripada kegagalan petikan yang boleh disahkan.

Tonton cara OpenAI dan Google bertindak balas terhadap gelung maklum balas yang dilaporkan. OpenAI memberitahu Guardian bahawa pengurangan halusinasi kekal sebagai bidang penyelidikan yang berterusan dan menasihatkan pengguna untuk menganggap ChatGPT sebagai draf pertama dan bukannya sumber akhir, mengesahkan petikan, data dan rujukan luaran. Google berkata Gambaran Keseluruhan AInya bertujuan untuk memadankan kandungan web dengan istilah pertanyaan, serupa dengan carian tradisional. Respons tersebut tidak menyelesaikan sama ada ringkasan AI harus muncul atau menghasilkan semula tuntutan daripada dokumen yang mengandungi rujukan rekaan, menjadikan keberkesanan perlindungan sedia ada tidak pasti.

Panduan & kuiz berkaitan