Apa yang berlaku
Breitbart melaporkan bahawa seorang wanita yang dikenal pasti sebagai Jane Doe menyaman xAI Elon Musk, yang menurut laporan itu kini sebahagian daripada SpaceX, mendakwa bahawa Grok telah dilatih mengenai bahan penderaan seksual kanak-kanak yang menggambarkan dirinya. Laporan itu mengatakan tuntutan mahkamah itu melibatkan penyalahgunaan imej yang dicipta semasa Doe masih prasekolah dan kemudian dijejaki menggunakan cincang imej.
Breitbart melaporkan bahawa Jane Doe memfailkan saman tindakan kelas yang dicadangkan terhadap xAI Elon Musk, mendakwa bahawa syarikat itu melatih chatbot Groknya mengenai bahan penderaan seksual kanak-kanak yang menggambarkan dirinya. Menurut laporan itu, penderaan asas berlaku semasa Doe masih kanak-kanak prasekolah pada awal 2000-an, apabila lelaki dewasa menghasilkan imej yang kemudiannya diedarkan dalam talian. Laporan itu mengatakan imej itu telah dicincang oleh Pusat Kebangsaan untuk Kanak-kanak Hilang dan Dieksploitasi dan Pusat Perlindungan Kanak-Kanak Kanada, membolehkan perkhidmatan mengenal pasti salinan apabila ia muncul semula.
Menurut akaun Breitbart mengenai aduan itu, Pusat Perlindungan Kanak-Kanak Kanada memberitahu Doe bahawa CSAM yang dijana AI yang menggambarkannya telah muncul di xAI. Aduan itu, seperti yang dipetik dan diringkaskan oleh Breitbart, mendakwa bahawa nilai cincang yang diketahui dikaitkan dengan imej yang menggambarkan Doe adalah sebahagian daripada set data yang digunakan oleh xAI. Laporan itu juga mengatakan aduan itu mengaitkan kelakuan yang didakwa itu kepada perbincangan dalam talian tentang mewujudkan CSAM yang dijana AI yang menggambarkan mangsa yang diketahui terselamat. Ini adalah dakwaan dalam litigasi, bukan penemuan yang ditubuhkan oleh mahkamah.
Breitbart melaporkan bahawa aduan itu mendakwa xAI menyimpan imej yang dijana oleh Grok dan menggunakannya semula untuk melatih atau melatih model tersebut. Artikel itu juga mengatakan syarat perkhidmatan Grok menganggap siaran awam pada X dan output Grok sendiri sebagai data latihan secara lalai. Aduan itu berhujah bahawa ini boleh membenarkan bahan kesat disiarkan secara terbuka, atau dihasilkan oleh sistem, memasuki saluran latihan dan mempengaruhi output kemudian. Sumber itu tidak memberikan bukti teknikal yang disahkan secara bebas yang menunjukkan dengan tepat bagaimana mana-mana imej tertentu mempengaruhi Grok.
Laporan itu mengatakan xAI menapis bahan ganas daripada data latihan tetapi syaratnya tidak secara khusus mengecualikan CSAM, imejan intim tanpa persetujuan atau bahan seksual lain. Tuntutan Doe menuduh xAI melanggar undang-undang pornografi kanak-kanak persekutuan dan Undang-undang Masha. Breitbart melaporkan bahawa saman itu menuntut ganti rugi untuk mangsa yang boleh menunjukkan bahawa Grok menjana CSAM berdasarkan foto sebenar mereka, serta perintah yang memerlukan xAI untuk memusnahkan CSAM yang dijana atau berkaitan latihan dan menghalang generasi akan datang. Sumber itu tidak mengatakan bahawa mana-mana mahkamah telah memberikan permintaan tersebut.
Butiran sumber: breitbart.com ↗
Mengapa ia penting
Jika dakwaan itu dibuktikan, kes itu boleh menguji cara syarikat AI mengendalikan bahan penyalahgunaan yang diketahui dalam data latihan, output yang dihasilkan dan kandungan yang dimuat naik pengguna. Ia juga boleh menjelaskan kewajipan undang-undang yang dikenakan apabila model menghasilkan semula atau mengubah bahan yang terikat kepada mangsa yang dikenal pasti.
Dakwaan itu melibatkan masalah utama dalam keselamatan AI generatif: model boleh dipengaruhi oleh bahan berbahaya sebelum syarikat menemui atau mengalih keluar fail asas. Breitbart melaporkan bahawa aduan itu berpendapat bahawa memadamkan imej daripada sumber awam mungkin tidak menghilangkan pengaruhnya daripada model yang sudah terlatih. Perkara teknikal itu dibentangkan sebagai tuntutan dalam pemfailan; sumber tidak menentukan sama ada Grok mengekalkan, menghafal atau mengeluarkan semula mana-mana imej tertentu melalui mekanisme yang diterangkan.
CSAM yang dikenali biasanya dijejaki dengan cincangan supaya platform boleh mengesan salinan tanpa mengedarkan bahan untuk semakan berulang kali. Laporan itu mengatakan aduan itu mendakwa bahawa imej dengan nilai cincang yang diketahui telah lama digunakan dalam set data xAI. Jika disahkan, itu akan menimbulkan persoalan tentang sama ada sistem pengesanan sedia ada digunakan semasa pengumpulan data, sama ada pengecualian atau jurang wujud dalam saluran paip data dan sama ada output yang dijana telah diimbas dan dialih keluar secara berasingan.
Kes ini mungkin mempunyai implikasi di luar xAI kerana banyak sistem generatif menggabungkan data web berskala besar, kandungan pengguna dan bahan yang dijana model. Breitbart memetik kajian awal yang melibatkan indeks imej LAION yang mengenal pasti lebih daripada 3,200 imej yang disyaki penderaan kanak-kanak dalam pangkalan data AI. Contoh awal itu ialah latar belakang yang dilaporkan oleh Breitbart, bukan bukti bahawa Grok menggunakan bahan yang sama atau semua imej yang disyaki telah disahkan sebagai CSAM.
Tuntutan undang-undang juga meletakkan syarat penggunaan data di bawah penelitian. Jika siaran awam dan output model digunakan untuk latihan secara lalai, pengguna dan yang terselamat mungkin mempunyai kawalan praktikal terhad ke atas cara bahan berbahaya disalin, disimpan atau digunakan semula. Sumber itu tidak menetapkan cara xAI mentafsir istilahnya dalam kes ini, sama ada ia telah mengubahnya, apa yang melindungi ia terpakai pada CSAM, atau sama ada imej yang dikatakan telah diserap dengan sengaja, tidak sengaja atau melalui set data pihak ketiga.
Mekanisme Interaktif: Bagaimana Ia Berfungsi Sebenarnya
Terokai teknologi asas di sebalik pembangunan ini secara interaktif.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Apa yang perlu ditonton seterusnya
Soalan utama ialah sama ada tuntutan teknikal aduan boleh disokong, sama ada xAI membalas atau membantah dakwaan dan sama ada mahkamah memerintahkan pemeliharaan, pemadaman, penapisan atau perubahan lain kepada Grok. Kes ini juga mungkin menarik perhatian kepada syarat penggunaan data lalai untuk siaran awam dan output model.
Maklum balas daripada xAI adalah penting, termasuk sama ada syarikat itu menafikan bahawa imej tersebut memasuki data latihan Grok, mempertikaikan dakwaan hubungan antara output Grok dan imej sebenar Doe, atau menerangkan sebarang penyiasatan dan pemulihan. Laporan Breitbart tidak termasuk respons daripada xAI dan tiada audit teknikal bebas dipetik yang mengesahkan akaun aduan.
Pemfailan dan keputusan mahkamah harus menjelaskan bukti yang plaintif mesti sediakan untuk menyambungkan bahan yang dijana kepada imej mangsa yang terselamat dan untuk membuktikan pengetahuan atau kelakuan xAI. Sumber itu berkata saman itu dicadangkan sebagai tindakan kelas, tetapi ia tidak menentukan sama ada kelas itu akan diperakui, sama ada tuntutan itu akan bertahan dalam usul awal, atau sama ada mahkamah telah membuat penemuan tentang liabiliti.
Perlindungan praktikal yang perlu diperhatikan termasuk pemadanan cincang semasa pengingesan set data, menyekat gesaan dan output yang melibatkan kanak-kanak sebenar atau mangsa yang dikenali, dasar pengekalan dan pemadaman untuk imej yang dijana, dan kawalan untuk menggunakan output model sebagai data latihan. Laporan itu tidak menyatakan yang mana antara langkah ini xAI beroperasi pada masa ini atau sama ada ada yang telah diubah sejak pemfailan.
Pemulihan yang diminta juga boleh menjejaskan dasar kandungan seksual Grok yang lebih luas. Breitbart melaporkan bahawa aduan itu meminta sekatan yang boleh meliputi imejan intim tanpa persetujuan dan output seksual yang lain, termasuk bahan artikel yang dikaitkan dengan keupayaan NSFW yang dipromosikan oleh Grok. Masih tidak diketahui sama ada mahkamah akan mengenakan sekatan yang begitu luas, sama ada xAI akan menerima pakainya secara sukarela, atau bagaimana sebarang perintah akan dikuatkuasakan merentas kandungan yang dijana dan sistem latihan.