Apa yang berlaku
Cohere berhujah bahawa peta jalan yang dikaitkan dengan Ketua Pegawai Eksekutif Anthropic Dario Amodei secara tidak wajar meminta kebenaran kerajaan untuk makmal AI utama untuk menyelaraskan standard keselamatan dan had pembangunan. Jawatan itu mencadangkan pelaporan insiden, kebolehmerhatian, perlindungan khusus penempatan dan penyertaan yang lebih luas dalam pembuatan peraturan.
Dalam sumber itu, Cohere berhujah bahawa sekumpulan kecil syarikat AI Silicon Valley yang dominan tidak seharusnya dibenarkan untuk menentukan piawaian keselamatan untuk industri yang lebih luas sambil juga menentukan kadar pembangunan teknologi. Ia mencirikan pelan hala tuju Anthropic, yang dikaitkan dengan Ketua Pegawai Eksekutif Dario Amodei dan digambarkan seperti yang diterbitkan minggu itu, sebagai mencari penepian antitrust yang sempit supaya makmal yang bersaing boleh menyelaraskan standard dan had pembangunan yang dikongsi.
Siaran itu mengatakan Cohere menyokong semakan bebas sistem AI berkebolehan tinggi tetapi mempertikaikan siapa yang akan menulis piawaian, mengawasi penyemak dan memutuskan pemaju dan pihak berkepentingan awam yang mengambil bahagian. Ia berhujah bahawa rangka kerja yang berpusat pada ambang pengiraan, skala model besar dan makmal sempadan boleh mengabaikan risiko daripada sistem yang lebih kecil, ejen yang menggunakan alatan, kumpulan ejen yang diselaraskan dan model yang digunakan dalam persekitaran yang sensitif.
Cohere mencadangkan pendekatan berasaskan risiko yang tertumpu pada pelaporan insiden serius, menguji mod kegagalan yang diketahui, pemerhatian masa ujian atau pembalakan, dan sistem pengasingan yang disambungkan kepada infrastruktur kritikal. Ia juga berpendapat bahawa perlindungan harus bergantung pada apa yang sistem boleh lakukan dan apa yang boleh diakses, dan bukannya hanya pada saiz syarikat yang membinanya. Ini adalah cadangan dalam sumber, bukan keperluan kerajaan yang dilaporkan.
Sumber itu juga memautkan hujah dasar kepada keutamaan komersial Cohere untuk sistem yang digunakan pada infrastruktur yang dikawal oleh pelanggan atau kerajaan. Ia mengatakan kepelbagaian teknologi dan penggunaan tempatan boleh mengurangkan pergantungan pada satu pembekal, sambil mengakui bahawa Cohere sendiri tidak seharusnya menjadi pembuat peraturan tunggal.
Mengapa ia penting
Pertikaian itu membimbangkan siapa yang akan menentukan perlindungan yang mengikat untuk sistem AI yang semakin berkebolehan dan sama ada peraturan keselamatan boleh mengukuhkan kuasa pasaran makmal yang sedia ada. Kedudukan Cohere berminat secara komersial, tetapi ia menimbulkan persoalan praktikal tentang akauntabiliti, persaingan, penilaian bebas dan perlindungan untuk AI yang digunakan di hospital, rangkaian kewangan, infrastruktur kritikal dan sistem kerajaan. Sumber itu tidak menetapkan bahawa sebarang penepian telah diberikan atau cadangannya telah diterima pakai.
Jika penerangan sumber adalah tepat, susunan yang dicadangkan akan menimbulkan ketegangan antara penyelarasan untuk keselamatan dan undang-undang persaingan. Piawaian yang dikongsi boleh mengurangkan kerja pendua dan menjadikan risiko lebih mudah untuk dibandingkan, tetapi peraturan yang direka terutamanya oleh pemaju penyandang juga boleh mengekalkan kelebihan mereka dan menjadikan andaian keselamatan dalaman mereka lalai dalam industri.
Sumber itu menyerlahkan soalan reka bentuk berbangkit: sama ada pengawasan harus dicetuskan oleh saiz model atau keperluan pengiraan, atau oleh keupayaan sistem, konteks penggunaan, alatan dan akses kepada infrastruktur dunia sebenar. Perbezaan itu penting kerana sistem yang kurang berkuasa masih boleh menyebabkan bahaya yang serius apabila disambungkan ke hospital, rangkaian pembayaran, utiliti atau data sensitif.
Hujah itu bukanlah bukti bebas bahawa cadangan Anthropic akan mewujudkan kartel, sistem keselamatan sedia ada gagal dalam cara yang diterangkan, atau penggunaan tempatan secara kategori lebih selamat. Itu adalah tuntutan dan pertimbangan yang dibuat oleh Cohere. Jawatan itu tidak memberikan respons kerajaan, analisis undang-undang, penilaian bebas atau bukti yang menunjukkan cara penggubal dasar akan melaksanakan alternatifnya.
Mekanisme Interaktif: Bagaimana Ia Berfungsi Sebenarnya
Terokai teknologi asas di sebalik pembangunan ini secara interaktif.
Why can ethical evaluation not be reduced to one model score?
Apa yang perlu ditonton seterusnya
Perkembangan utama ialah sama ada kerajaan secara rasmi mempertimbangkan pengecualian antitrust yang dicadangkan, sama ada Anthropic atau makmal lain bertindak balas, dan sama ada penggubal dasar mengejar ambang bersaiz syarikat atau berasaskan pengiraan. Perhatikan juga peraturan konkrit mengenai pelaporan insiden, pembalakan, pengasingan penempatan, ujian bebas dan penyertaan oleh pemaju yang lebih kecil, penyelidik, masyarakat sivil dan kerajaan yang terjejas.
Tiada penepian antitrust, piawaian mengikat, perundingan awam, jadual waktu pelaksanaan atau penetapan harga dan syarat akses didokumenkan dalam sumber. Juga tidak jelas kerajaan mana yang mempertimbangkan cadangan itu, sama ada Anthropic telah menyerahkannya secara rasmi kepada pengawal selia, dan sama ada makmal utama lain menyokongnya.
Pelaporan selanjutnya harus mengesahkan teks dan status peta jalan Anthropic, mengenal pasti syarikat dan pengawal selia yang terlibat, dan membandingkan cadangan dengan persaingan, keselamatan dan peraturan infrastruktur kritikal yang sedia ada. Maklum balas daripada Anthropic, pihak berkuasa persaingan, penilai bebas dan kumpulan masyarakat sivil akan menjelaskan sama ada perselisihan itu adalah mengenai penyelarasan undang-undang, ambang teknikal, tadbir urus atau model penggunaan pilihan Cohere.
Ujian praktikal ialah sama ada sebarang rangka kerja yang terhasil memerlukan kawalan yang boleh diukur: pendedahan insiden, kebebasan audit, pembalakan, pengawasan manusia, sekatan akses dan pengasingan daripada sistem kritikal. Ia juga penting sama ada makmal yang lebih kecil, pembangun sumber terbuka, penyelidik dan komuniti yang terjejas boleh mengambil bahagian dalam menetapkan dan mencabar keperluan tersebut.