Apa yang berlaku
Bloomberg melaporkan bahawa Ketua Pegawai Eksekutif Anthropic Dario Amodei menggesa industri AI untuk memperlahankan pembangunan model tercanggihnya dan berkata Anthropic akan melaksanakan langkah keselamatan tambahan, termasuk penilai pihak ketiga. Bloomberg juga melaporkan bahawa pemimpin yang dikaitkan dengan OpenAI dan xAI telah meminta untuk memperlahankan pembangunan AI. Artikel itu tidak menetapkan secara bebas skop, masa atau kebolehkuatkuasaan cadangan ini.
Bloomberg melaporkan bahawa Ketua Pegawai Eksekutif Anthropic Dario Amodei menerbitkan catatan blog yang panjang pada 12 September yang menyeru "pergerakan menurun" industri yang lebih luas dalam kadar peningkatan model AI lanjutan. Menurut Bloomberg, Amodei memetik risiko yang semakin meningkat daripada teknologi itu dan berkata Anthropic akan memperkenalkan langkah keselamatan baharu, termasuk penggunaan penilai pihak ketiga.
Laporan Bloomberg juga merangka kenyataan itu bersama-sama panggilan daripada pemimpin teknologi lain untuk memperlahankan pembangunan AI sempadan, termasuk Ketua Pegawai Eksekutif OpenAI Sam Altman dan Elon Musk. Sumber itu tidak memberikan maklumat terperinci tentang cadangan pemimpin tersebut dalam artikel itu sendiri di luar panggilan yang dilaporkan untuk kadar yang lebih perlahan.
Sumbernya adalah laporan sekunder. Kewujudan dan perkataan cadangan Anthropic dikaitkan di sini dengan akaun Bloomberg dan siaran yang dipautkan seperti yang diterangkan dalam akaun itu; mereka belum disahkan secara bebas untuk penilaian ini. Bloomberg tidak menyatakan bila proses penilaian baharu Anthropic akan bermula, sistem mana yang akan dilindungi, siapa yang layak sebagai penilai, atau sama ada syarikat akan menerbitkan keputusan.
Butiran sumber: bloomberg.com ↗
Mengapa ia penting
Kadar pembangunan yang lebih perlahan boleh menjejaskan seberapa cepat sistem AI sempadan dilatih, dikeluarkan dan digunakan, manakala penilaian bebas boleh memberikan penelitian tambahan terhadap tuntutan keselamatan. Kepentingan bergantung pada sama ada panggilan ini menjadi komitmen khusus dan boleh diukur yang diterima pakai merentas syarikat pesaing. Bloomberg melaporkan cadangan dan rasionalnya yang dinyatakan, tetapi sumber itu tidak memberikan bukti bebas bahawa pembangunan telah perlahan atau perlindungan yang dicadangkan beroperasi dengan berkesan.
Cadangan itu menangani masalah tadbir urus pusat dalam AI lanjutan: syarikat yang bersaing untuk menambah baik sistem yang semakin berkebolehan mungkin menghadapi tekanan untuk melepaskan atau meningkatkannya sebelum ujian keselamatan matang. Penilai bebas boleh menambah penelitian di luar ujian syarikat sendiri, tetapi nilai mereka akan bergantung pada akses kepada sistem yang berkaitan, perlindungan daripada konflik kepentingan dan keupayaan untuk melaporkan penemuan yang bermakna.
Kelembapan sukarela akan mempunyai kepentingan praktikal hanya jika ia menghasilkan perubahan yang boleh diperhatikan dalam jadual latihan, ambang penggunaan atau keputusan pelepasan. Sumber itu tidak melaporkan jeda, perjanjian industri yang mengikat, keperluan kerajaan atau perubahan dalam ketersediaan mana-mana produk AI. Ia juga tidak menetapkan bahawa langkah yang dicadangkan akan mengurangkan risiko tertentu.
Bagi pengguna dan organisasi, implikasi praktikal serta-merta ialah ketidakpastian dan bukannya perubahan produk yang diketahui. Bloomberg tidak melaporkan syarat akses baharu, harga atau sekatan. Kesan potensi utama adalah pada keluaran model masa hadapan dan bukti yang disediakan oleh syarikat sebelum menggunakannya.
Mekanisme Interaktif: Bagaimana Ia Berfungsi Sebenarnya
Terokai teknologi asas di sebalik pembangunan ini secara interaktif.
Why can ethical evaluation not be reduced to one model score?
Apa yang perlu ditonton seterusnya
Perhatikan garis masa yang konkrit, definisi model atau keupayaan yang akan diliputi, dan butiran tentang kebebasan dan kuasa penilai pihak ketiga. Ia juga penting untuk melihat sama ada pembangun AI lain menerima pakai komitmen yang setanding dan sama ada kerajaan atau pelanggan mencipta insentif untuk pematuhan. Bloomberg tidak melaporkan sebarang perubahan kepada akses pengguna, ketersediaan produk atau harga.
Butiran penting seterusnya ialah skop dan masa komitmen Anthropic: model mana yang akan dinilai, sama ada penilai berada di luar Anthropic, maklumat apa yang boleh mereka periksa dan sama ada penemuan mereka akan diterbitkan. Tiada syarat ini dinyatakan dalam sumber.
Masih tidak diketahui sama ada OpenAI, xAI atau pembangun utama lain akan membuat komitmen yang setanding. Piawaian yang luas dan diselaraskan boleh mempunyai lebih banyak kesan daripada kenyataan berasingan, tetapi Bloomberg tidak melaporkan perjanjian sedemikian.
Perhatikan bukti pelaksanaan, seperti keluaran tertunda, laporan penilaian baharu, dasar penggunaan yang disemak atau penjelasan awam tentang cara penemuan keselamatan mempengaruhi keputusan pelancaran. Sumber itu tidak memberikan bukti lagi bahawa panggilan yang dilaporkan telah mengubah aktiviti pembangunan.