PANDUAN Masyarakat

Rangka Kerja Keselamatan AI Frontier dan Dasar Penskalaan Bertanggungjawab

Rangka kerja keselamatan AI sempadan, seperti dasar penskalaan yang bertanggungjawab, ialah komitmen yang diterbitkan oleh makmal AI untuk menguji modelnya untuk keupayaan berbahaya.

Dengar panduan iniAI-diceritakan · ~3 min

Pada halaman ini4 minit membaca
  1. Gambaran keseluruhan
  2. Menyelam dalam
  3. Pelaksanaan Dunia Sebenar
  4. Masa Depan Rangka Kerja Keselamatan AI Hadapan dan Dasar Pemerkahan Bertanggungjawab
  5. Mempraktikkannya
  6. Teruskan Meneroka
  7. Soalan lazim

Gambaran keseluruhan

Jika suatu model melampaui ambang batas tertentu, makmal berjanji untuk menambah langkah keselamatan yang lebih kuat, atau untuk tidak melancarkan atau tidak melatih lagi sehingga langkah-langkah keselamatan tersebut dilaksanakan. Rangka kerja ini penting kerana ia merupakan cara utama model AI paling maju dikawal selia untuk risiko bencana, walaupun kebanyakan daripadanya bersifat sukarela dan ditulis oleh makmal itu sendiri.

Menyelam dalam

Anthropic published the first Responsible Scaling Policy in September 2023. It introduced AI Safety Levels (ASLs), loosely modeled on biosafety levels, where higher levels require stronger security and deployment safeguards. A later version, in October 2024, restated the policy in terms of capability thresholds and required safeguards and described the role of a Responsible Scaling Officer. OpenAI released its Preparedness Framework as a beta in December 2023. It scored risk in tracked categories, originally including CBRN threats, cybersecurity, persuasion and model autonomy. A 2025 revision reorganized it around High and Critical capability thresholds and dropped persuasion as a tracked category. Google DeepMind published its Frontier Safety Framework in May 2024 and has revised it since. It defines Critical Capability Levels (CCLs) that trigger response plans. At the AI Seoul Summit in May 2024, 16 companies signed the Frontier AI Safety Commitments. They agreed to publish safety frameworks, set thresholds for intolerable risk, and not develop or deploy a model if its risks could not be kept below those thresholds. Many frameworks were published before the Paris AI Action Summit in February 2025. Critics point to several weaknesses. Labs write their own thresholds and can revise them on their own. Wording such as "meaningful uplift" leaves room for interpretation. External verification is limited, and commercial competition gives labs an incentive to read results generously. A common misconception is that these frameworks are laws. Most are voluntary, although this is changing. California's SB 53 requires large frontier developers to publish such a framework, and the EU's General-Purpose AI Code of Practice, a voluntary route to showing compliance with the AI Act, asks signatories to adopt one.

Pelaksanaan Dunia Sebenar

Sebelum dikeluarkan, makmal menguji sama ada model baharu memberikan peningkatan bermakna kepada seseorang yang cuba memperoleh senjata biologi. Jika ia melepasi ambang, makmal menambah penapis penyalahgunaan dan keselamatan yang lebih ketat sebelum penggunaan.

Pada Mei 2025, Anthropic berkata ia telah mengaktifkan penggunaan ASL-3 dan perlindungan keselamatan untuk Claude Opus 4 sebagai langkah berjaga-jaga, kerana ia tidak dapat menolak bahawa model itu telah mencapai ambang keupayaan yang berkaitan.

Rangka Kerja Kesediaan OpenAI mengarahkan Kumpulan Penasihat Keselamatan untuk menyemak laporan keupayaan dan menasihati kepimpinan sama ada perlindungan adalah mencukupi sebelum dikeluarkan.

Makmal mengesan replikasi autonomi atau pecutan penyelidikan AI menjalankan penilaian agen. Ini menguji sama ada model boleh menyelesaikan tugasan yang panjang dan berbilang langkah tanpa bantuan manusia.

Masa Depan Rangka Kerja Keselamatan AI Hadapan dan Dasar Pemerkahan Bertanggungjawab

Rangka kerja bergerak daripada ikrar sukarela ke arah jangkaan pengawalseliaan. California kini memerlukan pembangun sempadan yang besar untuk menerbitkannya, Kod Amalan EU meminta penandatangan untuk menerima pakai mereka, dan lebih banyak bidang kuasa mungkin mengikutinya. Soalan terbuka termasuk siapa yang mengaudit pematuhan, cara ambang diseragamkan merentas makmal dan sama ada penilaian dapat mengikuti sistem agenik yang bertambah baik dengan pantas. Badan ujian bebas, termasuk institut AI kerajaan, mungkin mengambil peranan yang lebih besar dalam menyemak tuntutan makmal. Ketegangan tengah berkemungkinan akan kekal: makmal mereka bentuk peraturan yang mereka dinilai, yang menjadikan ketelusan dan penelitian luar penting.

Mempraktikkannya

Mengapa ia penting

  • Risiko dan keselamatan. Kemudaratan AI malapetaka dan setiap hari bergantung pada siapa yang memahami risiko dan siapa yang boleh bertindak.
  • Keputusan yang lebih jelas. Celik awam dan profesional membentuk sama ada dasar keselamatan yang kukuh adalah mungkin dari segi politik.
  • Memotong keterujaan. Penjelasan yang jelas mengurangkan tangkapan oleh gembar-gembur, PR makmal dan teater etika yang tidak jelas.

Berhati-hati untuk

  • Merawat risiko kewujudan sebagai sci-fi manakala sebatian keupayaan.
  • Mengelirukan keselamatan produk permukaan dengan penjajaran di bawah autonomi tinggi.
  • Meninggalkan khalayak bukan Inggeris dan bukan pakar dengan hanya sumber berkualiti rendah.

Langkah seterusnya

  1. Asingkan bahaya produk, penyalahgunaan dan kehilangan kawalan / risiko salah jajaran.
  2. Tanya apakah bukti yang akan mengubah pandangan anda tentang garis masa dan keterukan.
  3. Lebih suka sumber utama dan penilaian konkrit berbanding tuntutan pemasaran.
  4. Kenal pasti satu laluan tindakan: kerjaya, dasar, pembiayaan atau kemahiran — bukan sahaja kesedaran.

Teruskan Meneroka

Newsletter percuma

Dapatkan taklimat AI harian

Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.

Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.

Uji diri anda

Ambil kuiz Rangka Kerja Keselamatan AI Hadapan dan Dasar Pemerkahan Bertanggungjawab

Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.

Mulakan kuiz

Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma

Soalan lazim

Apakah Rangka Kerja Keselamatan AI Frontier dan Dasar Penskalaan Bertanggungjawab?

Rangka kerja keselamatan AI hadapan, seperti dasar pemerkahan bertanggungjawab, ialah komitmen yang diterbitkan oleh makmal AI untuk menguji modelnya bagi keupayaan berbahaya. Jika suatu model melampaui ambang batas tertentu, makmal berjanji untuk menambah langkah keselamatan yang lebih kuat, atau untuk tidak melancarkan atau tidak melatih lagi sehingga langkah-langkah keselamatan tersebut dilaksanakan. Rangka kerja ini penting kerana ia merupakan cara utama model AI paling maju dikawal selia untuk risiko bencana, walaupun kebanyakan daripadanya bersifat sukarela dan ditulis oleh makmal itu sendiri.

Apakah logik asas dasar penskalaan yang bertanggungjawab?

Rangka kerja ini dibina di atas komitmen jika-maka yang mengikat ambang keupayaan kepada perlindungan yang diperlukan.

Syarikat manakah yang memperkenalkan Tahap Keselamatan AI (ASL)?

Dasar Penskalaan Bertanggungjawab September 2023 Anthropic memperkenalkan ASL, dimodelkan secara longgar pada tahap biokeselamatan.

Apakah yang Google DeepMind panggil ambang dalam Rangka Kerja Keselamatan Frontier?

DeepMind menggunakan Tahap Keupayaan Kritikal (CCL), yang mencetuskan pelan tindak balas apabila ia dicapai.

Apakah yang dipersetujui oleh syarikat pada Sidang Kemuncak AI Seoul pada Mei 2024?

Komitmen Keselamatan AI Frontier adalah ikrar sukarela untuk menerbitkan rangka kerja dan tidak meneruskan jika risiko tidak dapat dikekalkan di bawah ambang.

Kategori manakah yang digugurkan oleh semakan Rangka Kerja Kesediaan 2025 OpenAI sebagai kategori yang dijejaki?

Semakan itu menyusun semula rangka kerja sekitar ambang Tinggi dan Kritikal dan mengalih keluar pujukan sebagai kategori yang dijejaki.