ต่อไปคำแนะนำต่อไป
กรอบการกำกับดูแลความปลอดภัย AI TC260 ของจีน
สังคม
คู่มือสังคม
A frontier AI safety framework, such as a responsible scaling policy, is a published commitment by an AI lab to test its models for dangerous capabilities.
ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min
If a model crosses a set threshold, the lab commits to adding stronger safeguards, or to not deploying or not training further until those safeguards are in place. These frameworks matter because they are currently the main way the most advanced AI models are governed for catastrophic risk, though most of them are voluntary and written by the labs themselves.
Anthropic published the first Responsible Scaling Policy in September 2023. It introduced AI Safety Levels (ASLs), loosely modeled on biosafety levels, where higher levels require stronger security and deployment safeguards. A later version, in October 2024, restated the policy in terms of capability thresholds and required safeguards and described the role of a Responsible Scaling Officer. OpenAI released its Preparedness Framework as a beta in December 2023. It scored risk in tracked categories, originally including CBRN threats, cybersecurity, persuasion and model autonomy. A 2025 revision reorganized it around High and Critical capability thresholds and dropped persuasion as a tracked category. Google DeepMind published its Frontier Safety Framework in May 2024 and has revised it since. It defines Critical Capability Levels (CCLs) that trigger response plans. At the AI Seoul Summit in May 2024, 16 companies signed the Frontier AI Safety Commitments. They agreed to publish safety frameworks, set thresholds for intolerable risk, and not develop or deploy a model if its risks could not be kept below those thresholds. Many frameworks were published before the Paris AI Action Summit in February 2025. Critics point to several weaknesses. Labs write their own thresholds and can revise them on their own. Wording such as "meaningful uplift" leaves room for interpretation. External verification is limited, and commercial competition gives labs an incentive to read results generously. A common misconception is that these frameworks are laws. Most are voluntary, although this is changing. California's SB 53 requires large frontier developers to publish such a framework, and the EU's General-Purpose AI Code of Practice, a voluntary route to showing compliance with the AI Act, asks signatories to adopt one.
Before release, a lab tests whether a new model gives meaningful uplift to someone trying to acquire biological weapons. If it crosses the threshold, the lab adds stricter misuse filters and security before deployment.
In May 2025, Anthropic said it had activated ASL-3 deployment and security protections for Claude Opus 4 as a precaution, because it could not rule out that the model had reached the relevant capability threshold.
OpenAI's Preparedness Framework directs a Safety Advisory Group to review capability reports and advise leadership on whether safeguards are adequate before a release.
A lab tracking autonomous replication or AI research acceleration runs agentic evaluations. These test whether the model can complete long, multi-step tasks without human help.
Frameworks are moving from voluntary pledges toward regulatory expectations. California now requires large frontier developers to publish them, the EU's Code of Practice asks signatories to adopt them, and more jurisdictions may follow. Open questions include who audits compliance, how thresholds get standardized across labs, and whether evaluations can keep up with rapidly improving agentic systems. Independent testing bodies, including government AI institutes, may take on a bigger role in checking lab claims. The central tension will likely remain: labs design the rules they are judged by, which makes transparency and outside scrutiny important.
จดหมายข่าวฟรี
เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา
อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ
ทดสอบตัวเอง
ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร
สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค
A frontier AI safety framework, such as a responsible scaling policy, is a published commitment by an AI lab to test its models for dangerous capabilities. If a model crosses a set threshold, the lab commits to adding stronger safeguards, or to not deploying or not training further until those safeguards are in place. These frameworks matter because they are currently the main way the most advanced AI models are governed for catastrophic risk, though most of them are voluntary and written by the labs themselves.
กรอบงานเหล่านี้สร้างขึ้นจากข้อผูกพันแบบ if-then ที่ผูกเกณฑ์ความสามารถเข้ากับการป้องกันที่จำเป็น
นโยบายการปรับขนาดอย่างมีความรับผิดชอบในเดือนกันยายน 2023 ของ Anthropic ได้แนะนำ ASL ซึ่งมีการจำลองระดับความปลอดภัยทางชีวภาพอย่างหลวมๆ
DeepMind ใช้ Critical Capability Levels (CCLs) ซึ่งจะทริกเกอร์แผนการตอบสนองเมื่อบรรลุเป้าหมาย
ข้อผูกพันด้านความปลอดภัยของ Frontier AI เป็นคำมั่นสัญญาโดยสมัครใจที่จะเผยแพร่กรอบงานและจะไม่ดำเนินการต่อหากไม่สามารถรักษาความเสี่ยงให้ต่ำกว่าเกณฑ์ได้
การแก้ไขได้จัดกรอบการทำงานใหม่ตามเกณฑ์สูงและเกณฑ์วิกฤต และลบการโน้มน้าวใจออกจากหมวดหมู่ที่ติดตาม
เรียนรู้ต่อไป
คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้
ต่อไปคำแนะนำต่อไป
กรอบการกำกับดูแลความปลอดภัย AI TC260 ของจีน
สังคม