LegközelebbKövetkező útmutató
Kína TC260 MI-biztonsági kormányzati kerete
Társadalom
Társadalom ÚTMUTATÓ
A határ menti mesterséges intelligencia biztonsági keretrendszer, mint például a felelős méretezési politika, egy mesterségesintelligencia-laboratórium közzétett kötelezettségvállalása a modellek veszélyes képességeinek tesztelésére.
Hallgassa meg ezt az útmutatótAI-narrált · ~3 min
Ha egy modell átlép egy meghatározott küszöbértéket, a laboratórium kötelezettséget vállal arra, hogy erősebb biztosítékokat ad hozzá, vagy nem telepíti, vagy nem folytatja a képzést, amíg ezek a biztosítékok be nem állnak. Ezek a keretrendszerek azért fontosak, mert jelenleg ezek jelentik a legfejlettebb mesterséges intelligencia modellek katasztrófaveszélyes szabályozásának fő módját, bár legtöbbjük önkéntes, és maguk a laboratóriumok írták.
A Anthropic 2023 szeptemberében tette közzé az első Responsible Scaling Policy-t. Bevezette az AI biztonsági szinteket (ASL), lazán a biológiai biztonsági szintek alapján, ahol a magasabb szintek erősebb biztonsági és telepítési biztosítékokat igényelnek. Egy későbbi, 2024 októberi verziója a képességküszöbök és a szükséges biztosítékok tekintetében megismételte a házirendet, és leírta a Felelős Scaling Officer szerepét. A OpenAI 2023 decemberében béta verzióban adta ki a felkészültségi keretrendszert. A kockázatot követett kategóriákban értékelte, eredetileg a CBRN-fenyegetéseket, a kiberbiztonságot, a meggyőzést és a modellautonómiát. Egy 2025-ös revízió átszervezte a magas és kritikus képességküszöbök köré, és elhagyta a meggyőzést követett kategóriaként. Google A DeepMind 2024 májusában tette közzé határvédelmi keretrendszerét, és azóta felülvizsgálta. Meghatározza a kritikus képességszinteket (CCL), amelyek választerveket indítanak el. A 2024. májusi szöuli mesterségesintelligencia-csúcstalálkozón 16 vállalat írta alá a határmenti mesterségesintelligencia-biztonsági kötelezettségvállalásokat. Megállapodtak abban, hogy biztonsági kereteket tesznek közzé, küszöbértékeket határoznak meg az elviselhetetlen kockázatokra vonatkozóan, és nem dolgoznak ki és nem alkalmaznak modellt, ha annak kockázatait nem lehet e küszöbértékek alatt tartani. A 2025. februári párizsi AI Action Summit előtt számos keretet tettek közzé. A kritikusok több gyengeségre is rámutatnak. A laboratóriumok saját küszöbértékeket írnak be, és maguk módosíthatják azokat. Az olyan megfogalmazások, mint az „értelmes felemelkedés”, teret engednek az értelmezésnek. A külső ellenőrzés korlátozott, és a kereskedelmi verseny arra ösztönzi a laboratóriumokat, hogy bőkezűen olvassák el az eredményeket. Általános tévhit, hogy ezek a keretek törvények. A legtöbb önkéntes, bár ez változik. A kaliforniai SB 53 előírja, hogy a határ menti fejlesztők tegyék közzé ezt a keretrendszert, az EU általános célú mesterségesintelligencia-gyakorlati kódexe pedig, amely az AI törvénynek való megfelelés bizonyításának önkéntes módja, arra kéri az aláírókat, hogy fogadjanak el egyet.
Before release, a lab tests whether a new model gives meaningful uplift to someone trying to acquire biological weapons. If it crosses the threshold, the lab adds stricter misuse filters and security before deployment.
In May 2025, Anthropic said it had activated ASL-3 deployment and security protections for Claude Opus 4 as a precaution, because it could not rule out that the model had reached the relevant capability threshold.
OpenAI's Preparedness Framework directs a Safety Advisory Group to review capability reports and advise leadership on whether safeguards are adequate before a release.
A lab tracking autonomous replication or AI research acceleration runs agentic evaluations. These test whether the model can complete long, multi-step tasks without human help.
Frameworks are moving from voluntary pledges toward regulatory expectations. California now requires large frontier developers to publish them, the EU's Code of Practice asks signatories to adopt them, and more jurisdictions may follow. Open questions include who audits compliance, how thresholds get standardized across labs, and whether evaluations can keep up with rapidly improving agentic systems. Independent testing bodies, including government AI institutes, may take on a bigger role in checking lab claims. The central tension will likely remain: labs design the rules they are judged by, which makes transparency and outside scrutiny important.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
A határ menti mesterséges intelligencia biztonsági keretrendszer, mint például a felelős méretezési politika, egy mesterségesintelligencia-laboratórium közzétett kötelezettségvállalása a modellek veszélyes képességeinek tesztelésére. Ha egy modell átlép egy meghatározott küszöbértéket, a laboratórium kötelezettséget vállal arra, hogy erősebb biztosítékokat ad hozzá, vagy nem telepíti, vagy nem folytatja a képzést, amíg ezek a biztosítékok be nem állnak. Ezek a keretrendszerek azért fontosak, mert jelenleg ezek jelentik a legfejlettebb mesterséges intelligencia modellek katasztrófaveszélyes szabályozásának fő módját, bár legtöbbjük önkéntes, és maguk a laboratóriumok írták.
These frameworks are built on if-then commitments that tie capability thresholds to required safeguards.
Anthropic's September 2023 Responsible Scaling Policy introduced ASLs, loosely modeled on biosafety levels.
DeepMind uses Critical Capability Levels (CCLs), which trigger response plans when they are reached.
The Frontier AI Safety Commitments were voluntary pledges to publish frameworks and to not proceed if risks could not be kept below the thresholds.
The revision reorganized the framework around High and Critical thresholds and removed persuasion as a tracked category.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
Kína TC260 MI-biztonsági kormányzati kerete
Társadalom