返回新聞
政策AI Understanding 簡報

中國發佈人工智慧安全框架3.0並更新風險措施

中國國家網路安全標準制定機構週一發布了更新的人工智慧安全治理框架,細化風險分類,強調人工智慧主體和實體智慧的負責任開發和安全可控。

4 min readRead the linked source
Source-page capture accompanying China releases AI security framework 3.0 with updated risk measures
來源參考來源記錄
出版商
mlex.com
來源連結
mlex.comhttps://www.mlex.com/mlex/artificial-intelligence/articles/2524886/china-unveils-ai-security-framework-3-0-with-updated-risk-measures
來源類型
連結來源-主要來源狀態尚未確定。
背景60 秒內了解這一點

從這裡開始

關鍵術語

人工智慧治理
指導人工智慧如何在社會中發展和使用的政策、標準和監督機制。
人工智慧安全
該領域專注於減少人工智慧系統中的有害行為、故障和誤用風險。
測試一下自己人工智慧道德測驗

發生了什麼事

中國國家網路安全標準制定機構於 2026 年 9 月 15 日星期一在中國年度網路安全週開幕期間發布了第三版人工智慧安全治理架構。此次更新完善了對人工智慧風險進行分類並透過技術和更廣泛的治理措施進行回應的方法。新框架在保留舊版基於風險的核心概念的同時,強調人工智慧開發以人為本、負責任、風險意識更強、安全可控。新聞稿特別強調了北京方面努力就人工智慧安全達成共識,並加強預防和應對新出現的風險(包括人工智慧代理和實體智慧帶來的風險)的能力。 MLex 報導稱,官方聲明和框架文件本身都有中文版本。

2026 年 9 月 15 日星期一,中國國家網路安全標準制定機構公佈了第三版人工智慧安全治理框架。此次發布恰逢該國年度網路安全週開幕,突顯了政府在更廣泛的網路安全戰略中優先考慮人工智慧安全。

據 MLex 稱,新框架完善了人工智慧風險分類方法,並透過技術和更廣泛的治理措施概述了應對措施。它保留了早期版本中建立的基於風險的核心方法,但更新了以人為本的開發和負責任的人工智慧實踐的重點。

3.0版本的一個關鍵區別是明確關注「安全可控」和更強的風險意識。該框架特別識別了人工智慧代理和實體智慧帶來的新風險,顯示監管機構正在為更自主和物理互動的人工智慧系統做準備。

MLex 指出,官方聲明和完整框架文件目前有中文版本。此次發布強調了北京正在努力凝聚國內人工智慧安全共識,並增強防範和應對新型人工智慧相關風險的能力。

來源詳情: mlex.com ↗

為什麼這很重要

此次更新標誌著中國監管態勢日趨成熟,從一般原則轉向更具體的風險分類和治理機制。透過明確解決人工智慧代理和具體智能,該框架預測了下一波人工智慧部署,為合規性和安全性提供了結構化路徑。對於全球利害關係人來說,這明確了中國人工智慧政策的方向,這可能會影響國際標準和跨境數據或模型互動。對「可控安全」的強調表明,重點關注營運監督而不僅僅是理論上的安全,這可能會影響人工智慧系統在中國關鍵基礎設施和消費者應用中的部署方式。

此次更新為中國人工智慧安全提供了更細化的監管結構,超越了高層原則,轉向了具體的風險分類和治理措施。這對於在中國或在中國運營的公司來說意義重大,因為它定義了人工智慧開發和部署的合規環境。

透過明確提及人工智慧代理和具體智能,該框架承認人工智慧技術不斷發展的本質。這種前瞻性的做法表明,中國監管機構正試圖保持領先地位,這可能會影響全球人工智慧安全標準和最佳實踐。

對「可控安全」的強調意味著關注實際應用中的操作監督和風險緩解。這可能會導致對人工智慧系統的監控、審計和乾預能力提出更嚴格的要求,特別是那些部署在關鍵部門的系統。

隨著中國不斷發展其人工智慧生態系統,該框架向國內和國際利益相關者發出了一個信號,表明中國致力於平衡創新與安全。它也可能影響跨境人工智慧合作和數據流動,因為遵守中國標準成為市場准入的關鍵因素。

Interactive Mechanism

互動機制:它實際上是如何運作的

以互動方式探索這項發展背後的基礎技術。

Agent Lifecycle Stage:
1
User Intent & Planning: "Audit customer refund request #4092 and settle payment."
2
Tool Calling: Emits structured JSON call crm_get_transaction(id='4092').
3
Guardrail & Verification:🛡️ Paused: High-value action requires human operator sign-off.
4
Final Settlement: Refund recorded, email receipt dispatched, and audit log stored.
Core takeaway: An AI agent is not just a language model—it is a closed loop of planning, tool invocation, and environment feedback. Production systems require self-healing retries and strict human approval guardrails.
互動式概念檢查+10 Points
AI Ethics Quiz

Why can ethical evaluation not be reduced to one model score?

接下來看什麼

監控框架文件的英文翻譯,以了解特定的技術要求。關注中國監管機構關於現有人工智慧產品必須如何適應新風險類別的指導。觀察其他國家或國際機構是否在自己的政策討論中引用該框架。追蹤中國主要人工智慧開發商對合規時間表和技術調整的行業反應。

框架文件的官方英文翻譯對於國際利害關係人了解具體的技術和治理要求至關重要。在那之前,解釋可能會有所不同,從而為跨國公司帶來不確定性。

關於現有人工智慧產品和服務必須如何適應新風險類別的監管指導非常重要。公司可能需要進行內部稽核並進行技術調整,以確保符合更新後的架構。

中國主要人工智慧開發商和科技公司的行業反應將有助於深入了解該框架的實際影響。尋找有關合規時間表、技術挑戰以及對產品開發和部署的潛在影響的聲明。

國際反應以及與其他國家人工智慧安全框架的潛在一致性或分歧將是重大的。這可能會影響全球人工智慧治理討論以及人工智慧安全和安保國際標準的製定。

相關指引和測驗

AI 倫理人工智慧代理AI 的未來測試你所知道的—嘗試免費的人工智慧測驗在我們的詞彙表中尋找人工智慧術語關注AI監管追蹤器
覺得有用嗎?