發生了什麼事
Chosunbiz 報告稱,Cloudflare 高層在首爾舉行的媒體教育會議上發表講話警告稱,人工智慧代理正在產生迅速增加的網路流量,並擴大了公司必須保護的服務數量。高層敦促組織識別內部人工智慧工具,透過身分和權限限制訪問,控制未經批准的 MCP 連接並保護提示中發送的敏感資訊。 Cloudflare 也討論了人工智慧輔助的網路攻擊及其計劃擴展的後量子身份驗證支援。
Chosunbiz 報告稱,Cloudflare 亞太區執行副總裁兼董事總經理 Goran Risticsevich 表示,Cloudflare 網路上的 AI 代理流量較去年同期增長了 1,700% 以上,約佔所有網路流量的 60%。該文章沒有提供基本基準、精確的測量週期、數據的地理範圍、人工智慧代理流量的定義或估計的獨立來源。儘管這些說法是 Cloudflare 警告的核心證據,但這些遺漏使得增加的規模難以評估。
Chosunbiz 報告稱,Risticsevich 將普通人類瀏覽與可以同時連接到許多網站和伺服器的代理進行了對比。文章稱,這造成了更大的安全管理問題,因為公司需要知道哪個人工智慧系統正在存取哪些資料和系統,以及是否有必要存取。該報告還描述了影子人工智慧,即員工使用未經批准的人工智慧服務,並可能將敏感的內部資訊發送給外部模型。它將影子 MCP 確定為涉及未經批准的模型上下文協議與外部工具或內部系統的連接的相關風險。
Cloudflare 告訴 Chosunbiz,公司應該先識別內部使用的人工智慧工具,然後控制其資料和網路存取。該公司建議阻止包含敏感資訊的提示,並對 MCP 伺服器存取應用零信任原則,以便用戶只能存取其身分和權限允許的應用程式。這些建議是作為 Cloudflare 的指導意見提出的,而不是獨立報告的監管標準、客戶研究或受控評估的結果。該文章並未指出遭受影子 AI 或影子 MCP 事件的具體組織。
該報告也介紹了 Cloudflare 參與與 Anthropic 共同進行的安全聯盟 Project Glasswing 的情況。 Chosunbiz 報告稱,Cloudflare 提前獲得了 Anthropic 的 Mythos AI 模型的訪問權限,供其內部安全團隊進行測試,Cloudflare 表示,測試表明 AI 已經變得更有能力鏈接多個漏洞,並且更快地發現新漏洞。該文章沒有提供測試設計、對照組、測量結果或獨立驗證。 Cloudflare 高層認為,組織不能只依賴一次修補一個漏洞,而應該加強更廣泛的安全控制。
為什麼這很重要
人工智慧代理可以代表使用者與許多外部網站、工具和內部系統進行交互,從而產生與普通軟體使用者不同的安全和資料治理風險。該報告提出了有關影子 AI、影子 MCP 和漏洞鏈的實際擔憂,但其最重要的統計數據和測試結果是 Chosunbiz 報告的 Cloudflare 聲明,但未經獨立證實。
這份報告的實際意義在於,人工智慧代理可以擴大公司員工、模型、工具和資料儲存之間互動的數量和速度。傳統的應用程式可能具有一組定義的權限和目的地,而代理程式可以在其接收的權限內動態選擇工具或服務。如果這些權限過於廣泛,受損的代理、惡意指令或管理不善的整合可能會暴露資訊或觸發超出使用者預期的操作。 Chosunbiz 的說法支持加強治理的必要性,但並沒有確定這些故障發生的頻率。
影子人工智慧是一個常見的企業問題,但報告表明,MCP 可以透過將模型連接到可以檢索資訊或執行操作的系統來使其更具操作意義。即使模型本身不是問題根源,未經批准的連接也可能會產生風險。因此,本文對基於身分的存取和最小權限的強調與採用代理工具的公司相關。然而,Chosunbiz 並沒有報告獨立證據表明影子 MCP 已經在韓國普遍存在,也沒有量化其造成的損失。
網路安全主張也很重要,因為人工智慧可能會影響防禦週期的雙方。根據 Chosunbiz 報導,Cloudflare 的帳戶將人工智慧系統描述為能夠更好地將漏洞連結到攻擊路徑,並更快地發現漏洞。如果得到獨立證實,這將增加防禦者自動化資產庫存、檢測、優先順序和反應的壓力。然而消息來源沒有提供有關 Mythos 測試的技術細節,也沒有證據表明報告的結果可以轉化為針對真實組織的成功攻擊。因此,該聲明應被視為安全公司的警告,而不是對當前犯罪能力的驗證措施。
後量子問題增加了對長期基礎設施的擔憂。 Chosunbiz 報告稱,Cloudflare 支援抗量子加密,並預計在 2028 年提供全面的抗量子身份驗證,而一位高層表示,業界預計可能在 2030 年左右出現 Q Day。從易受攻擊的加密系統遷移可能需要數年時間,因為必須對憑證、協定、裝置和第三方服務進行盤點和升級。該報告沒有確定這些日期是共識預測,也沒有解釋 Cloudflare 目前支援的範圍。公共價值在於強調移民規劃,而不是將日期視為預測。
互動機制:它實際上是如何運作的
以互動方式探索這項發展背後的基礎技術。
crm_get_transaction(id='4092').An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
接下來看什麼
主要問題是 Cloudflare 的流量估計是否可以獨立記錄,報告的活動有多少代表有用的代理工作而不是自動化請求,以及公司的安全建議是否能顯著減少未經授權的訪問或資料外洩。 Cloudflare 聲稱的到 2028 年全面支持抗量子身份驗證的計劃也是一個未來的承諾,而不是一個完整的部署。
首先,Cloudflare的流量聲明需要獨立測量。有用的後續報告將確定 Cloudflare 算作人工智慧代理的內容、與同期相比是否有 1,700% 的增長、60% 的數字是否適用於全球或特定細分市場,以及爬蟲、搜尋、推理和自主代理流量如何分離。如果沒有這些信息,統計數據只能顯示 Cloudflare 的評估,但無法可靠地描述整個互聯網或韓國網路。
其次,採用代理系統的公司應揭露他們如何庫存模型和工具使用、批准 MCP 伺服器、限制權限並防止敏感提示資料離開受控環境。該報告沒有提供任何證據表明 Cloudflare 提出的控制措施已經過獨立測試。後續證據應包括真實的部署結果、記錄的事件、稽核結果或比較評估,以顯示零信任控制是否減少未經授權的工具呼叫、資料外洩或有害行為。
第三,Glasswing 計畫的主張值得進行技術審查。 Chosunbiz 的報告沒有說明哪些漏洞被連結、模型是如何提示的、測試是否使用真實環境、與現有工具相比性能如何,或者 Anthropic 是否獨立同意 Cloudflare 的解釋。獨立研究人員和維護者應該尋找可重複的方法和公開描述的結果,然後再對人工智慧支援的漏洞發現速度得出結論。
最後,Cloudflare 的後量子時間表應作為產品和遷移承諾進行追蹤。後續報告可以闡明哪些加密功能已經可用、全面的抗量子身份驗證將涵蓋哪些內容,以及客戶是否必須更改證書、軟體或硬體。該消息人士還沒有解決所報告的人工智慧代理流量激增是集中在少數大型服務中還是反映了廣泛採用。這些未知因素對於判斷 Cloudflare 警告的緊迫性和公眾影響至關重要。