發生了什麼事
Calcalistech 對 30 名以色列安全研究專業人員進行的一項調查表明，人工智慧正在顯著降低複雜網路攻擊的進入門檻。研究人員報告說，以前需要民族國家參與者花費數月時間才能完成的任務，例如開發功能性概念驗證 (PoC) 漏洞，現在只需幾天即可完成。這些發現凸顯了威脅格局的轉變，人工智慧被用來自動發現漏洞、操縱可信任的人工智慧代理，並透過耗盡企業人工智慧代幣預算來進行經濟攻擊。
調查強調，商業人工智慧工具縮短了安全研究的時間表，使個人研究人員能夠發現 Zoom、Google Cloud 和 Microsoft Copilot 等主要平台中的零日漏洞。專家們將這種轉變與 2013 年的「AFL 模糊時刻」進行了比較，並指出，雖然人工智慧能夠有效地找到容易實現的目標，但它仍然容易產生幻覺和上下文丟失，因此需要持續的人類監督。
研究的很大一部分集中在從基於憑證的攻擊到操縱可信任人工智慧代理的轉變。透過利用間接提示注入，攻擊者可以影響代理商對使用者進行網路釣魚或竊取敏感數據，而無需傳統密碼。幾家公司報告稱，透過共享文件和電子郵件成功演示了此類收購。
該報告確定了一種新的攻擊媒介：針對 SOC 的經濟戰。透過向自動化安全系統注入噪音，攻擊者迫使底層人工智慧模型處理不必要的數據，有效耗盡企業的代幣預算，並可能導致系統故障或營運成本過高。
受訪者強調，孤立的漏洞嚴重性評分越來越過時。相反，他們提倡「攻擊鏈」分析，其中多個低嚴重性的錯誤配置被視為導致管理妥協的單一危險路徑。
為什麼這很重要
高階攻擊能力的民主化意味著商業軟體中的漏洞正在以前所未有的速度被識別和利用。透過將重點從傳統的憑證盜竊轉移到人工智慧代理的操縱和第三方依賴項的利用，攻擊者正在繞過傳統的外圍防禦。此外，「經濟戰」的出現（對手用噪音淹沒安全系統以耗盡人工智慧代幣預算）為依賴自動化安全營運中心（SOC）的企業帶來了新的營運風險。這些進展表明，傳統的漏洞嚴重性指標（例如 CVE 分數）已不足以評估現實世界的風險，因為攻擊者越來越多地將次要的非關鍵缺陷連結在一起以實現整個系統的妥協。
調查結果強調安全邊界發生了根本性變化。隨著企業將人工智慧代理整合到其工作流程中，「可信任代理」成為主要目標。如果代理程式受到威脅，它可以充當內部系統的橋樑，從而降低傳統端點偵測和回應 (EDR) 工具的效率。
人工智慧驅動的攻擊的經濟影響為網路安全帶來了新的維度。企業現在必須將人工智慧推理的成本視為潛在的漏洞，因為攻擊者可以利用基於 LLM 的安全工具的成本結構來破壞營運。
對第三方依賴人工智慧項目（例如瀏覽器擴充功能和 MCP 伺服器）的依賴造成了供應鏈風險，目前該風險尚未受到監控。調查表明，該行業目前正處於快速採用階段，其速度超過了必要安全控制的發展速度。
互動機制：它實際上是如何運作的
以互動方式探索這項發展背後的基礎技術。
An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
接下來看什麼
安全專業人士越來越擔心人工智慧基礎設施的快速採用所產生的“盲點”，包括 Ollama 和模型上下文協議 (MCP) 橋等開源工具。隨著這些依賴關係被整合到企業工作流程中，它們代表著日益增長的供應鏈風險，而目前缺乏強大的監控。預計該行業將轉向更加上下文相關的風險評估模型，該模型考慮網路可及性和攻擊鏈，而不是依賴孤立的漏洞評分。觀察者應監測企業是否開始對人工智慧代理權限和第三方插件生態系統實施更嚴格的治理，以降低間接提示注入和未經授權的資料外洩的風險。
留意安全團隊優先考慮漏洞的方式的轉變。從以 CVE 為中心的模型轉向情境、網路感知的風險評估可能會成為成熟安全組織的標準實踐。
監控專門用於審核 AI 代理權限並檢測間接提示注入嘗試的安全工具的開發，因為這些目前被認為是企業防禦堆疊中的主要漏洞。
觀察組織如何管理與開源人工智慧基礎設施相關的「盲點」。業界可能會推動對人工智慧外掛程式和相依性採取更嚴格的審查流程，類似於現有的軟體供應鏈安全標準。