发生了什么
Calcalistech 对 30 名以色列安全研究专业人员进行的一项调查表明，人工智能正在显着降低复杂网络攻击的进入门槛。研究人员报告说，以前需要民族国家参与者花费数月时间才能完成的任务，例如开发功能性概念验证 (PoC) 漏洞，现在只需几天即可完成。这些发现凸显了威胁格局的转变，人工智能被用来自动发现漏洞、操纵可信的人工智能代理，并通过耗尽企业人工智能代币预算来进行经济攻击。
调查强调，商业人工智能工具缩短了安全研究的时间表，使个人研究人员能够发现 Zoom、Google Cloud 和 Microsoft Copilot 等主要平台中的零日漏洞。专家们将这种转变与 2013 年的“AFL 模糊时刻”进行了比较，并指出，虽然人工智能能够有效地找到容易实现的目标，但它仍然容易产生幻觉和上下文丢失，因此需要持续的人类监督。
研究的很大一部分集中于从基于凭证的攻击到操纵可信人工智能代理的转变。通过利用间接提示注入，攻击者可以影响代理对用户进行网络钓鱼或窃取敏感数据，而无需传统密码。几家公司报告称，通过共享文件和电子邮件成功演示了此类收购。
该报告确定了一种新的攻击媒介：针对 SOC 的经济战。通过向自动化安全系统注入噪音，攻击者迫使底层人工智能模型处理不必要的数据，有效耗尽企业的代币预算，并可能导致系统故障或运营成本过高。
受访者强调，孤立的漏洞严重性评分越来越过时。相反，他们提倡“攻击链”分析，其中多个低严重性的错误配置被视为导致管理妥协的单一危险路径。
为什么这很重要
高级攻击能力的民主化意味着商业软件中的漏洞正在以前所未有的速度被识别和利用。通过将重点从传统的凭证盗窃转移到人工智能代理的操纵和第三方依赖项的利用，攻击者正在绕过传统的外围防御。此外，“经济战”的出现（对手用噪音淹没安全系统以耗尽人工智能代币预算）给依赖自动化安全运营中心（SOC）的企业带来了新的运营风险。这些进展表明，传统的漏洞严重性指标（例如 CVE 分数）已不足以评估现实世界的风险，因为攻击者越来越多地将次要的非关键缺陷链接在一起以实现整个系统的妥协。
调查结果强调安全边界发生了根本性变化。随着企业将人工智能代理集成到其工作流程中，“可信代理”成为主要目标。如果代理受到威胁，它可以充当内部系统的桥梁，从而降低传统端点检测和响应 (EDR) 工具的效率。
人工智能驱动的攻击的经济影响为网络安全带来了新的维度。企业现在必须将人工智能推理的成本视为潜在的漏洞，因为攻击者可以利用基于 LLM 的安全工具的成本结构来破坏运营。
对第三方人工智能依赖项（例如浏览器扩展和 MCP 服务器）的依赖造成了供应链风险，目前该风险尚未得到监控。调查表明，该行业目前正处于快速采用阶段，其速度超过了必要安全控制的发展速度。
互动机制：它实际上是如何运作的
以交互方式探索这一发展背后的基础技术。
An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
接下来看什么
安全专业人士越来越担心人工智能基础设施的快速采用所产生的“盲点”，包括 Ollama 和模型上下文协议 (MCP) 桥等开源工具。随着这些依赖关系被集成到企业工作流程中，它们代表着日益增长的供应链风险，而目前缺乏强大的监控。预计该行业将转向更加上下文相关的风险评估模型，该模型考虑网络可达性和攻击链，而不是依赖于孤立的漏洞评分。观察者应监测企业是否开始对人工智能代理权限和第三方插件生态系统实施更严格的治理，以降低间接提示注入和未经授权的数据泄露的风险。
留意安全团队优先考虑漏洞的方式的转变。从以 CVE 为中心的模型转向上下文、网络感知的风险评估可能会成为成熟安全组织的标准实践。
监控专门用于审核 AI 代理权限并检测间接提示注入尝试的安全工具的开发，因为这些目前被认为是企业防御堆栈中的主要漏洞。
观察组织如何管理与开源人工智能基础设施相关的“盲点”。业界可能会推动对人工智能插件和依赖项采取更严格的审查流程，类似于现有的软件供应链安全标准。