技術指南

MCP 安全與工具中毒

MCP 安全性涵蓋了將 AI 代理連接到模型上下文協定伺服器所帶來的風險。

聆聽此指南AI 語音敘述 · ~3 min

本頁4 分鐘閱讀
  1. 概述
  2. 深入探討
  3. 現實世界的實施
  4. MCP 安全與工具中毒的未來
  5. 付諸實踐
  6. 不斷探索
  7. 常見問題

概述

最著名的風險是工具中毒,即工具的描述隱藏了模型遵循的指令,但使用者永遠看不到。由於 MCP 伺服器可以讀取檔案、發送訊息並使用真實憑證進行操作,因此惡意或粗心的伺服器可能會將有用的助手變成竊取資料或造成損害的一種方式。

深入探討

Anthropic 於 2024 年底推出的模型情境協定標準化了 AI 應用程式連接外部工具和資料的方式。桌面助理或 IDE 等用戶端連接到伺服器,每個伺服器都會公佈工具的名稱、描述和輸入模式。該模型將這些描述作為其上下文的一部分來讀取,這就是主要風險的來源。工具中毒將惡意指令放入工具的描述或元資料中。該模型將描述視為可信的指導,但許多介面僅向用戶顯示一個簡短的名稱,因此隱藏的文字是看不見的。中毒的工具還可以引導模型如何使用其他合法工具。這有時稱為工具陰影。當被批准為安全的伺服器後來更改其工具定義時,就會發生地毯拉動。大多數批准只會發生一次,因此更改可能會被忽略。過於廣泛的權限會增加任何攻擊的損害。持有具有完全帳戶存取權限的令牌的伺服器,或根植於主目錄的檔案系統伺服器,為攻擊者提供了遠遠超過所需的任務。困惑的代表是一個值得信賴的組成部分,被欺騙而將其權力用於其他人。在 MCP 設定中,常見的版本是間接提示注入:將網頁、電子郵件或問題評論等不受信任的內容提取到上下文中,並告訴代理濫用另一台伺服器的存取權限。此模型無法可靠地區分資料和指令。認為僅安裝信譽良好的伺服器就可以解決問題的想法是錯誤的。注入可以透過值得信賴的工具返回的普通數據來實現。防禦需要分層:審查和固定伺服器,顯示完整的描述並在更改時發出警報,授予最小權限,將伺服器彼此隔離,要求確認敏感操作,並記錄所有內容。

現實世界的實施

「天氣」MCP 伺服器在其工具描述中包含一條隱藏行,告訴模型讀取使用者的 SSH 金鑰並將其作為額外參數傳遞。聊天介面僅顯示工具的名稱,因此使用者永遠不會注意到。

流行的社群伺服器在幾週內表現良好,然後發布更新,更改工具描述以洩漏對話內容。不固定版本或檢查更改的定義的客戶端會默默地接受更改。

具有 GitHub 伺服器和電子郵件伺服器的代理讀取包含注入指令的公共問題,然後使用其私人儲存庫存取權限透過電子郵件發送秘密。這是一種使用使用者合法權限的混淆代理攻擊。

一家公司使用僅限於單一專案的唯讀令牌來運行其內部 MCP 伺服器,需要人工批准任何向外部發送資料的工具,並記錄每個工具呼叫以供審查。

MCP 安全與工具中毒的未來

隨著時間的推移,MCP 規範及其生態系統不斷添加安全功能,包括基於 OAuth 的授權模型以及關於使用者同意工具呼叫的指導。註冊表、簽章和掃描工具似乎可以幫助人們判斷伺服器來自哪裡。即時注入本身仍然是一個未解決的研究問題,因此沒有任何單一修復可以使工具描述或工具輸出完全安全。架構是目前最可靠的防禦:最小特權、隔離、針對高影響力操作的人工檢查點、監控。採用 MCP 的組織應該以管理第三方軟體依賴項的方式來管理伺服器。

付諸實踐

為什麼這很重要

  • 成本與預算. 多年來,架構決策決定著效能和營運成本。
  • 更明確的決策. 技術教育幫助團隊選擇正確的堆疊,而不僅僅是最新的堆疊。
  • 品質管控. 更好的工程選擇可以減少生產中的可靠性事故。

留意

  • 優化一項基準測試可以隱藏更廣泛的系統弱點。
  • 基礎設施和維護成本常常被低估。
  • 隨著系統變得更加複雜,安全性和可觀察性差距可能會擴大。

後續步驟

  1. 在實施之前定義延遲、品質和成本目標。
  2. 在實際負載和資料條件下進行基準測試。
  3. 儀器監控錯誤、漂移和使用者影響。
  4. 在擴展之前準備回滾和事件回應路徑。

不斷探索

免費電子報

獲取每日 AI 簡報

每個工作日上午提供三則經過驗證的 AI 新聞,以淺顯易懂的英文撰寫。永久免費,無廣告。

每個工作日一封電子郵件。一鍵取消訂閱。我們絕不出售或分享您的地址。

測試一下自己

Take the MCP Security and Tool Poisoning quiz

每個答案皆有即時回饋,通過課程後可獲得具備可驗證 ID 的可分享證書。

開始測驗

支持免費的 AI 教育。AI Understanding 是一個 501(c)(3) 非營利組織——絕無廣告,絕無付費牆。 捐款

常見問題

什麼是 MCP 安全和工具中毒?

MCP 安全性涵蓋了將 AI 代理連接到模型上下文協定伺服器所帶來的風險。最著名的風險是工具中毒,即工具的描述隱藏了模型遵循的指令,但使用者永遠看不到。由於 MCP 伺服器可以讀取檔案、發送訊息並使用真實憑證進行操作,因此惡意或粗心的伺服器可能會將有用的助手變成竊取資料或造成損害的一種方式。

MCP 中什麼是工具中毒?

該模型將工具描述視為可信的指導。其中的隱藏指令可以在使用者看不見的情況下控制其行為。

為什麼工具中毒往往對使用者來說是看不見的?

模型可以看到全文,而使用者可能只能看到標籤。這個差距正是隱藏指令發揮作用的原因。

什麼是 MCP 地毯拉力?

批准通常發生一次。稍後更改其定義的伺服器可能會繞過一次性檢查的惡意行為。

哪一種情況是混淆副攻擊?

受信任的元件(此處為具有使用者權限的代理)被欺騙,將其權限用於攻擊者。

為什麼僅安裝信譽良好的 MCP 伺服器還不夠?

由誠實工具取得的網頁、電子郵件和問題可以攜帶注入指令,因此對伺服器的信任並不涵蓋其傳回的內容。