Műszaki ÚTMUTATÓ

MCP biztonság és szerszámmérgezés

Az MCP biztonság lefedi azokat a kockázatokat, amelyek az AI-ügynökök és a Model Context Protocol szerverek összekapcsolásából erednek.

Hallgassa meg ezt az útmutatótAI-narrált · ~3 min

Ezen az oldalon4 perc olvasás
  1. Áttekintés
  2. Mély merülés
  3. Valós megvalósítás
  4. Az MCP biztonság és a szerszámmérgezés jövője
  5. A gyakorlatba ültetés
  6. Folytassa a felfedezést
  7. Gyakran ismételt kérdések

Áttekintés

A legismertebb kockázat az eszközmérgezés, amikor az eszköz leírása olyan utasításokat rejt, amelyeket a modell követ, de a felhasználó soha nem lát. Mivel az MCP-szerverek képesek fájlokat olvasni, üzeneteket küldeni és valódi hitelesítő adatokkal cselekedni, egy rosszindulatú vagy gondatlan kiszolgáló egy segítőkész asszisztenst adatlopás vagy károkozás módjává alakíthat.

Mély merülés

A Model Context Protocol, amelyet a Anthropic 2024 végén vezetett be, szabványosítja az AI-alkalmazások külső eszközökhöz és adatokhoz való csatlakozását. Egy kliens, például egy asztali asszisztens vagy IDE csatlakozik a szerverekhez, és minden szerver nevekkel, leírásokkal és beviteli sémákkal hirdet eszközöket. A modell ezeket a leírásokat a kontextusa részeként olvassa be, és innen ered a fő kockázat. Az eszközmérgezés rosszindulatú utasításokat helyez az eszköz leírásába vagy metaadatai közé. A modell a leírást megbízható útmutatásként kezeli, de sok felületen csak egy rövid név látható a felhasználóknak, így a rejtett szöveg nem látható. Egy mérgezett eszköz azt is irányíthatja, hogy a modell hogyan használjon más, legitim eszközöket. Ezt néha eszközárnyékolásnak nevezik. A rug lehúzás akkor történik, amikor egy biztonságosként jóváhagyott kiszolgáló később megváltoztatja az eszközdefinícióit. A legtöbb jóváhagyásra egyszer kerül sor, így a változás észrevétlen marad. A túl széles körű engedélyek növelik a támadások okozta sebzést. A teljes fiókhozzáféréssel rendelkező tokent vagy a saját könyvtárban gyökerező fájlrendszer-kiszolgáló sokkal többet nyújt a támadónak, mint amennyire szüksége van. A zavart helyettes egy megbízható komponens, akit arra csalnak ki, hogy a hatalmát valaki másnak használja. Az MCP-beállításokban egy gyakori verzió a közvetett azonnali beszúrás: a nem megbízható tartalom, például egy weboldal, e-mail vagy problémamegjegyzés kontextusba kerül, és arra utasítja az ügynököt, hogy visszaéljen egy másik szerver hozzáférésével. A modell nem tudja megbízhatóan megkülönböztetni az adatokat az utasításokból. Tévedés azt gondolni, hogy csak jó hírű szerverek telepítése oldja meg a problémát. Az injektálás a megbízható eszközök által visszaküldött közönséges adatokon keresztül érkezhet. A védelemnek rétegekre van szüksége: ellenőrzési és rögzítő szerverekre, teljes leírások megjelenítésére és változás esetén figyelmeztetésre, a legkevesebb jogosultság biztosítására, a szerverek egymástól való elkülönítésére, megerősítést kérnek az érzékeny műveletekhez, és mindent naplóznak.

Valós megvalósítás

Az „időjárás” MCP-kiszolgáló eszközleírásában egy rejtett sort is tartalmaz, amely arra utasítja a modellt, hogy olvassa el a felhasználó SSH-kulcsát, és adja át azt extra paraméterként. A chat felület csak az eszköz nevét mutatja, így a felhasználó ezt nem veszi észre.

Egy népszerű közösségi szerver hetekig jól működik, majd frissítést küld, amely megváltoztatja az eszközleírást, hogy a beszélgetés tartalma kiszivárogjon. Azok az ügyfelek, amelyek nem rögzítik a verziókat, vagy nem keresik a megváltozott definíciókat, csendben veszik fel a változást.

Egy GitHub kiszolgálóval és egy e-mail szerverrel is rendelkező ügynök beolvassa a beadott utasításokat tartalmazó nyilvános kiadást, majd a privát adattárhoz való hozzáférést használja az e-mail titkok kiszűrésére. Ez egy összezavarodott helyettes támadás, amely a felhasználó jogos engedélyeit használja.

A vállalat belső MCP-kiszolgálóit csak olvasható tokenekkel futtatja, amelyek egyetlen projektre vonatkoznak, emberi jóváhagyást igényel minden olyan eszközhöz, amely adatokat küld kifelé, és minden eszközhívást naplóz a felülvizsgálatra.

Az MCP biztonság és a szerszámmérgezés jövője

Az MCP-specifikáció és az ökoszisztéma az idők során biztonsági funkciókkal bővült, beleértve az OAuth-alapú engedélyezési modellt és az eszközhívásokhoz való felhasználói hozzájárulásra vonatkozó útmutatást. Nyilvántartások, aláíró és ellenőrző eszközök jelennek meg, amelyek segítenek az embereknek eldönteni, honnan származik a szerver. Maga az azonnali befecskendezés továbbra is megoldatlan kutatási probléma, így egyetlen javítás sem teszi teljesen biztonságossá a szerszámleírásokat vagy a szerszámkimeneteket. Az architektúra jelenleg a legmegbízhatóbb védelem: a legkevesebb privilégium, elszigeteltség, emberi ellenőrzőpontok a nagy hatású tevékenységekhez és felügyelet. Az MCP-t alkalmazó szervezeteknek úgy kell kezelniük a szervereket, ahogyan a harmadik féltől származó szoftverfüggőségeket kezelik.

A gyakorlatba ültetés

Miért számít

  • Költség és költségvetés. Az építészeti döntések évekig növelik a teljesítményt és a működési költségeket.
  • Tisztább döntések. A technikai oktatás segít a csapatoknak a megfelelő verem kiválasztásában, nem csak a legújabb készletben.
  • Minőségellenőrzés. A jobb mérnöki döntések csökkentik a termelés megbízhatósági incidenseit.

Vigyázz

  • Egy benchmark optimalizálása elrejtheti a rendszer általános hiányosságait.
  • Az infrastrukturális és karbantartási költségeket gyakran alábecsülik.
  • A biztonsági és megfigyelhetőségi hiányosságok a rendszerek bonyolultabbá válásával nőhetnek.

Következő lépések

  1. Határozza meg a késleltetési, minőségi és költségcélokat a megvalósítás előtt.
  2. Benchmark reális terhelési és adatviszonyok mellett.
  3. Műszerfigyelés a hibák, az eltolódás és a felhasználói hatások szempontjából.
  4. A méretezés előtt készítse elő a visszagörgetési és az incidensre adott válaszútvonalakat.

Folytassa a felfedezést

Ingyenes hírlevél

Szerezze meg a napi AI összefoglalót

Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.

Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.

Teszteld magad

Take the MCP Security and Tool Poisoning quiz

Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.

Kezdő kvíz

Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt

Gyakran ismételt kérdések

Mi az MCP biztonság és eszközmérgezés?

Az MCP biztonság lefedi azokat a kockázatokat, amelyek az AI-ügynökök és a Model Context Protocol szerverek összekapcsolásából erednek. A legismertebb kockázat az eszközmérgezés, amikor az eszköz leírása olyan utasításokat rejt, amelyeket a modell követ, de a felhasználó soha nem lát. Mivel az MCP-szerverek képesek fájlokat olvasni, üzeneteket küldeni és valódi hitelesítő adatokkal cselekedni, egy rosszindulatú vagy gondatlan kiszolgáló egy segítőkész asszisztenst adatlopás vagy károkozás módjává alakíthat.

Mi a szerszámmérgezés az MCP-ben?

A modell megbízható útmutatásként olvassa el a szerszámleírásokat. A bennük lévő rejtett utasítások irányíthatják a viselkedését anélkül, hogy a felhasználó látná.

Miért gyakran láthatatlan az eszközmérgezés a felhasználók számára?

A modell a teljes szöveget látja, míg a felhasználó csak egy címkét láthat. Ez a hiányosság az, amitől a rejtett utasítások működnek.

Mi az az MCP szőnyeghúzás?

A jóváhagyás általában egyszer történik meg. A definícióit később módosító kiszolgáló túljuthat a rosszindulatú viselkedésen ezen az egyszeri ellenőrzésen.

Melyik forgatókönyv a zavart-helyettes támadás?

Egy megbízható komponenst, itt a felhasználó engedélyeivel rendelkező ügynököt becsapják, hogy felhasználja a jogosultságát a támadó számára.

Miért nem elég csak jó hírű MCP szervereket telepíteni?

A becsületes eszközökkel letöltött weboldalak, e-mailek és problémák beinjektált utasításokat tartalmazhatnak, így a szerverbe vetett bizalom nem terjed ki a visszaküldött tartalomra.