LegközelebbKövetkező útmutató
ML Supply Chain Security és Model Signing
Műszaki
Műszaki ÚTMUTATÓ
Az MCP biztonság lefedi azokat a kockázatokat, amelyek az AI-ügynökök és a Model Context Protocol szerverek összekapcsolásából erednek.
Hallgassa meg ezt az útmutatótAI-narrált · ~3 min
A legismertebb kockázat az eszközmérgezés, amikor az eszköz leírása olyan utasításokat rejt, amelyeket a modell követ, de a felhasználó soha nem lát. Mivel az MCP-szerverek képesek fájlokat olvasni, üzeneteket küldeni és valódi hitelesítő adatokkal cselekedni, egy rosszindulatú vagy gondatlan kiszolgáló egy segítőkész asszisztenst adatlopás vagy károkozás módjává alakíthat.
A Model Context Protocol, amelyet a Anthropic 2024 végén vezetett be, szabványosítja az AI-alkalmazások külső eszközökhöz és adatokhoz való csatlakozását. Egy kliens, például egy asztali asszisztens vagy IDE csatlakozik a szerverekhez, és minden szerver nevekkel, leírásokkal és beviteli sémákkal hirdet eszközöket. A modell ezeket a leírásokat a kontextusa részeként olvassa be, és innen ered a fő kockázat. Az eszközmérgezés rosszindulatú utasításokat helyez az eszköz leírásába vagy metaadatai közé. A modell a leírást megbízható útmutatásként kezeli, de sok felületen csak egy rövid név látható a felhasználóknak, így a rejtett szöveg nem látható. Egy mérgezett eszköz azt is irányíthatja, hogy a modell hogyan használjon más, legitim eszközöket. Ezt néha eszközárnyékolásnak nevezik. A rug lehúzás akkor történik, amikor egy biztonságosként jóváhagyott kiszolgáló később megváltoztatja az eszközdefinícióit. A legtöbb jóváhagyásra egyszer kerül sor, így a változás észrevétlen marad. A túl széles körű engedélyek növelik a támadások okozta sebzést. A teljes fiókhozzáféréssel rendelkező tokent vagy a saját könyvtárban gyökerező fájlrendszer-kiszolgáló sokkal többet nyújt a támadónak, mint amennyire szüksége van. A zavart helyettes egy megbízható komponens, akit arra csalnak ki, hogy a hatalmát valaki másnak használja. Az MCP-beállításokban egy gyakori verzió a közvetett azonnali beszúrás: a nem megbízható tartalom, például egy weboldal, e-mail vagy problémamegjegyzés kontextusba kerül, és arra utasítja az ügynököt, hogy visszaéljen egy másik szerver hozzáférésével. A modell nem tudja megbízhatóan megkülönböztetni az adatokat az utasításokból. Tévedés azt gondolni, hogy csak jó hírű szerverek telepítése oldja meg a problémát. Az injektálás a megbízható eszközök által visszaküldött közönséges adatokon keresztül érkezhet. A védelemnek rétegekre van szüksége: ellenőrzési és rögzítő szerverekre, teljes leírások megjelenítésére és változás esetén figyelmeztetésre, a legkevesebb jogosultság biztosítására, a szerverek egymástól való elkülönítésére, megerősítést kérnek az érzékeny műveletekhez, és mindent naplóznak.
Az „időjárás” MCP-kiszolgáló eszközleírásában egy rejtett sort is tartalmaz, amely arra utasítja a modellt, hogy olvassa el a felhasználó SSH-kulcsát, és adja át azt extra paraméterként. A chat felület csak az eszköz nevét mutatja, így a felhasználó ezt nem veszi észre.
Egy népszerű közösségi szerver hetekig jól működik, majd frissítést küld, amely megváltoztatja az eszközleírást, hogy a beszélgetés tartalma kiszivárogjon. Azok az ügyfelek, amelyek nem rögzítik a verziókat, vagy nem keresik a megváltozott definíciókat, csendben veszik fel a változást.
Egy GitHub kiszolgálóval és egy e-mail szerverrel is rendelkező ügynök beolvassa a beadott utasításokat tartalmazó nyilvános kiadást, majd a privát adattárhoz való hozzáférést használja az e-mail titkok kiszűrésére. Ez egy összezavarodott helyettes támadás, amely a felhasználó jogos engedélyeit használja.
A vállalat belső MCP-kiszolgálóit csak olvasható tokenekkel futtatja, amelyek egyetlen projektre vonatkoznak, emberi jóváhagyást igényel minden olyan eszközhöz, amely adatokat küld kifelé, és minden eszközhívást naplóz a felülvizsgálatra.
Az MCP-specifikáció és az ökoszisztéma az idők során biztonsági funkciókkal bővült, beleértve az OAuth-alapú engedélyezési modellt és az eszközhívásokhoz való felhasználói hozzájárulásra vonatkozó útmutatást. Nyilvántartások, aláíró és ellenőrző eszközök jelennek meg, amelyek segítenek az embereknek eldönteni, honnan származik a szerver. Maga az azonnali befecskendezés továbbra is megoldatlan kutatási probléma, így egyetlen javítás sem teszi teljesen biztonságossá a szerszámleírásokat vagy a szerszámkimeneteket. Az architektúra jelenleg a legmegbízhatóbb védelem: a legkevesebb privilégium, elszigeteltség, emberi ellenőrzőpontok a nagy hatású tevékenységekhez és felügyelet. Az MCP-t alkalmazó szervezeteknek úgy kell kezelniük a szervereket, ahogyan a harmadik féltől származó szoftverfüggőségeket kezelik.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
Az MCP biztonság lefedi azokat a kockázatokat, amelyek az AI-ügynökök és a Model Context Protocol szerverek összekapcsolásából erednek. A legismertebb kockázat az eszközmérgezés, amikor az eszköz leírása olyan utasításokat rejt, amelyeket a modell követ, de a felhasználó soha nem lát. Mivel az MCP-szerverek képesek fájlokat olvasni, üzeneteket küldeni és valódi hitelesítő adatokkal cselekedni, egy rosszindulatú vagy gondatlan kiszolgáló egy segítőkész asszisztenst adatlopás vagy károkozás módjává alakíthat.
A modell megbízható útmutatásként olvassa el a szerszámleírásokat. A bennük lévő rejtett utasítások irányíthatják a viselkedését anélkül, hogy a felhasználó látná.
A modell a teljes szöveget látja, míg a felhasználó csak egy címkét láthat. Ez a hiányosság az, amitől a rejtett utasítások működnek.
A jóváhagyás általában egyszer történik meg. A definícióit később módosító kiszolgáló túljuthat a rosszindulatú viselkedésen ezen az egyszeri ellenőrzésen.
Egy megbízható komponenst, itt a felhasználó engedélyeivel rendelkező ügynököt becsapják, hogy felhasználja a jogosultságát a támadó számára.
A becsületes eszközökkel letöltött weboldalak, e-mailek és problémák beinjektált utasításokat tartalmazhatnak, így a szerverbe vetett bizalom nem terjed ki a visszaküldött tartalomra.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
ML Supply Chain Security és Model Signing
Műszaki