LegközelebbKövetkező útmutató
Tervezési eszközök LLM-ügynökök számára
Műszaki
Műszaki ÚTMUTATÓ
A kódvégrehajtási sandbox egy elszigetelt környezet, ahol az AI-ügynök lefuttathatja az általa írt kódot anélkül, hogy károsítaná a gazdagépet, elérhetné azokat az adatokat, amelyeket nem látna, vagy korlátlan erőforrásokat használna.
Hallgassa meg ezt az útmutatótAI-narrált · ~3 min
Ennek azért van jelentősége, mert a kódot futtatni tudó ügynök sokkal hatékonyabb (tud számolni, elemezni a fájlokat és tesztelni saját munkáját), de a modell által írt kód alapértelmezés szerint nem megbízható, és hibás, pazarló vagy azonnali injekcióval manipulálható.
Amikor egy ügynök kódot generál, valaminek le kell futnia. A kód közvetlen futtatása fejlesztői laptopon vagy éles szerveren kockázatos: a kód fájlokat törölhet, hitelesítő adatokat olvashat ki a környezeti változókból, szoftvereket telepíthet, kriptovalutát bányászhat, vagy hálózati kapcsolatokat nyithat meg. A homokozó határt szab a kód és minden más között. Az elszigeteltségnek több rétege van, különböző kompromisszumokkal. A szabványos konténerek (például a Docker) Linux névtereket és cgroupokat használnak, hogy a kódnak saját nézetet adjanak a folyamatokról, fájlokról és hálózatról, valamint korlátozzák a CPU-t és a memóriát. Gyorsan indulnak, de minden tároló megosztja a gazdagép kernelét, így a kernel sebezhetősége lehetővé teszi a kód kiszabadulását. A gVisor, a Google nyílt forráskódú projektje egy felhasználói tér kernelt ad hozzá, amely elfogja a rendszerhívásokat, csökkentve azt, hogy a nem megbízható kódok milyen mértékben érinthetik a valódi kernelt. Az eredetileg a AWS által Lambda és Fargate számára készített MicroVM-ek, mint például a Firecracker, minden munkaterheléshez saját könnyű virtuális gépet és kernelt biztosítanak, miközben a másodperc töredéke alatt elindulnak. Az ügynökök (például az E2B) számára fenntartott sandbox-szolgáltatások erre a microVM-megközelítésre épülnek. A legkönnyebb végén a WebAssembly futtatókörnyezetei és az olyan eszközök, mint a Pyodide, futtathatják a Python-t böngészőben vagy Wasm sandboxban közvetlen rendszer-hozzáférés nélkül. Az izolációs technológia csak a fele a tervezésnek. A jó sandboxok emellett korlátozzák a hálózatot (gyakran alapértelmezés szerint tiltják egy engedélyezési listával), a fájlrendszert írásvédett módon csatlakoztatják, kivéve a scratch könyvtárat, teljesen távol tartják a titkokat a környezettől, és érvényesítik az idő-, memória-, folyamatszám- és lemezkorlátokat. Általában mulandóak: feladatonként jönnek létre, majd megsemmisítik. Általános tévhit, hogy a homokozó biztonságossá teszi az ügynököt. Korlátozza magából a kódból származó károkat, de nem akadályozza meg az ügynököt abban, hogy rossz válaszokat adjon, és a homokozóba átadott bármely eszköz vagy hitelesítő adat elérhetővé válik az ott futó kóddal, beleértve a beadott utasításokra válaszul írt kódot is.
Az adatelemző asszisztens megkapja a feltöltött CSV-fájlt, megírja a panda kódot, hogy megtisztítsa és ábrázolja a trendeket, majd lefuttatja ezt a kódot egy eldobható homokozóban, amely a munkamenet végén törlődik.
A kódoló ügynök a lerakat tesztcsomagját egy tárolóban futtatja kimenő hálózati hozzáférés nélkül, így a rosszindulatú függőségi szkript nem tud forráskódot vagy titkokat küldeni egy külső kiszolgálónak.
Egy oktatási platform lehetővé teszi a diákok számára, hogy felkérjenek egy mesterséges intelligencia oktatót, hogy futtassa le a Python példákat, és minden egyes futtatás néhány másodperces CPU-ra és rögzített memóriakorlátra korlátozódik, így egy véletlen végtelen hurok nem akadályozza meg a szolgáltatást.
Egy kutatócsoport egy microVM-et ad az ügynöknek az adatkészlet csak olvasható másolatával és egyetlen írható kimeneti mappával, így az ügynök az eredeti adatok módosítása vagy törlése nélkül tud eredményeket elérni.
A kódvégrehajtás az AI-asszisztensek és -ügynökök szabványos képességévé válik, így a sandboxing valószínűleg inkább áruszolgáltatássá válik ésszerű alapértelmezésekkel, mintsem olyasvalamivé, amelyet minden csapat a semmiből épít. A gyorsabb indítás, a pillanatkép és a folytatás, valamint a feladatonként módosítható hálózati és fájl-hozzáférési szabályzatok finomabbá tétele érdekében folyamatos munka várható. A nehezebb nyitott probléma inkább a politika, mint az elszigeteltség: annak eldöntése, hogy mit érhet el az ügynök, és tájékoztatni kell a felhasználókat arról, hogy az ügynökök mikor hajtanak végre hosszabb önálló tevékenységet. Az elkülönítés egy réteg marad a több közül, az engedélyek, a naplózás és az emberi ellenőrzés mellett.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
A kódvégrehajtási sandbox egy elszigetelt környezet, ahol az AI-ügynök lefuttathatja az általa írt kódot anélkül, hogy károsítaná a gazdagépet, elérhetné azokat az adatokat, amelyeket nem látna, vagy korlátlan erőforrásokat használna. Ennek azért van jelentősége, mert a kódot futtatni tudó ügynök sokkal hatékonyabb (tud számolni, elemezni a fájlokat és tesztelni saját munkáját), de a modell által írt kód alapértelmezés szerint nem megbízható, és hibás, pazarló vagy azonnali injekcióval manipulálható.
Az útmutató elmagyarázza, hogy a modell által írt kód hibákat tartalmazhat, felesleges erőforrásokat fogyaszthat, vagy követheti a beadott utasításokat, ezért a határokon belül kell futnia, nem pedig közvetlenül a gazdagépen.
A tárolók névtereket és cgroupokat használnak, de mindegyik megosztja a gazdagép kernelt, így a kernel sebezhetősége lehetővé teheti a kilépést. A MicroVM-ek minden munkaterheléshez saját kernelt adnak.
A gVisor a Google-től egy felhasználói tér kernelt futtat, amely kezeli a rendszerhívásokat, csökkentve ezzel, hogy a valódi gazdagép-kernel nem megbízható kódja mennyit érhet el.
A Firecracker a AWS kiszolgáló nélküli terhelésekhez készült, mint például a Lambda és a Fargate, ahol sok elszigetelt munkaterhelésnek gyorsan el kell indulnia.
Ha a beinjektált utasítások miatt az ügynök rosszindulatú kódot ír, az alapértelmezett megtagadó hálózat megakadályozza, hogy a kód kiszűrje az adatokat.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
Tervezési eszközök LLM-ügynökök számára
Műszaki