Műszaki ÚTMUTATÓ

Kódvégrehajtási homokozók ügynökök számára

A kódvégrehajtási sandbox egy elszigetelt környezet, ahol az AI-ügynök lefuttathatja az általa írt kódot anélkül, hogy károsítaná a gazdagépet, elérhetné azokat az adatokat, amelyeket nem látna, vagy korlátlan erőforrásokat használna.

Hallgassa meg ezt az útmutatótAI-narrált · ~3 min

Ezen az oldalon4 perc olvasás
  1. Áttekintés
  2. Mély merülés
  3. Valós megvalósítás
  4. A kódvégrehajtási homokozók jövője ügynökök számára
  5. A gyakorlatba ültetés
  6. Folytassa a felfedezést
  7. Gyakran ismételt kérdések

Áttekintés

Ennek azért van jelentősége, mert a kódot futtatni tudó ügynök sokkal hatékonyabb (tud számolni, elemezni a fájlokat és tesztelni saját munkáját), de a modell által írt kód alapértelmezés szerint nem megbízható, és hibás, pazarló vagy azonnali injekcióval manipulálható.

Mély merülés

Amikor egy ügynök kódot generál, valaminek le kell futnia. A kód közvetlen futtatása fejlesztői laptopon vagy éles szerveren kockázatos: a kód fájlokat törölhet, hitelesítő adatokat olvashat ki a környezeti változókból, szoftvereket telepíthet, kriptovalutát bányászhat, vagy hálózati kapcsolatokat nyithat meg. A homokozó határt szab a kód és minden más között. Az elszigeteltségnek több rétege van, különböző kompromisszumokkal. A szabványos konténerek (például a Docker) Linux névtereket és cgroupokat használnak, hogy a kódnak saját nézetet adjanak a folyamatokról, fájlokról és hálózatról, valamint korlátozzák a CPU-t és a memóriát. Gyorsan indulnak, de minden tároló megosztja a gazdagép kernelét, így a kernel sebezhetősége lehetővé teszi a kód kiszabadulását. A gVisor, a Google nyílt forráskódú projektje egy felhasználói tér kernelt ad hozzá, amely elfogja a rendszerhívásokat, csökkentve azt, hogy a nem megbízható kódok milyen mértékben érinthetik a valódi kernelt. Az eredetileg a AWS által Lambda és Fargate számára készített MicroVM-ek, mint például a Firecracker, minden munkaterheléshez saját könnyű virtuális gépet és kernelt biztosítanak, miközben a másodperc töredéke alatt elindulnak. Az ügynökök (például az E2B) számára fenntartott sandbox-szolgáltatások erre a microVM-megközelítésre épülnek. A legkönnyebb végén a WebAssembly futtatókörnyezetei és az olyan eszközök, mint a Pyodide, futtathatják a Python-t böngészőben vagy Wasm sandboxban közvetlen rendszer-hozzáférés nélkül. Az izolációs technológia csak a fele a tervezésnek. A jó sandboxok emellett korlátozzák a hálózatot (gyakran alapértelmezés szerint tiltják egy engedélyezési listával), a fájlrendszert írásvédett módon csatlakoztatják, kivéve a scratch könyvtárat, teljesen távol tartják a titkokat a környezettől, és érvényesítik az idő-, memória-, folyamatszám- és lemezkorlátokat. Általában mulandóak: feladatonként jönnek létre, majd megsemmisítik. Általános tévhit, hogy a homokozó biztonságossá teszi az ügynököt. Korlátozza magából a kódból származó károkat, de nem akadályozza meg az ügynököt abban, hogy rossz válaszokat adjon, és a homokozóba átadott bármely eszköz vagy hitelesítő adat elérhetővé válik az ott futó kóddal, beleértve a beadott utasításokra válaszul írt kódot is.

Valós megvalósítás

Az adatelemző asszisztens megkapja a feltöltött CSV-fájlt, megírja a panda kódot, hogy megtisztítsa és ábrázolja a trendeket, majd lefuttatja ezt a kódot egy eldobható homokozóban, amely a munkamenet végén törlődik.

A kódoló ügynök a lerakat tesztcsomagját egy tárolóban futtatja kimenő hálózati hozzáférés nélkül, így a rosszindulatú függőségi szkript nem tud forráskódot vagy titkokat küldeni egy külső kiszolgálónak.

Egy oktatási platform lehetővé teszi a diákok számára, hogy felkérjenek egy mesterséges intelligencia oktatót, hogy futtassa le a Python példákat, és minden egyes futtatás néhány másodperces CPU-ra és rögzített memóriakorlátra korlátozódik, így egy véletlen végtelen hurok nem akadályozza meg a szolgáltatást.

Egy kutatócsoport egy microVM-et ad az ügynöknek az adatkészlet csak olvasható másolatával és egyetlen írható kimeneti mappával, így az ügynök az eredeti adatok módosítása vagy törlése nélkül tud eredményeket elérni.

A kódvégrehajtási homokozók jövője ügynökök számára

A kódvégrehajtás az AI-asszisztensek és -ügynökök szabványos képességévé válik, így a sandboxing valószínűleg inkább áruszolgáltatássá válik ésszerű alapértelmezésekkel, mintsem olyasvalamivé, amelyet minden csapat a semmiből épít. A gyorsabb indítás, a pillanatkép és a folytatás, valamint a feladatonként módosítható hálózati és fájl-hozzáférési szabályzatok finomabbá tétele érdekében folyamatos munka várható. A nehezebb nyitott probléma inkább a politika, mint az elszigeteltség: annak eldöntése, hogy mit érhet el az ügynök, és tájékoztatni kell a felhasználókat arról, hogy az ügynökök mikor hajtanak végre hosszabb önálló tevékenységet. Az elkülönítés egy réteg marad a több közül, az engedélyek, a naplózás és az emberi ellenőrzés mellett.

A gyakorlatba ültetés

Miért számít

  • Költség és költségvetés. Az építészeti döntések évekig növelik a teljesítményt és a működési költségeket.
  • Tisztább döntések. A technikai oktatás segít a csapatoknak a megfelelő verem kiválasztásában, nem csak a legújabb készletben.
  • Minőségellenőrzés. A jobb mérnöki döntések csökkentik a termelés megbízhatósági incidenseit.

Vigyázz

  • Egy benchmark optimalizálása elrejtheti a rendszer általános hiányosságait.
  • Az infrastrukturális és karbantartási költségeket gyakran alábecsülik.
  • A biztonsági és megfigyelhetőségi hiányosságok a rendszerek bonyolultabbá válásával nőhetnek.

Következő lépések

  1. Határozza meg a késleltetési, minőségi és költségcélokat a megvalósítás előtt.
  2. Benchmark reális terhelési és adatviszonyok mellett.
  3. Műszerfigyelés a hibák, az eltolódás és a felhasználói hatások szempontjából.
  4. A méretezés előtt készítse elő a visszagörgetési és az incidensre adott válaszútvonalakat.

Folytassa a felfedezést

Ingyenes hírlevél

Szerezze meg a napi AI összefoglalót

Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.

Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.

Teszteld magad

Take the Code Execution Sandboxes for Agents quiz

Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.

Kezdő kvíz

Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt

Gyakran ismételt kérdések

Mi az a kódvégrehajtási homokozó az ügynökök számára?

A kódvégrehajtási sandbox egy elszigetelt környezet, ahol az AI-ügynök lefuttathatja az általa írt kódot anélkül, hogy károsítaná a gazdagépet, elérhetné azokat az adatokat, amelyeket nem látna, vagy korlátlan erőforrásokat használna. Ennek azért van jelentősége, mert a kódot futtatni tudó ügynök sokkal hatékonyabb (tud számolni, elemezni a fájlokat és tesztelni saját munkáját), de a modell által írt kód alapértelmezés szerint nem megbízható, és hibás, pazarló vagy azonnali injekcióval manipulálható.

Miért kezeli a program alapértelmezés szerint az AI-ügynök által írt kódot nem megbízhatónak?

Az útmutató elmagyarázza, hogy a modell által írt kód hibákat tartalmazhat, felesleges erőforrásokat fogyaszthat, vagy követheti a beadott utasításokat, ezért a határokon belül kell futnia, nem pedig közvetlenül a gazdagépen.

Mi a szabványos konténerek fő biztonsági gyengesége a microVM-ekhez képest?

A tárolók névtereket és cgroupokat használnak, de mindegyik megosztja a gazdagép kernelt, így a kernel sebezhetősége lehetővé teheti a kilépést. A MicroVM-ek minden munkaterheléshez saját kernelt adnak.

Mit ad hozzá a gVisor a nem megbízható kód kockázatának csökkentéséhez?

A gVisor a Google-től egy felhasználói tér kernelt futtat, amely kezeli a rendszerhívásokat, csökkentve ezzel, hogy a valódi gazdagép-kernel nem megbízható kódja mennyit érhet el.

A petárda microVM-eket eredetileg a AWS építette, hogy milyen szolgáltatásokat nyújtson?

A Firecracker a AWS kiszolgáló nélküli terhelésekhez készült, mint például a Lambda és a Fargate, ahol sok elszigetelt munkaterhelésnek gyorsan el kell indulnia.

Miért tartják gyakran a kimenő hálózati hozzáférés korlátozását a legfontosabb sandbox-vezérlésnek, amikor lehetséges az azonnali befecskendezés?

Ha a beinjektált utasítások miatt az ügynök rosszindulatú kódot ír, az alapértelmezett megtagadó hálózat megakadályozza, hogy a kód kiszűrje az adatokat.