คู่มือทางเทคนิค

แซนด์บ็อกซ์การดำเนินการโค้ดสำหรับตัวแทน

แซนด์บ็อกซ์การเรียกใช้โค้ดคือสภาพแวดล้อมแบบแยกส่วน ซึ่งเอเจนต์ AI สามารถเรียกใช้โค้ดที่เขียนได้โดยไม่เป็นอันตรายต่อเครื่องโฮสต์ เข้าถึงข้อมูลที่ไม่ควรเห็น หรือใช้ทรัพยากรที่ไม่จำกัด

ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min

บนหน้านี้อ่าน 4 นาที
  1. ภาพรวม
  2. เจาะลึก
  3. การใช้งานจริงในโลกแห่งความเป็นจริง
  4. อนาคตของแซนด์บ็อกซ์การดำเนินการโค้ดสำหรับตัวแทน
  5. การนำไปปฏิบัติ
  6. สำรวจต่อไป
  7. คำถามที่พบบ่อย

ภาพรวม

สิ่งสำคัญคือเนื่องจาก Agent ที่สามารถรันโค้ดนั้นมีความสามารถมากกว่ามาก (สามารถคำนวณ วิเคราะห์ไฟล์ และทดสอบงานของตัวเองได้) แต่โค้ดที่เขียนด้วยแบบจำลองนั้นไม่น่าเชื่อถือตามค่าเริ่มต้น และอาจทำให้เกิดปัญหา สิ้นเปลือง หรือถูกจัดการโดยการฉีดทันที

เจาะลึก

When an agent generates code, something has to run it. Running that code directly on a developer laptop or production server is risky: the code could delete files, read credentials from environment variables, install software, mine cryptocurrency, or open network connections. A sandbox puts a boundary between the code and everything else. There are several layers of isolation, with different trade-offs. Standard containers (for example Docker) use Linux namespaces and cgroups to give code its own view of processes, files and network, and to limit CPU and memory. They start quickly, but every container shares the host's kernel, so a kernel vulnerability can let code escape. gVisor, an open-source project from Google, adds a user-space kernel that intercepts system calls, shrinking what untrusted code can touch on the real kernel. MicroVMs such as Firecracker, originally built by AWS for Lambda and Fargate, give each workload its own lightweight virtual machine and kernel while still booting in a fraction of a second. Hosted sandbox services for agents, such as E2B, build on this microVM approach. At the lightest end, WebAssembly runtimes and tools like Pyodide can run Python in a browser or Wasm sandbox with no direct system access. Isolation technology is only half of the design. Good sandboxes also restrict the network (often deny-by-default with an allowlist), mount the filesystem read-only except for a scratch directory, keep secrets out of the environment entirely, and enforce time, memory, process-count and disk limits. They are usually ephemeral: created per task and destroyed afterward. A common misconception is that a sandbox makes an agent safe. It limits damage from the code itself, but it does not stop an agent from producing wrong answers, and any tool or credential you pass into the sandbox becomes reachable by whatever code runs there, including code written in response to injected instructions.

การใช้งานจริงในโลกแห่งความเป็นจริง

ผู้ช่วยวิเคราะห์ข้อมูลจะได้รับ CSV ที่อัปโหลด เขียนโค้ดแพนด้าเพื่อล้างข้อมูลและวางแผนแนวโน้ม และรันโค้ดนั้นในแซนด์บ็อกซ์แบบใช้แล้วทิ้งซึ่งจะถูกลบเมื่อเซสชันสิ้นสุดลง

เอเจนต์การเขียนโค้ดเรียกใช้ชุดทดสอบของพื้นที่เก็บข้อมูลภายในคอนเทนเนอร์โดยไม่มีการเข้าถึงเครือข่ายขาออก ดังนั้นสคริปต์การพึ่งพาที่เป็นอันตรายจึงไม่สามารถส่งซอร์สโค้ดหรือความลับไปยังเซิร์ฟเวอร์ภายนอกได้

แพลตฟอร์มการศึกษาช่วยให้นักเรียนขอให้ผู้สอน AI เรียกใช้ตัวอย่าง Python ได้ โดยแต่ละครั้งจะจำกัดการทำงานของ CPU ไม่กี่วินาทีและขีดจำกัดหน่วยความจำคงที่ ดังนั้นการวนซ้ำแบบไม่สิ้นสุดโดยไม่ตั้งใจจึงไม่สามารถหยุดบริการได้

ทีมวิจัยมอบ microVM ให้กับตัวแทนพร้อมสำเนาชุดข้อมูลแบบอ่านอย่างเดียวและโฟลเดอร์เอาต์พุตที่เขียนได้เพียงโฟลเดอร์เดียว เพื่อให้ตัวแทนสามารถสร้างผลลัพธ์ได้โดยไม่ต้องแก้ไขหรือลบข้อมูลต้นฉบับ

อนาคตของแซนด์บ็อกซ์การดำเนินการโค้ดสำหรับตัวแทน

การดำเนินการโค้ดกำลังกลายเป็นความสามารถมาตรฐานสำหรับผู้ช่วยและเจ้าหน้าที่ AI ดังนั้นแซนด์บ็อกซ์จึงมีแนวโน้มที่จะกลายเป็นบริการสินค้าโภคภัณฑ์ที่มีค่าเริ่มต้นที่สมเหตุสมผลมากกว่าสิ่งที่แต่ละทีมสร้างขึ้นตั้งแต่ต้น คาดหวังการทำงานอย่างต่อเนื่องในการเริ่มต้น สแนปช็อต และดำเนินการต่อที่รวดเร็วขึ้น และนโยบายที่มีรายละเอียดมากขึ้นสำหรับการเข้าถึงเครือข่ายและไฟล์ที่สามารถปรับได้ตามงาน ปัญหาที่เปิดกว้างกว่านั้นคือนโยบายมากกว่าการแยกตัว: การตัดสินใจเลือกสิ่งที่ตัวแทนควรได้รับอนุญาตให้เข้าถึง และแจ้งให้ผู้ใช้ทราบเมื่อตัวแทนดำเนินการโดยอัตโนมัตินานขึ้น การแยกจะยังคงเป็นชั้นหนึ่งในหลายชั้น ควบคู่ไปกับการอนุญาต การบันทึก และการตรวจสอบโดยเจ้าหน้าที่

การนำไปปฏิบัติ

ทำไมมันถึงสำคัญ

  • ต้นทุนและงบประมาณ. การตัดสินใจด้านสถาปัตยกรรมขับเคลื่อนประสิทธิภาพและต้นทุนการดำเนินงานเป็นเวลาหลายปี
  • การตัดสินใจที่ชัดเจนยิ่งขึ้น. การศึกษาด้านเทคนิคช่วยให้ทีมเลือกกลุ่มที่เหมาะสม ไม่ใช่แค่กลุ่มใหม่ล่าสุด
  • การควบคุมคุณภาพ. ตัวเลือกทางวิศวกรรมที่ดีกว่าจะช่วยลดเหตุการณ์ด้านความน่าเชื่อถือในการผลิต

ระวัง

  • การเพิ่มประสิทธิภาพเกณฑ์มาตรฐานหนึ่งรายการสามารถซ่อนจุดอ่อนของระบบในวงกว้างได้
  • ต้นทุนโครงสร้างพื้นฐานและการบำรุงรักษามักถูกประเมินต่ำไป
  • ช่องว่างด้านความปลอดภัยและความสามารถในการสังเกตสามารถเพิ่มขึ้นได้เมื่อระบบมีความซับซ้อนมากขึ้น

ขั้นตอนต่อไป

  1. กำหนดเป้าหมายเวลาแฝง คุณภาพ และต้นทุนก่อนนำไปใช้งาน
  2. เกณฑ์มาตรฐานภายใต้สภาวะโหลดและข้อมูลจริง
  3. การตรวจสอบเครื่องมือเพื่อหาข้อผิดพลาด การเบี่ยงเบน และผลกระทบต่อผู้ใช้
  4. เตรียมเส้นทางการย้อนกลับและการตอบสนองต่อเหตุการณ์ก่อนปรับขนาด

สำรวจต่อไป

จดหมายข่าวฟรี

รับสรุป AI รายวัน

เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา

อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ

ทดสอบตัวเอง

ทำแบบทดสอบ Code Execution Sandboxes สำหรับ Agents

ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร

เริ่มแบบทดสอบ

สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค

คำถามที่พบบ่อย

Code Execution Sandboxes สำหรับตัวแทนคืออะไร?

แซนด์บ็อกซ์การเรียกใช้โค้ดคือสภาพแวดล้อมแบบแยกส่วน ซึ่งเอเจนต์ AI สามารถเรียกใช้โค้ดที่เขียนได้โดยไม่เป็นอันตรายต่อเครื่องโฮสต์ เข้าถึงข้อมูลที่ไม่ควรเห็น หรือใช้ทรัพยากรที่ไม่จำกัด สิ่งสำคัญคือเนื่องจาก Agent ที่สามารถรันโค้ดนั้นมีความสามารถมากกว่ามาก (สามารถคำนวณ วิเคราะห์ไฟล์ และทดสอบงานของตัวเองได้) แต่โค้ดที่เขียนด้วยแบบจำลองนั้นไม่น่าเชื่อถือตามค่าเริ่มต้น และอาจทำให้เกิดปัญหา สิ้นเปลือง หรือถูกจัดการโดยการฉีดทันที

เหตุใดโค้ดที่เขียนโดยตัวแทน AI จึงถือว่าไม่น่าเชื่อถือตามค่าเริ่มต้น

คู่มืออธิบายว่าโค้ดที่เขียนด้วยโมเดลอาจมีจุดบกพร่อง ใช้ทรัพยากรส่วนเกิน หรือปฏิบัติตามคำแนะนำที่แทรกไว้ ดังนั้นจึงควรทำงานภายในขอบเขตแทนที่จะทำงานบนโฮสต์โดยตรง

จุดอ่อนด้านความปลอดภัยหลักของคอนเทนเนอร์มาตรฐานเมื่อเปรียบเทียบกับ microVM คืออะไร

คอนเทนเนอร์ใช้เนมสเปซและ cgroups แต่ทั้งหมดใช้เคอร์เนลของโฮสต์ร่วมกัน ดังนั้นช่องโหว่ของเคอร์เนลจึงสามารถทำให้เกิดการหลบหนีได้ MicroVM จะทำให้แต่ละเวิร์กโหลดเคอร์เนลเป็นของตัวเอง

gVisor เพิ่มอะไรเพื่อลดความเสี่ยงจากโค้ดที่ไม่น่าเชื่อถือ

gVisor จาก Google เรียกใช้เคอร์เนลพื้นที่ผู้ใช้ที่จัดการการเรียกของระบบ ช่วยลดจำนวนโค้ดที่ไม่น่าเชื่อถือของเคอร์เนลโฮสต์จริงที่สามารถเข้าถึงได้

Firecracker microVM เดิมสร้างขึ้นโดย AWS เพื่อขับเคลื่อนบริการประเภทใด

Firecracker ถูกสร้างขึ้นสำหรับปริมาณงานแบบไร้เซิร์ฟเวอร์ AWS เช่น Lambda และ Fargate ซึ่งปริมาณงานแบบแยกส่วนจำนวนมากต้องเริ่มต้นอย่างรวดเร็ว

เหตุใดการจำกัดการเข้าถึงเครือข่ายขาออกจึงมักถูกมองว่าเป็นการควบคุมแซนด์บ็อกซ์ที่สำคัญที่สุด เมื่อสามารถทำได้พร้อมท์

หากคำสั่งที่แทรกเข้าไปทำให้เอเจนต์เขียนโค้ดที่เป็นอันตราย เครือข่ายที่ปฏิเสธโดยค่าเริ่มต้นจะหยุดโค้ดนั้นจากการขโมยข้อมูล

เรียนรู้ต่อไป

คำแนะนำที่เกี่ยวข้อง

คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้

รับใบรับรอง AI ฟรีหลักสูตรและการสอบสั้น ๆ ฟรี ไม่มีค่าใช้จ่าย ไม่มีบัตรเครดิต ประมาณ 2.5 ชั่วโมงเริ่มต้นฟรี →