PANDUAN Teknikal

Kotak Pasir Pelaksanaan Kod untuk Ejen

Kotak pasir pelaksanaan kod ialah persekitaran terpencil di mana ejen AI boleh menjalankan kod yang ditulisnya tanpa boleh membahayakan mesin hos, mencapai data yang tidak sepatutnya dilihat atau menggunakan sumber tanpa had.

Dengar panduan iniAI-diceritakan · ~3 min

Pada halaman ini4 minit membaca
  1. Gambaran keseluruhan
  2. Menyelam dalam
  3. Pelaksanaan Dunia Sebenar
  4. Masa Depan Kotak Pasir Pelaksanaan Kod untuk Ejen
  5. Mempraktikkannya
  6. Teruskan Meneroka
  7. Soalan lazim

Gambaran keseluruhan

Ini penting kerana ejen yang boleh melaksanakan kod jauh lebih berkebolehan (ia boleh mengira, menganalisis fail dan menguji kerjanya sendiri), tetapi kod yang ditulis model tidak dipercayai secara lalai dan boleh menjadi buggy, membazir atau dimanipulasi melalui suntikan segera.

Menyelam dalam

Apabila ejen menjana kod, sesuatu perlu menjalankannya. Menjalankan kod tersebut secara terus pada komputer riba pembangun atau pelayan pengeluaran adalah berisiko: kod itu boleh memadamkan fail, membaca bukti kelayakan daripada pembolehubah persekitaran, memasang perisian, melombong mata wang kripto atau membuka sambungan rangkaian. Kotak pasir meletakkan sempadan antara kod dan segala-galanya. Terdapat beberapa lapisan pengasingan, dengan pertukaran yang berbeza. Bekas standard (contohnya Docker) menggunakan ruang nama dan cgroup Linux untuk memberikan kod pandangan sendiri tentang proses, fail dan rangkaian serta untuk mengehadkan CPU dan memori. Mereka bermula dengan cepat, tetapi setiap bekas berkongsi kernel hos, jadi kerentanan kernel boleh membiarkan kod melarikan diri. gVisor, projek sumber terbuka daripada Google, menambah kernel ruang pengguna yang memintas panggilan sistem, mengecilkan kod yang tidak dipercayai boleh menyentuh kernel sebenar. MicroVM seperti Firecracker, yang asalnya dibina oleh AWS untuk Lambda dan Fargate, memberikan setiap beban kerja mesin maya dan kernelnya sendiri yang ringan sambil masih but dalam sepersekian saat. Perkhidmatan kotak pasir yang dihoskan untuk ejen, seperti E2B, membina pendekatan mikroVM ini. Pada penghujung yang paling ringan, masa jalan dan alatan WebAssembly seperti Pyodide boleh menjalankan Python dalam penyemak imbas atau kotak pasir Wasm tanpa akses sistem langsung. Teknologi pengasingan hanya separuh daripada reka bentuk. Kotak pasir yang baik juga menyekat rangkaian (selalunya menafikan secara lalai dengan senarai yang dibenarkan), lekapkan sistem fail baca sahaja kecuali untuk direktori gores, simpan rahsia daripada persekitaran sepenuhnya dan menguatkuasakan had masa, memori, kiraan proses dan cakera. Mereka biasanya tidak kekal: dicipta setiap tugas dan dimusnahkan selepas itu. Salah tanggapan biasa ialah kotak pasir menjadikan ejen selamat. Ia mengehadkan kerosakan daripada kod itu sendiri, tetapi ia tidak menghalang ejen daripada menghasilkan jawapan yang salah, dan sebarang alat atau kelayakan yang anda masukkan ke dalam kotak pasir boleh dicapai oleh apa-apa kod yang dijalankan di sana, termasuk kod yang ditulis sebagai tindak balas kepada arahan yang disuntik.

Pelaksanaan Dunia Sebenar

Pembantu analisis data menerima CSV yang dimuat naik, menulis kod panda untuk membersihkannya dan memplot arah aliran dan menjalankan kod tersebut dalam kotak pasir pakai buang yang dipadamkan apabila sesi tamat.

Ejen pengekodan menjalankan suite ujian repositori di dalam bekas tanpa akses rangkaian keluar, jadi skrip pergantungan berniat jahat tidak boleh menghantar kod sumber atau rahsia ke pelayan luar.

Platform pendidikan membolehkan pelajar meminta tutor AI untuk menjalankan contoh Python, dengan setiap larian dihadkan pada beberapa saat CPU dan had memori tetap supaya gelung tak terhingga yang tidak disengajakan tidak dapat menghentikan perkhidmatan.

Pasukan penyelidik memberikan ejen mikroVM dengan salinan baca sahaja set data dan satu folder output boleh tulis, supaya ejen boleh menghasilkan hasil tanpa mengubah suai atau memadam data asal.

Masa Depan Kotak Pasir Pelaksanaan Kod untuk Ejen

Pelaksanaan kod menjadi keupayaan standard untuk pembantu dan ejen AI, jadi kotak pasir mungkin akan menjadi lebih kepada perkhidmatan komoditi dengan lalai yang wajar dan bukannya sesuatu yang dibina oleh setiap pasukan dari awal. Jangkakan kerja berterusan pada permulaan yang lebih pantas, gambar dan sambung semula serta dasar yang lebih terperinci untuk akses rangkaian dan fail yang boleh dilaraskan setiap tugas. Masalah terbuka yang lebih sukar ialah dasar dan bukannya pengasingan: memutuskan perkara yang harus dibenarkan untuk dicapai oleh ejen, dan memastikan pengguna dimaklumkan, apabila ejen mengambil tindakan autonomi yang lebih lama. Pengasingan akan kekal sebagai satu lapisan antara beberapa, di samping kebenaran, pembalakan dan semakan manusia.

Mempraktikkannya

Mengapa ia penting

  • Kos dan bajet. Keputusan seni bina memacu prestasi dan kos operasi selama bertahun-tahun.
  • Keputusan yang lebih jelas. Pendidikan teknikal membantu pasukan memilih timbunan yang betul, bukan hanya yang terbaharu.
  • Kawalan kualiti. Pilihan kejuruteraan yang lebih baik mengurangkan insiden kebolehpercayaan dalam pengeluaran.

Berhati-hati untuk

  • Mengoptimumkan satu penanda aras boleh menyembunyikan kelemahan sistem yang lebih luas.
  • Kos infrastruktur dan penyelenggaraan sering dipandang remeh.
  • Jurang keselamatan dan pemerhatian boleh berkembang apabila sistem menjadi lebih kompleks.

Langkah seterusnya

  1. Tentukan sasaran kependaman, kualiti dan kos sebelum pelaksanaan.
  2. Penanda aras di bawah beban realistik dan keadaan data.
  3. Pemantauan instrumen untuk ralat, drift dan kesan pengguna.
  4. Sediakan laluan balik dan tindak balas insiden sebelum penskalaan.

Teruskan Meneroka

Newsletter percuma

Dapatkan taklimat AI harian

Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.

Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.

Uji diri anda

Take the Code Execution Sandboxes for Agents quiz

Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.

Mulakan kuiz

Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma

Soalan lazim

Apakah Kotak Pasir Pelaksanaan Kod untuk Ejen?

Kotak pasir pelaksanaan kod ialah persekitaran terpencil di mana ejen AI boleh menjalankan kod yang ditulisnya tanpa boleh membahayakan mesin hos, mencapai data yang tidak sepatutnya dilihat atau menggunakan sumber tanpa had. Ini penting kerana ejen yang boleh melaksanakan kod jauh lebih berkebolehan (ia boleh mengira, menganalisis fail dan menguji kerjanya sendiri), tetapi kod yang ditulis model tidak dipercayai secara lalai dan boleh menjadi buggy, membazir atau dimanipulasi melalui suntikan segera.

Mengapakah kod yang ditulis oleh ejen AI dianggap sebagai tidak dipercayai secara lalai?

Panduan ini menerangkan bahawa kod yang ditulis model mungkin mengandungi pepijat, menggunakan lebihan sumber atau mengikut arahan yang disuntik, jadi ia harus dijalankan di dalam sempadan dan bukannya terus pada hos.

Apakah kelemahan keselamatan utama bekas standard berbanding dengan mikroVM?

Bekas menggunakan ruang nama dan cgroup tetapi semuanya berkongsi kernel hos, jadi kerentanan kernel boleh membenarkan pelarian. MicroVM memberikan setiap beban kerja kernelnya sendiri.

Apakah yang ditambahkan oleh gVisor untuk mengurangkan risiko daripada kod yang tidak dipercayai?

gVisor, daripada Google, menjalankan kernel ruang pengguna yang mengendalikan panggilan sistem, mengurangkan jumlah kod tidak dipercayai inti hos sebenar boleh sampai.

MikroVM mercun pada asalnya dibina oleh AWS untuk menggerakkan jenis perkhidmatan yang manakah?

Mercun dicipta untuk beban kerja tanpa pelayan AWS seperti Lambda dan Fargate, di mana banyak beban kerja terpencil mesti bermula dengan cepat.

Mengapakah mengehadkan akses rangkaian keluar sering dianggap sebagai kawalan kotak pasir yang paling penting apabila suntikan segera boleh dilakukan?

Jika arahan yang disuntik menyebabkan ejen menulis kod berniat jahat, rangkaian nafi-oleh-lalai menghentikan kod tersebut daripada mengeksfiltrasi data.