SeterusnyaPanduan seterusnya
Alat Reka Bentuk untuk Ejen LLM
Teknikal
PANDUAN Teknikal
Kotak pasir pelaksanaan kod ialah persekitaran terpencil di mana ejen AI boleh menjalankan kod yang ditulisnya tanpa boleh membahayakan mesin hos, mencapai data yang tidak sepatutnya dilihat atau menggunakan sumber tanpa had.
Dengar panduan iniAI-diceritakan · ~3 min
Ini penting kerana ejen yang boleh melaksanakan kod jauh lebih berkebolehan (ia boleh mengira, menganalisis fail dan menguji kerjanya sendiri), tetapi kod yang ditulis model tidak dipercayai secara lalai dan boleh menjadi buggy, membazir atau dimanipulasi melalui suntikan segera.
Apabila ejen menjana kod, sesuatu perlu menjalankannya. Menjalankan kod tersebut secara terus pada komputer riba pembangun atau pelayan pengeluaran adalah berisiko: kod itu boleh memadamkan fail, membaca bukti kelayakan daripada pembolehubah persekitaran, memasang perisian, melombong mata wang kripto atau membuka sambungan rangkaian. Kotak pasir meletakkan sempadan antara kod dan segala-galanya. Terdapat beberapa lapisan pengasingan, dengan pertukaran yang berbeza. Bekas standard (contohnya Docker) menggunakan ruang nama dan cgroup Linux untuk memberikan kod pandangan sendiri tentang proses, fail dan rangkaian serta untuk mengehadkan CPU dan memori. Mereka bermula dengan cepat, tetapi setiap bekas berkongsi kernel hos, jadi kerentanan kernel boleh membiarkan kod melarikan diri. gVisor, projek sumber terbuka daripada Google, menambah kernel ruang pengguna yang memintas panggilan sistem, mengecilkan kod yang tidak dipercayai boleh menyentuh kernel sebenar. MicroVM seperti Firecracker, yang asalnya dibina oleh AWS untuk Lambda dan Fargate, memberikan setiap beban kerja mesin maya dan kernelnya sendiri yang ringan sambil masih but dalam sepersekian saat. Perkhidmatan kotak pasir yang dihoskan untuk ejen, seperti E2B, membina pendekatan mikroVM ini. Pada penghujung yang paling ringan, masa jalan dan alatan WebAssembly seperti Pyodide boleh menjalankan Python dalam penyemak imbas atau kotak pasir Wasm tanpa akses sistem langsung. Teknologi pengasingan hanya separuh daripada reka bentuk. Kotak pasir yang baik juga menyekat rangkaian (selalunya menafikan secara lalai dengan senarai yang dibenarkan), lekapkan sistem fail baca sahaja kecuali untuk direktori gores, simpan rahsia daripada persekitaran sepenuhnya dan menguatkuasakan had masa, memori, kiraan proses dan cakera. Mereka biasanya tidak kekal: dicipta setiap tugas dan dimusnahkan selepas itu. Salah tanggapan biasa ialah kotak pasir menjadikan ejen selamat. Ia mengehadkan kerosakan daripada kod itu sendiri, tetapi ia tidak menghalang ejen daripada menghasilkan jawapan yang salah, dan sebarang alat atau kelayakan yang anda masukkan ke dalam kotak pasir boleh dicapai oleh apa-apa kod yang dijalankan di sana, termasuk kod yang ditulis sebagai tindak balas kepada arahan yang disuntik.
Pembantu analisis data menerima CSV yang dimuat naik, menulis kod panda untuk membersihkannya dan memplot arah aliran dan menjalankan kod tersebut dalam kotak pasir pakai buang yang dipadamkan apabila sesi tamat.
Ejen pengekodan menjalankan suite ujian repositori di dalam bekas tanpa akses rangkaian keluar, jadi skrip pergantungan berniat jahat tidak boleh menghantar kod sumber atau rahsia ke pelayan luar.
Platform pendidikan membolehkan pelajar meminta tutor AI untuk menjalankan contoh Python, dengan setiap larian dihadkan pada beberapa saat CPU dan had memori tetap supaya gelung tak terhingga yang tidak disengajakan tidak dapat menghentikan perkhidmatan.
Pasukan penyelidik memberikan ejen mikroVM dengan salinan baca sahaja set data dan satu folder output boleh tulis, supaya ejen boleh menghasilkan hasil tanpa mengubah suai atau memadam data asal.
Pelaksanaan kod menjadi keupayaan standard untuk pembantu dan ejen AI, jadi kotak pasir mungkin akan menjadi lebih kepada perkhidmatan komoditi dengan lalai yang wajar dan bukannya sesuatu yang dibina oleh setiap pasukan dari awal. Jangkakan kerja berterusan pada permulaan yang lebih pantas, gambar dan sambung semula serta dasar yang lebih terperinci untuk akses rangkaian dan fail yang boleh dilaraskan setiap tugas. Masalah terbuka yang lebih sukar ialah dasar dan bukannya pengasingan: memutuskan perkara yang harus dibenarkan untuk dicapai oleh ejen, dan memastikan pengguna dimaklumkan, apabila ejen mengambil tindakan autonomi yang lebih lama. Pengasingan akan kekal sebagai satu lapisan antara beberapa, di samping kebenaran, pembalakan dan semakan manusia.
Newsletter percuma
Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.
Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.
Uji diri anda
Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.
Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma
Kotak pasir pelaksanaan kod ialah persekitaran terpencil di mana ejen AI boleh menjalankan kod yang ditulisnya tanpa boleh membahayakan mesin hos, mencapai data yang tidak sepatutnya dilihat atau menggunakan sumber tanpa had. Ini penting kerana ejen yang boleh melaksanakan kod jauh lebih berkebolehan (ia boleh mengira, menganalisis fail dan menguji kerjanya sendiri), tetapi kod yang ditulis model tidak dipercayai secara lalai dan boleh menjadi buggy, membazir atau dimanipulasi melalui suntikan segera.
Panduan ini menerangkan bahawa kod yang ditulis model mungkin mengandungi pepijat, menggunakan lebihan sumber atau mengikut arahan yang disuntik, jadi ia harus dijalankan di dalam sempadan dan bukannya terus pada hos.
Bekas menggunakan ruang nama dan cgroup tetapi semuanya berkongsi kernel hos, jadi kerentanan kernel boleh membenarkan pelarian. MicroVM memberikan setiap beban kerja kernelnya sendiri.
gVisor, daripada Google, menjalankan kernel ruang pengguna yang mengendalikan panggilan sistem, mengurangkan jumlah kod tidak dipercayai inti hos sebenar boleh sampai.
Mercun dicipta untuk beban kerja tanpa pelayan AWS seperti Lambda dan Fargate, di mana banyak beban kerja terpencil mesti bermula dengan cepat.
Jika arahan yang disuntik menyebabkan ejen menulis kod berniat jahat, rangkaian nafi-oleh-lalai menghentikan kod tersebut daripada mengeksfiltrasi data.
Teruskan belajar
Lebih banyak panduan dipilih untuk topik ini
SeterusnyaPanduan seterusnya
Alat Reka Bentuk untuk Ejen LLM
Teknikal