PANDUAN Aplikasi

Agen AI

Agen AI adalah sistem yang menggunakan observasi dan tujuan untuk memilih tindakan, seringkali melalui alat, dan kemudian mengevaluasi apa yang terjadi.

Dengarkan panduan iniDiceritakan oleh AI · ~2 min

Di halaman ini2 menit membaca
  1. Ikhtisar
  2. Poin-poin utama
  3. Menyelam Lebih Dalam
  4. Tentukan penyelesaian sebelum bertindak
  5. Implementasi Dunia Nyata
  6. Mempraktikkannya
  7. Sumber dan bacaan lebih lanjut
  8. Terus Menjelajah
  9. Pertanyaan yang sering diajukan

Ikhtisar

Produk menggunakan istilah ini secara berbeda. Pertanyaan praktisnya adalah apa yang bisa dilakukan sistem, di bawah otoritas siapa, dan bagaimana penyelesaiannya diverifikasi.

Poin-poin utama

  1. Tentukan otoritas dan kondisi penghentian.
  2. Perlakukan instruksi eksternal sebagai konten yang tidak tepercaya.
  3. Verifikasi keadaan akhir dan ungkapkan penyelesaian sebagian.

Menyelam Lebih Dalam

Perulangan agen tipikal mengamati keadaan saat ini, memilih tindakan, menerima hasil, dan memutuskan apakah akan melanjutkan. Model dapat berpartisipasi dalam perencanaan atau pemilihan tindakan, sementara perangkat lunak biasa menerapkan izin, anggaran, dan kontrak alat. Tentukan kondisi penghentian sebelum eksekusi. Suatu tugas bisa selesai, diblokir, dibatalkan, atau hanya tercapai sebagian. Upaya yang berulang-ulang tanpa bukti baru dapat menyia-nyiakan sumber daya atau mengulangi efek samping yang merugikan. Batasi jumlah tindakan, waktu yang telah berlalu, dan pengeluaran jika relevan. Konten eksternal dapat berisi instruksi yang bertentangan dengan tujuan pengguna. Perlakukan halaman, pesan, dan respons alat sesuai dengan tingkat kepercayaannya. Sebuah dokumen yang menjelaskan suatu tindakan tidak memberikan izin untuk melaksanakannya. Evaluasi hasil nyata. Untuk agen pengeditan file, periksa file akhir dan jalankan pemeriksaan yang sesuai. Untuk alur kerja akun, verifikasi akun dan status yang dimaksud. Catat bukti yang cukup untuk menjelaskan apa yang berubah dan apa yang masih belum pasti. Otonomi yang lebih besar meningkatkan pentingnya batasan yang jelas dan prosedur pemulihan.

04Contoh yang berhasil

Tentukan penyelesaian sebelum bertindak

  1. Misalkan seorang agen harus membuat draf acara untuk hari Selasa pukul 14.00. dalam kalender tertentu.

  2. Kondisi pasca mencakup kalender, tanggal, zona waktu, judul, dan status draf yang benar. Respons alat yang berhasil saja tidak cukup jika disimpan ke kalender lain.

  3. Baca catatan yang dihasilkan dan laporkan setiap ketidakcocokan sebelum menyatakan tugas selesai.

Apa yang ditunjukkannya

Alur kerja yang diciptakan menunjukkan verifikasi berbasis hasil.

Implementasi Dunia Nyata

Perbaiki pengujian yang gagal, lalu jalankan kembali dan periksa perubahannya.

Kumpulkan catatan resmi dan buat laporan dengan sumber yang dapat dilacak.

Mempraktikkannya

Mengapa itu penting

  • Pilihan Build. Desain tingkat aplikasi menentukan apakah AI meningkatkan hasil nyata.
  • Tim dan alur kerja. Integrasi alur kerja yang baik menciptakan peningkatan produktivitas yang dapat dipercaya oleh pengguna.
  • Risiko dan keselamatan. Kasus penggunaan yang tercakup dengan baik mengurangi kelelahan perubahan dan risiko implementasi.

Hati-hati

  • Mengotomatiskan proses yang rusak dapat memperburuk masalah yang ada.
  • Tim mungkin terlalu mengotomatiskan dan menghilangkan penilaian manusia yang diperlukan.
  • Kualitas dapat menurun jika keluaran tidak dievaluasi secara terus menerus.

Langkah selanjutnya

  1. Petakan alur kerja saat ini dan identifikasi langkah dengan gesekan tertinggi.
  2. Tentukan pos pemeriksaan manusia sebelum otomatisasi penuh.
  3. Latih pengguna tentang petunjuk, jalur eskalasi, dan standar kualitas.
  4. Lacak hasil tingkat tugas untuk memastikan nilai berkelanjutan.

Sumber dan bacaan lebih lanjut

  1. OWASPAgensi yang berlebihan dalam aplikasi LLM

Terus Menjelajah

Buletin gratis

Dapatkan pengarahan AI harian

Tiga cerita AI terverifikasi setiap pagi hari kerja, ditulis dalam bahasa Inggris sederhana. Gratis selamanya, tanpa iklan.

Satu email setiap hari kerja. Berhenti berlangganan dalam satu klik. Kami tidak pernah menjual atau membagikan alamat Anda.

Uji diri Anda sendiri

Ikuti kuis AI Agents

Umpan balik instan untuk setiap jawaban, dan sertifikat yang dapat dibagikan dengan ID yang dapat diverifikasi setelah Anda lulus kursus.

Mulai kuis

Mendukung pendidikan AI gratis. AI Understanding adalah organisasi nirlaba 501(c)(3) — tanpa iklan, tanpa paywall, selamanya. Berikan sumbangan

Pertanyaan yang sering diajukan

Apakah agen memerlukan akses tidak terbatas?

Tidak. Alat dan izin yang sempit dapat mendukung pekerjaan yang bermanfaat sekaligus membatasi konsekuensi kesalahan.