دليل التطبيقات

وكلاء الذكاء الاصطناعي

وكيل الذكاء الاصطناعي هو نظام يستخدم الملاحظات والهدف لاختيار الأفعال، غالبا من خلال الأدوات، ثم يقيم ما حدث.

استمع إلى هذا الدليلرواه الذكاء الاصطناعي · ~2 min

في هذه الصفحةقراءة لمدة دقيقتين
  1. نظرة عامة
  2. النقاط الرئيسية
  3. الغوص العميق
  4. تحديد الانتهاء قبل التصرف
  5. التنفيذ في العالم الحقيقي
  6. وضعها موضع التنفيذ
  7. المصادر ومزيد من القراءة
  8. استمر في الاستكشاف
  9. الأسئلة المتداولة

نظرة عامة

تستخدم المنتجات المصطلح بشكل مختلف. والأسئلة العملية هي ما الذي يمكن للنظام أن يفعله، وتحت سلطته، وكيف يتم التحقق من اكتماله.

النقاط الرئيسية

  1. تحديد السلطة وشروط التوقف.
  2. التعامل مع التعليمات الخارجية كمحتوى غير موثوق به.
  3. التحقق من الحالة النهائية والكشف عن الإكمال الجزئي.

الغوص العميق

تراقب حلقة الوكيل النموذجية الحالة الحالية، وتختار الإجراء، وتتلقى نتيجة، وتقرر ما إذا كانت ستستمر أم لا. قد يشارك النموذج في التخطيط أو اختيار الإجراء، بينما تقوم البرامج العادية بفرض الأذونات والميزانيات وعقود الأدوات. تحديد شروط التوقف قبل التنفيذ. يمكن أن تكون المهمة كاملة، أو محظورة، أو ملغاة، أو يتم إنجازها جزئيًا فقط. يمكن أن تؤدي المحاولات المتكررة دون أدلة جديدة إلى إهدار الموارد أو تكرار الآثار الجانبية الضارة. الحد من عدد الإجراءات، والوقت المنقضي، والإنفاق حيثما كان ذلك مناسبًا. يمكن أن يحتوي المحتوى الخارجي على تعليمات تتعارض مع هدف المستخدم. تعامل مع الصفحات والرسائل واستجابات الأدوات وفقًا لمستوى الثقة الخاص بها. الوثيقة التي تصف الإجراء لا تمنح الإذن بتنفيذه. تقييم النتائج الحقيقية. بالنسبة لوكيل تحرير الملفات، قم بفحص الملفات النهائية وإجراء عمليات الفحص المناسبة. بالنسبة لسير عمل الحساب، تحقق من الحساب والحالة المقصودين. سجل ما يكفي من الأدلة لشرح ما تغير وما لا يزال غير مؤكد. ويزيد المزيد من الاستقلالية من أهمية الحدود الواضحة وإجراءات التعافي.

04عملت المثال

تحديد الانتهاء قبل التصرف

  1. لنفترض أنه يجب على الوكيل إنشاء مسودة حدث ليوم الثلاثاء الساعة 2 ظهرًا. في تقويم محدد.

  2. تتضمن الشروط اللاحقة التقويم الصحيح والتاريخ والمنطقة الزمنية والعنوان وحالة المسودة. إن الاستجابة الناجحة للأداة وحدها لا تكفي إذا تم حفظها في تقويم آخر.

  3. اقرأ السجل الناتج وأبلغ عن أي عدم تطابق قبل الإعلان عن اكتمال المهمة.

ما يظهر

يوضح سير العمل المخترع التحقق القائم على النتائج.

التنفيذ في العالم الحقيقي

قم بإصلاح الاختبار الفاشل، ثم أعد تشغيله وافحص التغيير.

جمع السجلات المعتمدة وإنتاج تقرير بمصادر يمكن تتبعها.

وضعها موضع التنفيذ

لماذا يهم

  • خيارات البناء. يحدد التصميم على مستوى التطبيق ما إذا كان الذكاء الاصطناعي سيحسن النتائج الحقيقية.
  • الفريق وسير العمل. يؤدي التكامل الجيد لسير العمل إلى تحقيق مكاسب إنتاجية يمكن للمستخدمين الوثوق بها.
  • المخاطر والسلامة. تعمل حالات الاستخدام ذات النطاق الجيد على تقليل إجهاد التغيير ومخاطر التنفيذ.

احترس من

  • يمكن أن تؤدي أتمتة عملية معطلة إلى تضخيم المشاكل الموجودة.
  • قد تقوم الفرق بالإفراط في أتمتة وإزالة الحكم البشري المطلوب.
  • يمكن أن تنحرف الجودة إذا لم يتم تقييم المخرجات بشكل مستمر.

الخطوات التالية

  1. قم بتخطيط سير العمل الحالي وحدد خطوة الاحتكاك الأعلى.
  2. تحديد نقاط التفتيش البشرية قبل الأتمتة الكاملة.
  3. تدريب المستخدمين على المطالبات ومسارات التصعيد ومعايير الجودة.
  4. تتبع النتائج على مستوى المهمة لتأكيد القيمة المستدامة.

المصادر ومزيد من القراءة

  1. OWASPالوكالة المفرطة في تطبيقات LLM

استمر في الاستكشاف

رسالة إخبارية مجانية

احصل على الإحاطة اليومية لمنظمة العفو الدولية

ثلاث قصص تم التحقق منها بواسطة الذكاء الاصطناعي كل صباح من أيام الأسبوع، مكتوبة باللغة الإنجليزية البسيطة. مجاني للأبد، بدون إعلانات.

بريد إلكتروني واحد كل يوم من أيام الأسبوع. إلغاء الاشتراك بنقرة واحدة. نحن لا نبيع أو نشارك عنوانك أبدًا.

اختبر نفسك

Take the AI Agents quiz

تعليقات فورية على كل إجابة، وشهادة قابلة للمشاركة مع معرف يمكن التحقق منه بمجرد اجتياز الدورة التدريبية.

ابدأ الاختبار

دعم تعليم الذكاء الاصطناعي المجاني. AI Understanding هي منظمة 501(c)(3) غير ربحية - لا إعلانات ولا نظام حظر الاشتراك غير المدفوع على الإطلاق. قم بالتبرع

الأسئلة المتداولة

هل يحتاج الوكيل إلى وصول غير مقيد؟

لا. يمكن للأدوات والأذونات الضيقة أن تدعم العمل المفيد مع الحد من عواقب الأخطاء.