الدليل الفني
التأمل الذاتي في حلقات الوكيل
يسمح التأمل الذاتي لعامل الذكاء الاصطناعي بنقد مخرجاته وإجراءاته في منتصف المهمة، ثم المراجعة بناءً على هذا النقد.
استمع إلى هذا الدليلرواه الذكاء الاصطناعي · ~2 min
في هذه الصفحةقراءة لمدة دقيقتين
نظرة عامة
إنه يحول التخمين مرة واحدة إلى نظام يكتشف أخطائه ويصلحها.
الغوص العميق
في حلقة الوكيل، يتخذ نموذج اللغة الإجراءات (أدوات الاتصال، وكتابة التعليمات البرمجية، والإجابة)، ويلاحظ النتائج، ويقرر ما يجب فعله بعد ذلك. يضيف التأمل الذاتي خطوة متعمدة حيث يقوم النموذج بتقييم عمله الأخير قبل المتابعة. أطر عمل مثل Reflexion (2023) تجعل هذا الأمر ملموسًا: بعد محاولة فاشلة، يكتب الوكيل نقدًا لفظيًا قصيرًا ("لقد نسيت التعامل مع حالة القائمة الفارغة") ويخزنه في الذاكرة، لذا فإن المحاولة التالية مشروطة بهذا الدرس. يستخدم Self-Refine نفس النموذج لإنشاء التعليقات ثم إعادة كتابة إجابته بشكل متكرر. يمكن أن يأتي الانعكاس من مقارنة المخرجات بالهدف، أو التحقق من رسائل الخطأ، أو إجراء الاختبارات. وتتمثل النتيجة في موثوقية أعلى في المهام متعددة الخطوات مثل البرمجة والتنقل عبر الويب والرياضيات، حيث غالبًا ما تفشل تمريرة واحدة ولكن تنجح حلقة النقد وإعادة المحاولة.
التنفيذ في العالم الحقيقي
يقوم وكيل التشفير بإجراء اختبار وحدة فاشلة، ويقرأ التتبع، ويكتب انعكاسًا يشير إلى الخطأ المفرد، ويعيد كتابة الوظيفة في تكرار الحلقة التالية.
ينعكس وكيل تصفح الويب الذي نقر على الرابط الخاطئ على الصفحة التي وصل إليها، ويتعرف على عدم التطابق مع هدفه، ويتراجع لتجربة رابط مختلف.
يقوم مساعد البحث بصياغة إجابة، وانتقادها للادعاءات غير المدعومة، ومراجعتها لإضافة الاستشهادات أو التحوط من البيانات غير المؤكدة قبل إعادتها.
يتحقق وكيل حل الرياضيات من إجابته النهائية مقابل قيود المشكلة، ويلاحظ عدم تطابق الوحدة، ويعيد صياغة الحساب بدلاً من تقديم النتيجة المعيبة.
مستقبل التأمل الذاتي في حلقات الوكيل
توقع أن يصبح الانعكاس وكيلًا مدمجًا بدائيًا وليس خدعة تحفيزية، مع نماذج مدربة على معرفة متى يستحق الانعكاس الرموز الإضافية ومتى يحرق الحوسبة. ستؤدي نماذج التحقق وملاحظات التنفيذ إلى زيادة النقد الذاتي بحيث يتوقف العملاء عن الهلوسة بأن الإجابات الخاطئة صحيحة. تستهدف الأبحاث أيضًا وضع الفشل حيث تؤكد النماذج بثقة على العمل السيئ، وتدفع نحو الانعكاس المدروس والمبني على الأدلة ومعايير التوقف المستفادة للحلقة.
وضعها موضع التنفيذ
لماذا يهم
- التكلفة والميزانية. تؤدي قرارات الهندسة المعمارية إلى زيادة الأداء وتكلفة التشغيل لسنوات.
- قرارات أوضح. يساعد التعليم الفني الفرق على اختيار المجموعة المناسبة، وليس فقط المجموعة الأحدث.
- مراقبة الجودة. تعمل الخيارات الهندسية الأفضل على تقليل حوادث الموثوقية في الإنتاج.
احترس من
- يمكن أن يؤدي تحسين معيار واحد إلى إخفاء نقاط ضعف النظام الأوسع.
- غالبًا ما يتم التقليل من تكاليف البنية التحتية والصيانة.
- يمكن أن تنمو الفجوات الأمنية وقابلية المراقبة عندما تصبح الأنظمة أكثر تعقيدًا.
الخطوات التالية
- تحديد الكمون والجودة وأهداف التكلفة قبل التنفيذ.
- المعيار في ظل ظروف التحميل والبيانات الواقعية.
- مراقبة الأدوات للأخطاء والانجراف وتأثير المستخدم.
- قم بإعداد مسارات التراجع والاستجابة للحوادث قبل القياس.
استمر في الاستكشاف
رسالة إخبارية مجانية
احصل على الإحاطة اليومية لمنظمة العفو الدولية
ثلاث قصص تم التحقق منها بواسطة الذكاء الاصطناعي كل صباح من أيام الأسبوع، مكتوبة باللغة الإنجليزية البسيطة. مجاني للأبد، بدون إعلانات.
بريد إلكتروني واحد كل يوم من أيام الأسبوع. إلغاء الاشتراك بنقرة واحدة. نحن لا نبيع أو نشارك عنوانك أبدًا.
اختبر نفسك
Take the Self-Reflection in Agent Loops quiz
تعليقات فورية على كل إجابة، وشهادة قابلة للمشاركة مع معرف يمكن التحقق منه بمجرد اجتياز الدورة التدريبية.
دعم تعليم الذكاء الاصطناعي المجاني. AI Understanding هي منظمة 501(c)(3) غير ربحية - لا إعلانات ولا نظام حظر الاشتراك غير المدفوع على الإطلاق. قم بالتبرع
الأسئلة المتداولة
ما هو الانعكاس الذاتي في حلقات الوكيل؟
يسمح التأمل الذاتي لعامل الذكاء الاصطناعي بنقد مخرجاته وإجراءاته في منتصف المهمة، ثم المراجعة بناءً على هذا النقد. إنه يحول التخمين مرة واحدة إلى نظام يكتشف أخطائه ويصلحها.
ما الذي يضيفه التأمل الذاتي إلى حلقة الوكيل القياسية؟
يُدرج التأمل الذاتي خطوة تقييم ينتقد فيها الوكيل أفعاله أو مخرجاته الأخيرة ويستخدم هذا النقد لتوجيه خطوته التالية.
في إطار الانعكاس، أين يتم تخزين النقد الذاتي للنموذج؟
يحتفظ الانعكاس بالنقد الذاتي اللفظي في مخزن مؤقت للذاكرة العرضية ويغذيه في السياق في التجارب اللاحقة، لذا فإن التعلم يكون في السياق وليس من خلال تحديثات الوزن.
ما هي إشارة ردود الفعل للانعكاس التي تميل إلى أن تكون أكثر موثوقية؟
الإشارات الخارجية المؤرضة مثل الاختبارات الفاشلة أو أخطاء وقت التشغيل تعطي ردود فعل ملموسة وجديرة بالثقة، في حين أن النقد المولد ذاتيًا قد يكون خاطئًا.
ما هو نمط الفشل المعروف للتأمل الذاتي؟
بدون ردود فعل مرتكزة، تقوم النماذج أحيانًا بمراجعة العمل المعيب وتستنتج بشكل غير صحيح أنه جيد، لذلك يعد التحقق الخارجي أمرًا مهمًا.
كيف يؤدي نهج الصقل الذاتي عادة إلى توليد ردود الفعل؟
يحتوي Self-Refine على نموذج واحد ينتج تعليقات على مسودته ثم يقوم بمراجعة الإخراج بشكل متكرر باستخدام تلك التعليقات.
استمر في التعلم
أدلة ذات صلة
تم اختيار المزيد من الأدلة لهذا الموضوع