وكلاء الإنسان في الحلقة
وكلاء Human-in-the-loop (HITL) عبارة عن أنظمة ذكاء اصطناعي تتوقف مؤقتًا للحصول على موافقة الشخص أو تصحيحه أو إدخاله قبل اتخاذ الإجراءات اللاحقة.
نظرة عامة
They keep a human accountable for high-stakes decisions while still letting automation do the heavy lifting.
الغوص العميق
الوكيل المستقل تمامًا يقرر ويتصرف من تلقاء نفسه؛ يقوم وكيل الإنسان في الحلقة بإدخال نقطة تفتيش حيث يقوم الشخص بمراجعة الإجراء المقترح للوكيل قبل تنفيذه. تشمل الأنماط الشائعة بوابات الموافقة (يقوم الوكيل بصياغة بريد إلكتروني أو استرداد أموال وينتظر نقرة للإرسال)، والتصعيد القائم على الثقة (إنه يقاطع الإنسان فقط عندما ينخفض يقينه إلى ما دون الحد الأدنى)، والتعلم النشط (يتم توجيه الحالات غير المؤكدة إلى الأشخاص، الذين تصبح إجاباتهم بيانات تدريب مستقبلية). الهدف هو الجمع بين سرعة وحجم الأتمتة مع الحكم البشري، والمساءلة، والقدرة على اكتشاف الأخطاء قبل أن تسبب الضرر. بالنسبة إلى منظمة غير ربحية، قد يعني هذا وكيلًا يقوم بصياغة استجابات المنح ولكنه لا يرسل أبدًا وكيلًا غير تابع مع تسجيل خروج الموظفين.
البصيرة الفنية
من الناحية الفنية، يتم تنفيذ HITL كمقاطعة أو بوابة استدعاء أداة في حلقة التحكم الخاصة بالوكيل. عندما يقترح الوكيل إجراءً حساسًا، يقوم المنسق بتعليق التنفيذ، وإجراء تسلسل لحالة الوكيل، وإرسال طلب للمراجعة البشرية. يوافق الشخص أو يعدل أو يرفض؛ يتم تغذية هذه الاستجابة كسياق وتستأنف الحلقة. تحدد درجات الثقة أو تقديرات عدم اليقين أو قواعد السياسة الإجراءات التي تؤدي إلى الإيقاف المؤقت مقابل التشغيل تلقائيًا.
التأثير الاستراتيجي
خيارات البناء
يحدد التصميم على مستوى التطبيق ما إذا كان الذكاء الاصطناعي سيحسن النتائج الحقيقية.
الفريق وسير العمل
يؤدي التكامل الجيد لسير العمل إلى تحقيق مكاسب إنتاجية يمكن للمستخدمين الوثوق بها.
المخاطر والسلامة
تعمل حالات الاستخدام ذات النطاق الجيد على تقليل إجهاد التغيير ومخاطر التنفيذ.
مستقبل وكلاء الإنسان في الحلقة
توقع تحكمًا أكثر دقة من الموافقة/الرفض الثنائي. سوف يطرح الوكلاء بشكل متزايد أسئلة توضيحية، ويقدمون العديد من الخيارات مع المقايضات، ويتعلمون مدى تحمل كل مستخدم للمخاطر بحيث يقل انقطاعهم بمرور الوقت. وتدفع اللوائح التنظيمية مثل قانون الاتحاد الأوروبي للذكاء الاصطناعي إلى الإشراف البشري على الاستخدامات عالية المخاطر، لذا أصبحت نقاط تفتيش HITL من متطلبات الامتثال، وليس مجرد اختيار تصميم. إن أدوات الموافقات غير المتزامنة، ومسارات التدقيق، وحالة وكيل "الإيقاف المؤقت والاستئناف" تنضج بسرعة.
التنفيذ في العالم الحقيقي
يقوم وكيل دعم العملاء بصياغة موافقات استرداد الأموال ولكنه يقوم بتوجيه أي استرداد يزيد عن 500 دولار إلى مدير بشري لتسجيل الخروج بنقرة واحدة.
يشير الذكاء الاصطناعي للترميز الطبي إلى تشخيصات غامضة ليقوم المبرمج المعتمد بتأكيدها بدلاً من التخمين.
يقوم نظام الإشراف على المحتوى بإزالة الرسائل غير المرغوب فيها بشكل تلقائي ولكنه يؤدي إلى تصعيد المشاركات الحدودية إلى المراجعين البشريين.
يقترح وكيل الترميز ترحيل قاعدة البيانات وينتظر موافقة المطور قبل تشغيله في الإنتاج.
المخاطر والدرابزين
يمكن أن تؤدي أتمتة عملية معطلة إلى تضخيم المشاكل الموجودة.
قد تقوم الفرق بالإفراط في أتمتة وإزالة الحكم البشري المطلوب.
يمكن أن تنحرف الجودة إذا لم يتم تقييم المخرجات بشكل مستمر.
خارطة طريق التنفيذ
قم بتخطيط سير العمل الحالي وحدد خطوة الاحتكاك الأعلى.
تحديد نقاط التفتيش البشرية قبل الأتمتة الكاملة.
تدريب المستخدمين على المطالبات ومسارات التصعيد ومعايير الجودة.
تتبع النتائج على مستوى المهمة لتأكيد القيمة المستدامة.
استمر في الاستكشاف
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Human-in-the-Loop Agents quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
الدليل التالي
التأمل الذاتي في حلقات الوكيل
الأسئلة المتداولة
What is Human-in-the-Loop Agents?
وكلاء Human-in-the-loop (HITL) عبارة عن أنظمة ذكاء اصطناعي تتوقف مؤقتًا للحصول على موافقة الشخص أو تصحيحه أو إدخاله قبل اتخاذ الإجراءات اللاحقة. إنهم يبقون الإنسان مسؤولاً عن القرارات عالية المخاطر بينما يسمحون للأتمتة بالقيام بالمهمة الثقيلة.
ما الذي يميز الوكيل البشري المتواجد في الحلقة مقارنةً بالوكيل المستقل تمامًا؟
السمة المميزة هي نقطة تفتيش بشرية حيث يقوم الشخص بمراجعة الإجراء المقترح للوكيل أو تحريره أو الموافقة عليه قبل تنفيذه.
ما هو نمط "التصعيد القائم على الثقة" في نظام HITL؟
يقوم التصعيد القائم على الثقة بتوجيه الحالات غير المؤكدة فقط إلى الأشخاص، مما يسمح للوكيل بالتعامل مع الحالات عالية الثقة تلقائيًا.
كيف يتم تنفيذ نقطة التفتيش البشرية عادةً داخل حلقة التحكم الخاصة بالوكيل؟
يقوم المنسق بتعليق الحلقة وحفظ الحالة وإرسال طلب للمراجعة البشرية؛ استجابة الإنسان تستأنف التنفيذ.
في "التعلم النشط"، ماذا يحدث للحالات التي يحلها الإنسان؟
يوجه التعلم النشط الحالات غير المؤكدة إلى البشر ويستخدم إجاباتهم المصنفة لتحسين النموذج بمرور الوقت.
لماذا تعتبر اللوائح مثل قانون الاتحاد الأوروبي للذكاء الاصطناعي ذات صلة بوكلاء HITL؟
يتطلب قانون الاتحاد الأوروبي للذكاء الاصطناعي إشرافًا بشريًا هادفًا على التطبيقات عالية المخاطر، مما يجعل نقاط تفتيش HITL ضرورة للامتثال.