صانع الأدوات واستخدام الأدوات التي يتم تدريسها ذاتيًا
Toolformer هي طريقة Meta للذكاء الاصطناعي لعام 2023 تتيح لنموذج اللغة تعليم نفسه متى وكيف يتم استدعاء الأدوات الخارجية مثل الآلات الحاسبة ومحركات البحث والمترجمين.
نظرة عامة
Instead of humans labeling tool calls, the model generates and filters its own training examples, then fine-tunes on the ones that actually help.
الغوص العميق
Toolformer، من شيك وآخرون. في Meta AI، يعالج مفارقة: النماذج الكبيرة رائعة في اللغة ولكنها سيئة في الحساب، والحقائق الجديدة، وعمليات البحث الدقيقة. حلقة التدريب تخضع للإشراف الذاتي. يتم إعطاء النموذج مجموعة من الأمثلة المكتوبة بواسطة الإنسان والتي تعرض بنية استدعاء واجهة برمجة التطبيقات (API)، ثم تتم مطالبته بإدراج استدعاءات مرشحة (ملفوفة برموز خاصة) في العديد من المواضع عبر مجموعة نصية كبيرة. يتم تنفيذ كل استدعاء مرشح فعليًا، ويتم دمج النتيجة. تحافظ خطوة التصفية الرئيسية على استدعاء الأداة فقط إذا كان الحصول على نتيجة واجهة برمجة التطبيقات (API) يقلل من حيرة النموذج بشأن النص الحقيقي القادم أكثر من عدم الاتصال، أو الاتصال بشكل مختلف. يتم بعد ذلك ضبط النموذج على مجموعة البيانات المفلترة والمولدة ذاتيًا، وتعلم كيفية استدعاء خمس أدوات: آلة حاسبة، ونظام ضمان الجودة، ومحرك بحث، ومترجم، وتقويم.
البصيرة الفنية
الفكرة الحاسمة هي هدف التصفية الخاضع للإشراف الذاتي. بالنسبة لكل منصب مرشح، يقوم Toolformer بمقارنة فقدان التنبؤ بالرموز المميزة التالية مع نتيجة واجهة برمجة التطبيقات (API) المُدرجة مقابل عدم وجودها. يتم الاحتفاظ بالمكالمات التي تقلل الخسارة بما يزيد عن الحد الأدنى؛ يتم تجاهل المكالمات غير المفيدة أو المزعجة. وهذا يعني عدم الحاجة إلى أي تعليق توضيحي بشري للاستخدام "الصحيح" للأداة، ويقرر النموذج نفسه أي الاستدعاءات كانت مفيدة حقًا، ويتعلم الموضع والحجج معًا.
التأثير الاستراتيجي
التكلفة والميزانية
تؤدي قرارات الهندسة المعمارية إلى زيادة الأداء وتكلفة التشغيل لسنوات.
قرارات أوضح
يساعد التعليم الفني الفرق على اختيار المجموعة المناسبة، وليس فقط المجموعة الأحدث.
مراقبة الجودة
تعمل الخيارات الهندسية الأفضل على تقليل حوادث الموثوقية في الإنتاج.
مستقبل استخدام الأدوات والأدوات التي يتم تدريسها ذاتيًا
قام Toolformer بزرع وكلاء استخدام الأدوات واستدعاء الوظائف اليوم. وتنتقل الحدود من مجموعة ثابتة من الأدوات إلى العشرات أو المئات التي يتم اكتشافها في وقت التشغيل، مع نماذج تفكر في الأداة التي يجب استدعاؤها، وتسلسل الاستدعاءات، والتعامل مع حالات الفشل. توقع تكاملًا أكثر إحكامًا مع التعلم المعزز وحلقات الوكيل، بالإضافة إلى التعلم الفوري لواجهات برمجة التطبيقات الجديدة، بحيث يصبح استخدام الأدوات المدروسة ذاتيًا قدرة قياسية بدلاً من ضبط دقيق متخصص.
التنفيذ في العالم الحقيقي
استدعاء منتصف الجملة لواجهة برمجة تطبيقات الآلة الحاسبة للحصول على عملية حسابية دقيقة بدلاً من تخمين إجابة رقمية.
الاستعلام عن نظام بحث أو ضمان الجودة لجلب معلومات واقعية محدثة أو نادرًا ما يتم عرضها.
استدعاء أداة الترجمة الآلية لعرض عبارة بلغة أخرى داخل النص الذي تم إنشاؤه.
استخدام أداة التقويم/التاريخ لحل المراجع النسبية مثل "الجمعة القادمة" إلى تاريخ محدد.
المخاطر والدرابزين
يمكن أن يؤدي تحسين معيار واحد إلى إخفاء نقاط ضعف النظام الأوسع.
غالبًا ما يتم التقليل من تكاليف البنية التحتية والصيانة.
يمكن أن تنمو الفجوات الأمنية وقابلية المراقبة عندما تصبح الأنظمة أكثر تعقيدًا.
خارطة طريق التنفيذ
تحديد الكمون والجودة وأهداف التكلفة قبل التنفيذ.
المعيار في ظل ظروف التحميل والبيانات الواقعية.
مراقبة الأدوات للأخطاء والانجراف وتأثير المستخدم.
قم بإعداد مسارات التراجع والاستجابة للحوادث قبل القياس.
استمر في الاستكشاف
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Toolformer and Self-Taught Tool Use quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
الدليل التالي
التأمل الذاتي في حلقات الوكيل
الأسئلة المتداولة
What is Toolformer and Self-Taught Tool Use?
Toolformer هي طريقة Meta للذكاء الاصطناعي لعام 2023 تتيح لنموذج اللغة تعليم نفسه متى وكيف يتم استدعاء الأدوات الخارجية مثل الآلات الحاسبة ومحركات البحث والمترجمين. فبدلاً من تصنيف البشر لاستدعاءات الأداة، يقوم النموذج بإنشاء وتصفية أمثلة التدريب الخاصة به، ثم يقوم بضبط تلك التي تساعد بالفعل.
ما الذي يجعل نهج Toolformer في استخدام أداة التعلم مميزًا؟
يتم الإشراف على Toolformer ذاتيًا: يقترح النموذج استدعاءات واجهة برمجة التطبيقات (API) المرشحة، وينفذها، ويحتفظ فقط بالاستدعاءات المفيدة، دون تعليق توضيحي بشري للاستخدام الصحيح.
ما هو المعيار الذي يستخدمه Toolformer لتحديد ما إذا كان سيتم الاحتفاظ باستدعاء API المرشح؟
يتم الاحتفاظ بالاستدعاء فقط إذا أدى إدراج نتيجته إلى تقليل حيرة/خسارة النموذج في النص الحقيقي القادم بما يتجاوز العتبة، مما يشير إلى أنه كان مفيدًا حقًا.
ما هي مجموعة الأدوات التي تعلم Toolformer الأصلي كيفية استخدامها؟
تم تدريب Toolformer لاستدعاء خمس واجهات برمجة التطبيقات: الآلة الحاسبة، ونظام الإجابة على الأسئلة، ومحرك البحث، والمترجم الآلي، والتقويم.
كيف يتم تمثيل استدعاءات الأداة في النص أثناء عملية Toolformer؟
يتم إدراج مكالمات المرشح ونتائجها المرتجعة بشكل مضمن في النص باستخدام رموز خاصة، بحيث يتعلم النموذج الموضع والوسيطات معًا.
ما هو الضعف الكامن في نماذج اللغة الكبيرة التي حفزت Toolformer؟
على الرغم من المهارات اللغوية القوية، فإن طلاب LLM يعانون من العمليات الحسابية الدقيقة والحقائق الحديثة واسترجاع المعلومات الدقيقة، والتي يمكن أن توفرها الأدوات الخارجية.