التاليالدليل التالي
استخراج العلاقة من النص
لغة الذكاء الاصطناعي
دليل اللغة AI
T5 ونقل النص إلى نص
يعيد T5 (محول نقل النص إلى النص)، بدءًا من Google في عام 2019، صياغة كل مهمة من مهام البرمجة اللغوية العصبية (NLP)، والترجمة، والتلخيص، والتصنيف، وحتى الانحدار، مثل تغذية النص وإخراج النص.
استمع إلى هذا الدليلرواه الذكاء الاصطناعي · ~2 min
في هذه الصفحةقراءة لمدة دقيقتين
نظرة عامة
يتيح هذا التنسيق الفردي الموحد لنموذج واحد ووصفة تدريب واحدة التعامل مع العشرات من المهام.
الغوص العميق
الفكرة المركزية لـ T5 هي أن أي مهمة لغة يمكن تحويلها إلى نص: الإدخال عبارة عن سلسلة ذات بادئة مهمة، والإخراج دائمًا عبارة عن سلسلة. تصبح الترجمة "ترجمة من الإنجليزية إلى الألمانية: ..." لإنتاج نص ألماني؛ تصبح المشاعر "جملة sst2: ..." لتنتج الكلمة الحرفية "إيجابية" أو "سلبية". يستخدم محول التشفير وفك التشفير الكامل، على عكس BERT المشفر فقط أو GPT المخصص لوحدة فك التشفير فقط. تم تدريب T5 مسبقًا على مجموعة C4 (Colossal Clean Crawled Corpus، حوالي 750 جيجابايت من نص الويب المنظف) بهدف مكافحة الفساد: يتم إخفاء النطاقات العشوائية من الرموز المميزة واستبدالها برموز حارسة، ويتعلم النموذج إنشاء النطاقات المفقودة. قامت الدراسة المصاحبة بمقارنة البنى والأهداف وأحجام مجموعات البيانات بشكل منهجي للعثور على ما يمكن نقله بشكل أفضل.
التنفيذ في العالم الحقيقي
التلخيص التجريدي: البادئة "تلخيص:" قبل المقالة تجعل T5 ينشئ ملخصًا موجزًا بكلماته الخاصة.
الترجمة الآلية: يتعامل نموذج T5 واحد مع أزواج لغات متعددة عبر بادئات مثل "ترجمة من الإنجليزية إلى الفرنسية:".
يتبع FLAN-T5 تعليمات اللغة الطبيعية للإجابة على الأسئلة والاستدلال دون إعادة التدريب على مهمة محددة.
الإجابة على أسئلة الكتاب المغلق: يجيب T5 على الأسئلة الواقعية مباشرة كنص تم إنشاؤه، بالاعتماد على المعرفة المخزنة في أوزانه.
مستقبل T5 ونقل النص إلى نص
أصبح نموذج تحويل النص إلى نص مؤثرًا بشكل كبير: حيث تقوم أحفاد ضبط التعليمات مثل FLAN-T5 بتعميم المهام غير المرئية من تعليمات اللغة الطبيعية، كما أنذر التنسيق الموحد بنماذج اللغة الكبيرة الموجهة بسرعة في يومنا هذا. توقع استمرار استخدام أجهزة فك التشفير وفك التشفير T5 للتلخيص والترجمة والتوليد المنظم، بالإضافة إلى المتغيرات متعددة اللغات مثل mT5 والخلفاء الذين يركزون على الكفاءة، حتى عندما تهيمن نماذج وحدة فك التشفير فقط على تطبيقات الدردشة المفتوحة.
وضعها موضع التنفيذ
لماذا يهم
- السرعة والحجم. يمكن أن تتحرك مسارات عمل اللغة بشكل أسرع دون التضحية بالاتساق.
- الوصول والوصول. فهو يوسع الوصول عبر اللغات وأنماط الاتصال.
- قرارات أوضح. يمكن للفرق قضاء المزيد من الوقت في الحكم بينما تتعامل الأتمتة مع التكرار.
احترس من
- يمكن للحقائق المهلوسة إدخال التقارير أو تدفقات الدعم أو مخرجات البحث بهدوء.
- يمكن أن تؤدي الحساسية السريعة إلى نتائج غير متناسقة عبر الطلبات المماثلة.
- قد يتم كشف البيانات النصية الحساسة إذا كانت عناصر التحكم في الوصول ضعيفة.
الخطوات التالية
- حدد تنسيق الإخراج والنغمة ومعايير الجودة قبل بدء التشغيل.
- استجابات أرضية من مصادر موثوقة عندما تكون الدقة مهمة.
- احتفظ بنقطة تفتيش للمراجعة البشرية للمخرجات عالية المخاطر.
- تتبع أنماط الفشل وأعد تدريب المطالبات أو سير العمل بانتظام.
استمر في الاستكشاف
رسالة إخبارية مجانية
احصل على الإحاطة اليومية لمنظمة العفو الدولية
ثلاث قصص تم التحقق منها بواسطة الذكاء الاصطناعي كل صباح من أيام الأسبوع، مكتوبة باللغة الإنجليزية البسيطة. مجاني للأبد، بدون إعلانات.
بريد إلكتروني واحد كل يوم من أيام الأسبوع. إلغاء الاشتراك بنقرة واحدة. نحن لا نبيع أو نشارك عنوانك أبدًا.
اختبر نفسك
Take the T5 and Text-to-Text Transfer quiz
تعليقات فورية على كل إجابة، وشهادة قابلة للمشاركة مع معرف يمكن التحقق منه بمجرد اجتياز الدورة التدريبية.
دعم تعليم الذكاء الاصطناعي المجاني. AI Understanding هي منظمة 501(c)(3) غير ربحية - لا إعلانات ولا نظام حظر الاشتراك غير المدفوع على الإطلاق. قم بالتبرع
الأسئلة المتداولة
ما هو T5 ونقل النص إلى نص؟
يعيد T5 (محول نقل النص إلى النص)، بدءًا من Google في عام 2019، صياغة كل مهمة من مهام البرمجة اللغوية العصبية (NLP)، والترجمة، والتلخيص، والتصنيف، وحتى الانحدار، مثل تغذية النص وإخراج النص. يتيح هذا التنسيق الفردي الموحد لنموذج واحد ووصفة تدريب واحدة التعامل مع العشرات من المهام.
ما هي الفكرة المميزة وراء T5؟
يقوم T5 بتحويل الترجمة والتلخيص والتصنيف والمزيد إلى تنسيق واحد لتحويل النص إلى نص باستخدام بادئات المهام.
ما هي بنية المحولات التي يستخدمها T5؟
على عكس BERT لجهاز التشفير فقط أو GPT لوحدة فك التشفير فقط، يستخدم T5 محولًا كاملاً لوحدة فك التشفير والتشفير مع الاهتمام المتبادل.
ما هو هدف التدريب المسبق الذي يستخدمه T5 بشكل أساسي؟
يخفي T5 نطاقات عشوائية من الرموز المميزة، ويستبدل كل منها بحارس، ويدرب وحدة فك التشفير على إعادة إنتاج النطاقات المفقودة.
ما هي المجموعة التي تم تدريب T5 عليها مسبقًا؟
تم تدريب T5 على C4، وهي مجموعة فرعية تم تنظيفها بحوالي 750 جيجابايت من نص الويب Common Crawl.
كيف يمثل T5 مهمة تصنيف مثل تحليل المشاعر؟
نظرًا لأن كل شيء عبارة عن نص إلى نص، فإن T5 يصدر تسمية الفئة كسلسلة كلمات بدلاً من فهرس فئة رقمي.
استمر في التعلم
أدلة ذات صلة
تم اختيار المزيد من الأدلة لهذا الموضوع