نماذج التسلسل إلى التسلسل
تعمل نماذج التسلسل إلى التسلسل على تعيين تسلسل إلى آخر ربما يكون بطول مختلف، مثل ترجمة جملة أو تلخيص مستند.
نظرة عامة
They introduced the encoder-decoder design and the attention mechanism that paved the way for the Transformer.
الغوص العميق
يتكون نموذج التسلسل إلى التسلسل (seq2seq) من جزأين: جهاز التشفير الذي يقرأ تسلسل الإدخال ويضغط معناه، ووحدة فك التشفير التي تولد رمزًا مميزًا لتسلسل الإخراج في كل مرة. استخدم العمل التاريخي الذي قام به Sutskever وVinyals وLe في عام 2014 LSTMs المكدسة للترجمة الآلية. ظهرت نقطة ضعف: إن حشر جملة كاملة في متجه واحد ثابت الطول يؤدي إلى فقدان المعلومات المتعلقة بالمدخلات الطويلة. في عام 2015، قدم بهداناو الاهتمام، حيث سمح لجهاز فك التشفير بالنظر إلى جميع حالات التشفير والتركيز على الحالات الأكثر صلة بكل كلمة مخرجة. أدى هذا إلى حل عنق الزجاجة وتحسين الترجمة بشكل كبير. يتم تعميم الفكرة على أي مهمة نصية من الإدخال إلى الإخراج وألهمت بشكل مباشر بنية الاهتمام الذاتي الكاملة لـ Transformer في عام 2017.
البصيرة الفنية
يُنتج المشفر سلسلة من الحالات المخفية؛ يقوم جهاز فك التشفير بإنشاء مخرجات بشكل انحداري، مشروطًا بالمخرجات السابقة وسياق التشفير. يحسب الانتباه المجموع المرجح لحالات التشفير باستخدام درجات المحاذاة، لذا فإن كل خطوة فك تشفير ترسم متجه سياق مخصص. يؤدي هذا إلى فصل طول الإخراج عن متجه عنق الزجاجة الفردي ويوفر محاذاة ناعمة بين مواضع الإدخال والإخراج، وهو ما يمكن تفسيره أيضًا على أنه الكلمات المصدر التي قادت كل كلمة مترجمة.
التأثير الاستراتيجي
السرعة والحجم
يمكن أن تتحرك مسارات عمل اللغة بشكل أسرع دون التضحية بالاتساق.
الوصول والوصول
فهو يوسع الوصول عبر اللغات وأنماط الاتصال.
قرارات أوضح
يمكن للفرق قضاء المزيد من الوقت في الحكم بينما تتعامل الأتمتة مع التكرار.
مستقبل نماذج التسلسل إلى التسلسل
تهيمن نماذج التشفير وفك التشفير على seq2seq الحديثة مثل T5 وBART، والتي تؤطر كل مهمة البرمجة اللغوية العصبية تقريبًا كنص إلى نص. يعد seq2seq المستند إلى RNN تاريخيًا إلى حد كبير، لكن نمط التشفير وفك التشفير يزدهر في الترجمة والتلخيص والتعرف على الكلام. توقع استمرار النمو في أنظمة seq2seq متعددة اللغات ومتعددة الوسائط، بالإضافة إلى مكاسب الكفاءة من أجهزة فك التشفير غير الانحدارية والمقطرة التي تصدر المخرجات بشكل أسرع مع الحفاظ على الجودة.
التنفيذ في العالم الحقيقي
أنظمة الترجمة الآلية تقوم بتحويل الجمل الإنجليزية إلى الفرنسية أو اليابانية.
تلخيص نص تجريدي يعيد كتابة المقالات الطويلة إلى ملخصات قصيرة.
التعرف على الكلام يرسم تسلسل موجة صوتية إلى نسخة نصية.
أنظمة Chatbot والحوار التي تحدد كلام المستخدم للرد الذي تم إنشاؤه.
المخاطر والدرابزين
يمكن للحقائق المهلوسة إدخال التقارير أو تدفقات الدعم أو مخرجات البحث بهدوء.
يمكن أن تؤدي الحساسية السريعة إلى نتائج غير متناسقة عبر الطلبات المماثلة.
قد يتم كشف البيانات النصية الحساسة إذا كانت عناصر التحكم في الوصول ضعيفة.
خارطة طريق التنفيذ
حدد تنسيق الإخراج والنغمة ومعايير الجودة قبل بدء التشغيل.
استجابات أرضية من مصادر موثوقة عندما تكون الدقة مهمة.
احتفظ بنقطة تفتيش للمراجعة البشرية للمخرجات عالية المخاطر.
تتبع أنماط الفشل وأعد تدريب المطالبات أو سير العمل بانتظام.
استمر في الاستكشاف
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Sequence-to-Sequence Models quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
الدليل التالي
إجبار المعلم في نماذج التسلسل
الأسئلة المتداولة
What is Sequence-to-Sequence Models?
تعمل نماذج التسلسل إلى التسلسل على تعيين تسلسل إلى آخر ربما يكون بطول مختلف، مثل ترجمة جملة أو تلخيص مستند. لقد قدموا تصميم جهاز التشفير وفك التشفير وآلية الانتباه التي مهدت الطريق للمحول.
ما هما المكونان الرئيسيان لنموذج التسلسل إلى التسلسل؟
يقرأ جهاز التشفير المدخلات ويضغطها، ويقوم جهاز فك التشفير بإنشاء تسلسل الإخراج.
ما هي المشكلة الرئيسية التي حلتها آلية الانتباه في نماذج seq2seq؟
انتبه، دع وحدة فك التشفير تصل إلى جميع حالات التشفير بدلاً من الاعتماد على ناقل مضغوط واحد، مما يؤدي إلى إصلاح أداء الجملة الطويلة.
ما هي البنية التي استخدمها نموذج الترجمة seq2seq الأصلي لعام 2014؟
سوتسكيفير وآخرون. تستخدم شبكات LSTM المتكررة المكدسة لجهاز التشفير ووحدة فك التشفير.
كيف يبني الاهتمام السياق لكل خطوة من خطوات فك التشفير؟
يعين الاهتمام أوزانًا لحالات التشفير بحيث تركز كل خطوة إخراج على مواضع الإدخال الأكثر صلة.
لماذا يمكن أن تختلف مخرجات seq2seq في الطول عن المدخلات؟
يقوم جهاز فك التشفير بالتوليد بشكل انحداري ويمكن أن يتوقف عند رمز مميز لنهاية التسلسل، مما يسمح بطول إخراج متغير.