التاليالدليل التالي
التشفير المتقاطع مقابل التشفير الثنائي
لغة الذكاء الاصطناعي
دليل اللغة AI
Encoder-decoder architectures map an input sequence to an output sequence that may differ in length.
استمع إلى هذا الدليلرواه الذكاء الاصطناعي · ~1 min
The encoder builds source representations, and the decoder generates target elements conditioned on those representations.
Early seq2seq models used recurrent encoders and decoders. Bahdanau attention addressed the fixed-vector bottleneck by computing a source context for each decoder step. The Transformer replaces recurrence with self-attention and cross-attention. BART pretrains a denoising encoder-decoder, while T5 casts many language tasks as text-to-text. These papers evaluate specific models and tasks; the architecture alone does not guarantee quality.
A neural translation encoder represents a source sentence while a decoder generates a translated sentence.
Bahdanau attention lets each decoder step focus on different encoder states.
The Transformer uses encoder-decoder attention and masked decoder self-attention.
BART and T5 use encoder-decoder architectures for denoising or text-to-text tasks.
Choose an encoder-decoder when a task naturally maps one sequence to another, and compare it with alternatives on the target data and latency. Track input-length behavior and output quality. The cited work does not establish that this architecture is best for every language task.
رسالة إخبارية مجانية
ثلاث قصص تم التحقق منها بواسطة الذكاء الاصطناعي كل صباح من أيام الأسبوع، مكتوبة باللغة الإنجليزية البسيطة. مجاني للأبد، بدون إعلانات.
بريد إلكتروني واحد كل يوم من أيام الأسبوع. إلغاء الاشتراك بنقرة واحدة. نحن لا نبيع أو نشارك عنوانك أبدًا.
اختبر نفسك
تعليقات فورية على كل إجابة، وشهادة قابلة للمشاركة مع معرف يمكن التحقق منه بمجرد اجتياز الدورة التدريبية.
دعم تعليم الذكاء الاصطناعي المجاني. AI Understanding هي منظمة 501(c)(3) غير ربحية - لا إعلانات ولا نظام حظر الاشتراك غير المدفوع على الإطلاق. قم بالتبرع
Encoder-decoder architectures map an input sequence to an output sequence that may differ in length. The encoder builds source representations, and the decoder generates target elements conditioned on those representations.
يستهلك جهاز التشفير تسلسل الإدخال بأكمله وينتج متجهات سياقية تلتقط معناها، والتي يستخدمها جهاز فك التشفير بعد ذلك.
يضمن الإخفاء أن كل موضع مخرجات يهتم فقط بالمواضع السابقة، مع الحفاظ على ترتيب الانحدار التلقائي من اليسار إلى اليمين.
يتيح الانتباه المتبادل لكل طبقة وحدة فك ترميز الاستعلام عن الحالات المخفية لجهاز التشفير، وربط فهم المدخلات بإنشاء المخرجات.
T5 (و BART) عبارة عن نماذج تشفير وفك تشفير كلاسيكية تعمل على تأطير المهام كنص إلى نص. BERT هو برنامج تشفير فقط وGPT-3 هو جهاز فك تشفير فقط.
تقوم الترجمة بتعيين تسلسل واحد إلى تسلسل مختلف، لذا فإن قراءة المصدر بالكامل (جهاز التشفير) وإنشاء هدف جديد (وحدة فك التشفير) مناسب تمامًا.
استمر في التعلم
تم اختيار المزيد من الأدلة لهذا الموضوع
التاليالدليل التالي
التشفير المتقاطع مقابل التشفير الثنائي
لغة الذكاء الاصطناعي