পরবর্তী আপপরবর্তী গাইড
সিকোয়েন্স মডেলে শিক্ষক জোর করে
টেকনিক্যাল
ভাষা এআই গাইড
Sequence-to-sequence (seq2seq) models encode an input sequence and generate an output sequence, which may have a different length.
এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~1 min
Attention provides access to source context during decoding.
Early neural machine-translation systems encoded a source sentence into a fixed vector, which constrained long inputs. Bahdanau attention lets a decoder compute context from source hidden states at each step. The Transformer replaces recurrence with attention layers, while sequence-to-sequence variants retain encoder and decoder components. Output length is determined during generation rather than copied from input length.
An encoder can represent a source sentence for translation.
A decoder generates target tokens until an end condition is reached.
Cross-attention uses encoder outputs as keys and values for decoder queries.
Transformer encoder-decoder models such as T5 and BART apply this structure to text tasks.
Choose encoder-decoder or decoder-only architectures based on the task, data and serving constraints. Evaluate input-length behavior, output quality and decoding cost. The cited papers establish particular model designs and benchmarks, not universal superiority of one architecture.
ফ্রি নিউজলেটার
প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।
প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।
নিজেকে পরীক্ষা করুন
প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।
ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন
Sequence-to-sequence (seq2seq) models encode an input sequence and generate an output sequence, which may have a different length. Attention provides access to source context during decoding.
একটি এনকোডার ইনপুট পড়ে এবং সংকুচিত করে এবং একটি ডিকোডার আউটপুট ক্রম তৈরি করে।
মনোযোগ দিন ডিকোডারকে একটি একক সংকুচিত ভেক্টরের উপর নির্ভর না করে, দীর্ঘ-বাক্যের কার্যকারিতা ঠিক করার পরিবর্তে সমস্ত এনকোডার অবস্থায় অ্যাক্সেস করতে দিন।
Sutskever et al. এনকোডার এবং ডিকোডারের জন্য স্ট্যাক করা LSTM পুনরাবৃত্ত নেটওয়ার্ক ব্যবহার করা হয়েছে।
মনোযোগ এনকোডার স্টেটগুলিতে ওজন নির্ধারণ করে তাই প্রতিটি আউটপুট ধাপ সবচেয়ে প্রাসঙ্গিক ইনপুট অবস্থানগুলিতে ফোকাস করে।
ডিকোডার স্বয়ংক্রিয়ভাবে উৎপন্ন করে এবং একটি শেষ-অব-সিকোয়েন্স টোকেনে থামতে পারে, যা পরিবর্তনশীল আউটপুট দৈর্ঘ্যকে অনুমতি দেয়।
শিখতে থাকুন
এই বিষয়ের জন্য বাছাই করা আরও গাইড
পরবর্তী আপপরবর্তী গাইড
সিকোয়েন্স মডেলে শিক্ষক জোর করে
টেকনিক্যাল