গেটেড পৌনঃপুনিক ইউনিট

It matters because it captures long-range patterns in text, speech, and time series almost as well as LSTMs while being faster and simpler to train.

2014 সালে চো এবং সহকর্মীদের দ্বারা প্রবর্তিত, GRU-কে অদৃশ্য-গ্রেডিয়েন্ট সমস্যা সমাধানের জন্য ডিজাইন করা হয়েছিল যা প্লেইন রিকারেন্ট নেটওয়ার্কগুলিকে জর্জরিত করে, যা অনেক সময় ধাপে তথ্য মনে রাখতে সংগ্রাম করে। LSTM-এর বিপরীতে, যা তিনটি গেট এবং একটি পৃথক সেল স্টেট ব্যবহার করে, GRU মাত্র দুটি গেট এবং একটি একক লুকানো অবস্থা ব্যবহার করে। আপডেট গেট নিয়ন্ত্রণ করে আগের লুকানো অবস্থার কতটা এগিয়ে নিয়ে যেতে হবে বনাম কত নতুন তথ্য যোগ করতে হবে। রিসেট গেট সিদ্ধান্ত নেয় একটি নতুন প্রার্থীর অবস্থা গণনা করার সময় অতীতের কত তথ্য উপেক্ষা করতে হবে। একটি শেখা ইন্টারপোলেশনের সাথে পুরানো এবং নতুন রাজ্যগুলিকে সরাসরি মিশ্রিত করে, GRU গ্রেডিয়েন্টগুলিকে দীর্ঘ অনুক্রমের উপর প্রবাহিত করতে দেয়। কম প্যারামিটার মানে কম মেমরি, দ্রুত প্রশিক্ষণ, এবং ছোট ডেটাসেটে শক্তিশালী কর্মক্ষমতা।