What is RoPE (Rotary Positional Embeddings)? Definition | AI Understanding

تعریف

ایک پوزیشنل انکوڈنگ کا طریقہ جو متعلقہ ٹوکن پوزیشنز کو انکوڈ کرنے کے لیے استفسار اور کلیدی ویکٹر کو گھماتا ہے۔

متعلقہ شرائط

پوزیشنی انکوڈنگ

ٹوکن ایمبیڈنگ میں معلومات شامل کی جاتی ہیں تاکہ ٹرانسفارمرز ترتیب ترتیب میں فرق کر سکیں۔

ایک پوزیشنی تعصب کا طریقہ جو ٹوکن فاصلہ کی بنیاد پر توجہ کے اسکور کو جرمانہ کرتا ہے، ماڈلز کو طویل سیاق و سباق میں منتقل کرنے میں مدد کرتا ہے۔

بازیافت کا ایک طریقہ جو متعدد سوالات کی مختلف حالتیں پیدا کرتا ہے، ہر ایک کے نتائج بازیافت کرتا ہے، اور درجہ بندی کو فیوز کرتا ہے۔

ANN (تقریبا قریب ترین پڑوسی)

الگورتھم جو ویکٹرز کو کسی سوال کے قریب تلاش کرتے ہیں بغیر مکمل موازنہ کے، رفتار کے لیے درستگی تجارت کرتے ہیں۔

RAG (ریٹریول-آگمینٹڈ جنریشن)

ایک ایسا طریقہ جو خارجی علم کو بازیافت کرتا ہے اور تخمینہ کے وقت اسے نسل میں فیڈ کرتا ہے۔

انسانی تاثرات سے کمک سیکھنا (RLHF)

ایک تربیتی طریقہ جو ماڈل کے رویے کو تشکیل دینے کے لیے انسانی ترجیحی اشارے استعمال کرتا ہے۔

ہماری مفت گائیڈز میں مزید جانیں۔

Audio Embeddings and Representation Learning Sentence-BERT Embeddings X-Vector Speaker Embeddings HyDE Hypothetical Document Embeddings

See also

Multi-Head Attention Sliding Window Attention Flash Attention BPE (Byte Pair Encoding)QLoRA SentencePiece DPO (Direct Preference Optimization)Tree of Thoughts

مکمل AI لغت براؤز کریں۔تمام مفت AI گائیڈز دریافت کریں۔