Yapay Zeka Sözlüğü Terimi

RoPE (Döner Konumsal Gömmeler) nedir?

Tanım

Göreli belirteç konumlarını kodlamak için sorgu ve anahtar vektörlerini döndüren konumsal bir kodlama yöntemi.

Yapay Zeka Sözlüğünün tamamına göz atınTüm ücretsiz AI kılavuzlarını keşfedin

İlgili terimler

Konumsal KodlamaTransformatörlerin sıra sırasını ayırt edebilmesi için belirteç yerleştirmelerine bilgi eklendi.AliBiDikkat puanlarını simge mesafesine göre cezalandıran ve modellerin daha uzun bağlamlara göre tahmin yapmasına yardımcı olan konumsal bir önyargı yöntemi.RAG-FüzyonBirden fazla sorgu çeşidi oluşturan, her biri için sonuçları alan ve sıralamaları birleştiren bir alma yöntemi.YSA (Yaklaşık En Yakın Komşu)Kapsamlı bir karşılaştırma yapmadan bir sorguya yakın vektörleri bulan, kesinliği hızla değiştiren algoritmalar.RAG (Geri Alma-Artırılmış Nesil)Dış bilgiyi alan ve onu çıkarım anında nesile aktaran bir yöntem.İnsan Geri Bildiriminden Takviyeli Öğrenme (RLHF)Model davranışını şekillendirmek için insan tercih sinyallerini kullanan bir eğitim yöntemi.

Ücretsiz kılavuzlarımızdan daha fazlasını öğrenin

Audio Embeddings and Representation LearningSentence-BERT EmbeddingsX-Vector Speaker EmbeddingsHyDE Hypothetical Document Embeddings

Ayrıca bakınız

Multi-Head AttentionSliding Window AttentionFlash AttentionBPE (Byte Pair Encoding)QLoRASentencePieceDPO (Direct Preference Optimization)Tree of Thoughts