SıradakiSonraki rehber
Tekrarlayan Sinir Ağları
Temeller
Teknik KILAVUZ
Çift yönlü tekrarlayan bir ağ, bir diziyi hem ileri hem de geri okur, böylece her konumun temsili geçmiş ve gelecekten gelen bağlamdan yararlanır.
Bu kılavuzu dinleyinAI tarafından anlatılan · ~2 min
This matters because meaning often depends on what comes next, not just what came before.
1997'de Schuster ve Paliwal tarafından önerilen çift yönlü RNN, aynı girdi üzerinde iki ayrı yinelenen katman çalıştırır: biri soldan sağa, diğeri sağdan sola diziyi işler. Daha sonra gizli durumları, her zaman adımında çevredeki bağlamın tamamını kodlayan bir temsil oluşturmak üzere genellikle birleştirme yoluyla birleştirilir. Bu, tüm girdinin aynı anda mevcut olduğu görevler için güçlüdür. Örneğin, banka kelimesini bir nehir kenarı yerine bir finans kurumu olarak etiketlemek için bir model, kelimelerin her iki tarafta da görülmesinden yararlanır. Çift yönlü LSTM'ler ve GRU'lar, adlandırılmış varlık tanıma, konuşma bölümü etiketleme ve konuşma tanıma için standart hale geldi. Temel sınırlama, ağın çıktı üretmeden önce tüm diziye ihtiyaç duymasıdır, dolayısıyla gerçek zamanlı, akışlı veya üretken soldan sağa tahmin için kullanılamaz.
Her iki taraftaki çevreleyen kelimelerin bir jetonun kişi, yer veya kuruluş olarak sınıflandırılmasına yardımcı olduğu adlandırılmış varlık tanıma
Hem önceki hem de sonraki bağlamı kullanarak 'öncülük' gibi kelimelerin belirsizliğini ortadan kaldıran konuşma bölümü etiketlemesi
Tüm ifadenin mevcut olduğu çevrimdışı konuşma tanımada akustik modelleme
Motiflerin yan kalıntılara bağlı olduğu biyoinformatikte protein veya DNA dizisi etiketlemesi
Modern kodlayıcılarda çift yönlü bağlam varlığını sürdürüyor: BERT tarzı Transformatörler aynı hedefe yineleme yerine maskelenmiş dikkatle ulaşır ve çok daha iyi paralelleşir. Çift yönlü RNN'ler, hafif işlem hatları, ses ve biyosinyal işleme ve tüm dizilerin kısa ve etiketli olduğu ayarlarda geçerliliğini korur. Dikkate dayalı çift yönlü kodlayıcılar büyük ölçekli dil anlamada hakimiyet kurarken, özelleştirilmiş, gecikmeye dayanıklı kodlama görevlerinde sürekli kullanım bekleyebilirsiniz.
Ücretsiz bülten
Hafta içi her sabah sade İngilizce yazılmış, doğrulanmış üç yapay zeka hikayesi. Sonsuza kadar ücretsiz, reklam yok.
Hafta içi her gün bir e-posta. Tek tıklamayla aboneliğinizi iptal edin. Adresinizi asla satmayız veya paylaşmayız.
Kendinizi test edin
Her yanıtla ilgili anında geri bildirim ve bir kursu geçtiğinizde doğrulanabilir bir kimliğe sahip paylaşılabilir bir sertifika.
Ücretsiz AI eğitimini destekleyin. AI Understanding, bir 501(c)(3) kâr amacı gütmeyen kuruluştur; hiçbir zaman reklam yoktur, ödeme duvarı yoktur. Bağış yap
Çift yönlü tekrarlayan bir ağ, bir diziyi hem ileri hem de geri okur, böylece her konumun temsili geçmiş ve gelecekten gelen bağlamdan yararlanır. Bu önemlidir, çünkü anlam yalnızca daha önce olana değil, genellikle daha sonra gelene bağlıdır.
The guide describes two recurrent passes over the same input in opposite directions.
The guide gives contextual disambiguation as a benefit of bidirectional representations.
The guide says the directional states are typically concatenated before output.
The guide notes the full input must be available before outputs using future context can be produced.
Both passes provide context before and after the current position.
Öğrenmeye devam et
Bu konu için daha fazla rehber seçildi
SıradakiSonraki rehber
Tekrarlayan Sinir Ağları
Temeller