SıradakiSonraki rehber
Karayolu Ağları ve Atlama Bağlantıları
Teknik
Teknik KILAVUZ
Rezervuar hesaplama, tekrarlayan ağların eğitimi için akıllı bir kısayoldur: büyük, rastgele bağlı nöronların sabit bir 'rezervuarını' bırakın ve yalnızca basit bir doğrusal çıktı katmanını eğitin.
Bu kılavuzu dinleyinAI tarafından anlatılan · ~2 min
Echo State Ağları, sıralı öğrenmeyi hızlı ve ucuz hale getiren en iyi bilinen örnektir.
Herbert Jaeger tarafından 2001 civarında tanıtılan Echo State Networks (ESN'ler) ve Wolfgang Maass'ın yakından ilişkili Liquid State Machine'leri, rezervuar hesaplama adı verilen aileyi oluşturur. Fikir: sabit, rastgele başlatılan tekrarlayan bir ağ, bir giriş dizisini yüksek boyutlu bir dinamik duruma yansıtır. Tekrarlayan ağırlıklar hiçbir zaman eğitilmediğinden, RNN'ler ve LSTM'ler için kullanılan yavaş, istikrarsız zaman içinde geriye yayılımdan kaçınırsınız. Yalnızca rezervuardan çıktıya kadar olan okuma ağırlıkları, tipik olarak hızlı ve dışbükey olan basit doğrusal regresyonla öğrenilir. Rezervuar 'yankı durumu özelliğini' karşılamalıdır: geçmiş girdilere ilişkin hafızası yavaş yavaş kaybolur, bu da durumun başlangıç koşullarından ziyade yakın geçmişe bağlı olmasını sağlar. ESN'ler zaman serisi tahmini ve kaotik sinyal modellemede üstündür.
Mackey-Glass serisi veya Lorenz çekici gibi kaotik dinamik sistemlerin yüksek doğrulukla tahmin edilmesi.
Elektrik yükünün, hisse senedi sinyallerinin veya hava durumuyla ilgili zaman serilerinin kısa vadeli tahmini.
Yükselen nöron rezervuarı olarak Sıvı Durum Makinesi kullanılarak konuşma ve fonem tanıma.
Sensör kenarında düşük güçlü sinyal sınıflandırması gerçekleştiren fotonik veya memristör tabanlı donanım rezervuarları.
Rezervuar hesaplama, rezervuarın bir analog sistem, fotonik devre, memristör dizisi ve hatta bir kova su olabileceği fiziksel ve nöromorfik donanımlarda ilgi kazanıyor ve ultra düşük güçte hesaplama için doğal dinamiklerden yararlanıyor. Spiking ve fotonik rezervuarlar, sensör verileri için hızlı kenar çıkarımı vaat ediyor. Derin öğrenme büyük görevlere hakim olsa da, verilerin kıt olduğu, gecikme ve enerji bütçelerinin kısıtlı olduğu veya alışılmadık donanım alt katmanlarının mevcut olduğu durumlarda rezervuar yöntemleri çekici olmaya devam ediyor.
Ücretsiz bülten
Hafta içi her sabah sade İngilizce yazılmış, doğrulanmış üç yapay zeka hikayesi. Sonsuza kadar ücretsiz, reklam yok.
Hafta içi her gün bir e-posta. Tek tıklamayla aboneliğinizi iptal edin. Adresinizi asla satmayız veya paylaşmayız.
Kendinizi test edin
Her yanıtla ilgili anında geri bildirim ve bir kursu geçtiğinizde doğrulanabilir bir kimliğe sahip paylaşılabilir bir sertifika.
Ücretsiz AI eğitimini destekleyin. AI Understanding, bir 501(c)(3) kâr amacı gütmeyen kuruluştur; hiçbir zaman reklam yoktur, ödeme duvarı yoktur. Bağış yap
Rezervuar hesaplama, tekrarlayan ağların eğitimi için akıllı bir kısayoldur: büyük, rastgele bağlı nöronların sabit bir 'rezervuarını' bırakın ve yalnızca basit bir doğrusal çıktı katmanını eğitin. Echo State Ağları, sıralı öğrenmeyi hızlı ve ucuz hale getiren en iyi bilinen örnektir.
Rezervuarın dahili tekrarlanan ağırlıkları sabit ve rastgele kalır; yalnızca rezervuardan çıktıya kadar olan doğrusal okuma, genellikle en küçük kareler regresyonuyla eğitilir.
The reservoir state should become a function of the input history rather than the initial state; this is related to fading memory but states the independence condition directly.
Tekrarlanan ağırlıklar sabit olduğundan eğitim, zaman içinde yavaş, yinelemeli geri yayılım yerine hızlı, dışbükey doğrusal regresyona indirgenir.
The guide describes scaling spectral radius just below one as a common stability heuristic; the echo state property depends on the full dynamics and inputs, not this scalar alone.
Wolfgang Maass, Liquid State Machines'i, Herbert Jaeger ise Echo State Networks'ü tanıttı; her ikisi de rezervuar hesaplama kapsamına girer.
Öğrenmeye devam et
Bu konu için daha fazla rehber seçildi
SıradakiSonraki rehber
Karayolu Ağları ve Atlama Bağlantıları
Teknik