SeterusnyaPanduan seterusnya
Rangkaian Lebuhraya dan Langkau Sambungan
Teknikal
PANDUAN Teknikal
Pengkomputeran takungan ialah jalan pintas pintar untuk melatih rangkaian berulang: biarkan 'takungan' neuron yang besar dan bersambung secara rawak tetap dan hanya melatih lapisan keluaran linear yang ringkas.
Dengar panduan iniAI-diceritakan · ~2 min
Echo State Networks are the best-known example, making sequence learning fast and cheap.
Rangkaian Negeri Echo (ESN), yang diperkenalkan oleh Herbert Jaeger sekitar tahun 2001, dan Mesin Keadaan Cecair yang berkait rapat oleh Wolfgang Maass membentuk keluarga yang dipanggil pengkomputeran takungan. Idea: rangkaian berulang yang tetap dan dimulakan secara rawak menayangkan urutan input ke dalam keadaan dinamik dimensi tinggi. Oleh kerana pemberat berulang tidak pernah dilatih, anda mengelakkan perambatan balik yang perlahan dan tidak stabil yang digunakan untuk RNN dan LSTM. Hanya pemberat bacaan dari takungan hingga keluaran dipelajari, biasanya melalui regresi linear mudah, yang pantas dan cembung. Takungan mesti memenuhi 'harta keadaan gema': ingatannya terhadap input masa lalu beransur pudar, memastikan keadaan bergantung pada sejarah terkini dan bukannya keadaan awal. ESN cemerlang dalam ramalan siri masa dan pemodelan isyarat huru-hara.
Meramalkan sistem dinamik huru-hara seperti siri Mackey-Glass atau penarik Lorenz dengan ketepatan yang tinggi.
Ramalan jangka pendek beban elektrik, isyarat stok atau siri masa berkaitan cuaca.
Pengecaman pertuturan dan fonem menggunakan Mesin Keadaan Cecair sebagai takungan spiking-neuron.
Takungan perkakasan berasaskan fotonik atau memristor yang melakukan pengelasan isyarat kuasa rendah di tepi sensor.
Pengkomputeran takungan semakin mendapat daya tarikan dalam perkakasan fizikal dan neuromorfik, di mana takungan boleh menjadi sistem analog, litar fotonik, tatasusunan memristor, atau malah baldi air, mengeksploitasi dinamik semula jadi untuk pengiraan kuasa ultra-rendah. Takungan spiking dan fotonik menjanjikan inferens tepi pantas untuk data penderia. Walaupun pembelajaran mendalam mendominasi tugas yang besar, kaedah takungan kekal menarik apabila data terhad, kependaman dan belanjawan tenaga adalah ketat, atau substrat perkakasan tidak konvensional tersedia.
Newsletter percuma
Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.
Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.
Uji diri anda
Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.
Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma
Pengkomputeran takungan ialah jalan pintas pintar untuk melatih rangkaian berulang: biarkan 'takungan' neuron yang besar dan bersambung secara rawak tetap dan hanya melatih lapisan keluaran linear yang ringkas. Rangkaian Negeri Echo ialah contoh yang paling terkenal, menjadikan pembelajaran urutan pantas dan murah.
Berat berulang dalaman takungan kekal tetap dan rawak; hanya bacaan linear dari takungan ke output dilatih, biasanya dengan regresi kuasa dua terkecil.
The reservoir state should become a function of the input history rather than the initial state; this is related to fading memory but states the independence condition directly.
Oleh kerana pemberat berulang adalah tetap, latihan dikurangkan kepada regresi linear cembung yang cepat dan bukannya perambatan balik yang perlahan dan berulang-melalui masa.
The guide describes scaling spectral radius just below one as a common stability heuristic; the echo state property depends on the full dynamics and inputs, not this scalar alone.
Wolfgang Maass memperkenalkan Mesin Negeri Cecair, manakala Herbert Jaeger memperkenalkan Rangkaian Negeri Echo; kedua-duanya berada di bawah pengkomputeran takungan.
Teruskan belajar
Lebih banyak panduan dipilih untuk topik ini
SeterusnyaPanduan seterusnya
Rangkaian Lebuhraya dan Langkau Sambungan
Teknikal