PANDUAN AI Bahasa

Sumpahan Pembalikan dalam LLM

Sumpahan pembalikan ialah mod kegagalan yang mengejutkan di mana model bahasa yang mempelajari 'A ialah B' tidak boleh menjawab dengan pasti 'B ialah A.' Ia mendedahkan bahawa LLM menyimpan fakta sebagai persatuan satu arah, bukan sebagai pengetahuan simetri.

2 min dibacaKemas kini terakhir

Menyelam dalam

Didokumentasikan dalam kertas kerja 2023 oleh Berglund dan rakan sekerja, sumpahan pembalikan menunjukkan bahawa jika seorang model dilatih tentang 'Ibu Tom Cruise ialah Mary Lee Pfeiffer,' ia sering gagal apabila ditanya 'Siapakah anak Mary Lee Pfeiffer?' walaupun jawapannya sama secara logiknya. Kesannya berterusan merentasi saiz model dan walaupun selepas penalaan halus pada ratusan fakta sedemikian. Ia bukan jurang ingatan: model telah melihat maklumat, tetapi hanya dalam satu susunan. Oleh kerana latihan mengoptimumkan ramalan token seterusnya ke atas susunan perkataan yang tepat dalam data, pautan statistik dari A ke B tidak secara automatik membuat pautan dari B kembali ke A. Penemuan itu mencabar andaian bahawa skala sahaja menghasilkan penaakulan yang fleksibel seperti manusia terhadap fakta.

Wawasan Teknikal

Transformer belajar dengan meramalkan token seterusnya yang diberikan konteks terdahulu, jadi kemas kini kecerunan mengukuhkan pemetaan arah 'A kemudian B' tetapi biarkan 'B kemudian A' tidak disentuh melainkan susunan itu juga muncul dalam latihan. Kedua-dua arah hidup dalam laluan berat yang berasingan. Penyelidik mengesahkan ini dengan mengukur kebarangkalian log: selepas mempelajari fakta ke hadapan, kebarangkalian pernyataan songsang kekal berhampiran garis dasar, menunjukkan tiada penyongsangan logik tersirat berlaku semasa latihan.

Kesan Strategik

Kelajuan dan skala

Aliran kerja bahasa boleh bergerak lebih pantas tanpa mengorbankan konsistensi.

Akses dan capai

Ia meluaskan akses merentas bahasa dan gaya komunikasi.

Keputusan yang lebih jelas

Pasukan boleh menghabiskan lebih banyak masa untuk membuat pertimbangan manakala automasi mengendalikan pengulangan.

Masa Depan Sumpahan Pembalikan dalam LLM

Mitigasi yang dikaji termasuk penambahan data dwiarah (menambah frasa terbalik), objektif latihan yang meramalkan token dalam kedua-dua arah dan sistem perolehan semula yang melihat fakta secara simetri dan bukannya bergantung pada pemberat yang dihafal. Beberapa seni bina yang lebih baharu dan eksperimen pralatihan terbalik mengurangkan jurang. Jangkakan sumpahan itu akan mengecut tetapi tidak lenyap, kerana ia mendedahkan ketidakpadanan yang mendalam antara pembelajaran seterusnya dan struktur simetri hubungan dunia sebenar.

Pelaksanaan Dunia Sebenar

Chatbot dengan betul menyatakan ibu bapa selebriti tetapi gagal apabila diminta menamakan anak terkenal ibu bapa tersebut.

Seorang model membacakan 'presiden kesembilan ialah William Henry Harrison' namun tersandung pada 'presiden nombor mana ialah William Henry Harrison.'

Pembantu pengekodan yang mempelajari pemetaan fungsi ke perihalan tidak boleh memulihkan nama fungsi daripada perihalan sahaja.

Sistem QA perubatan yang dilatih tentang 'Ubat X merawat Keadaan Y' gagal menyenaraikan Ubat X apabila ditanya apa yang merawat Keadaan Y.

Risiko & Pengawal

Fakta halusinasi boleh memasukkan laporan, aliran sokongan atau hasil penyelidikan secara senyap-senyap.

Sensitiviti segera boleh mencipta hasil yang tidak konsisten merentas permintaan yang serupa.

Data teks sensitif mungkin terdedah jika kawalan akses lemah.

Hala Tuju Pelaksanaan

1

Tentukan format output, nada dan standard kualiti sebelum pelancaran.

2

Respons asas dengan sumber yang dipercayai apabila ketepatan penting.

3

Simpan pusat pemeriksaan semakan manusia untuk output berkepentingan tinggi.

4

Jejaki corak kegagalan dan latih semula gesaan atau aliran kerja dengan kerap.

Teruskan Meneroka

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Reversal Curse in LLMs quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

Mulakan kuiz

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

Soalan lazim

What is Reversal Curse in LLMs?

Sumpahan pembalikan ialah mod kegagalan yang mengejutkan di mana model bahasa yang mempelajari 'A ialah B' tidak boleh menjawab dengan pasti 'B ialah A.' Ia mendedahkan bahawa LLM menyimpan fakta sebagai persatuan satu arah, bukan sebagai pengetahuan simetri.

Apakah yang digambarkan oleh kutukan pembalikan?

Sumpahan terbalik ialah kegagalan untuk membuat kesimpulan 'B ialah A' daripada latihan tentang 'A ialah B,' walaupun kedua-duanya secara logik setara.

Mengapakah kutukan pembalikan berlaku, secara mekanikal?

Oleh kerana latihan mengoptimumkan ramalan token seterusnya dalam susunan yang diperhatikan dengan tepat, pemetaan terbalik tidak akan diperkukuh melainkan ia turut muncul dalam latihan.

Adakah peningkatan saiz model boleh membetulkan sumpahan pembalikan?

Kajian asal mendapati kutukan yang dipegang merentasi pelbagai saiz model, menunjukkan skala sahaja tidak menyelesaikannya.

Mitigasi yang manakah secara langsung menyasarkan kutukan pembalikan?

Pembesaran data dwiarah mendedahkan model kepada kedua-dua 'A ialah B' dan 'B ialah A,' mewujudkan perkaitan songsang yang tiada.

Bagaimanakah penyelidik mengesahkan model itu tidak secara tersirat mempelajari fakta sebaliknya?

Kebarangkalian pernyataan terbalik kekal berhampiran garis dasar selepas latihan ke hadapan, menunjukkan tiada penyongsangan logik telah berlaku.