Logit lẹnsi ati Agbedemeji Layer Yiyan
Lẹnsi logit jẹ ẹtan itumọ ti o pinnu awọn ipinlẹ ti o farapamọ ti oluyipada ni gbogbo Layer sinu awọn asọtẹlẹ fokabulari, jẹ ki o wo fọọmu amoro kọja ijinle.
Akopọ
O ṣe pataki nitori pe o tan akopọ opaque ti mathimatiki sinu kika, itan fẹlẹfẹlẹ-nipasẹ-fẹlẹfẹlẹ ti bi awoṣe ṣe de idahun rẹ.
Jin Dive
Oluyipada kan ṣe agbero asọtẹlẹ kan nipasẹ awọn dosinni ti awọn fẹlẹfẹlẹ, ọkọọkan n ṣafikun si fekito 'san omi to ku' pinpin. Logit lẹnsi gba awọn farasin ipinle ni ohun agbedemeji Layer, waye awọn awoṣe ká ase Layer-iwuwasi ati awọn oniwe-o wu unembedding matrix, ati ki o ka pa eyi ti àmi ti apa kan ipinle tẹlẹ waleyin. Nitoripe gbogbo Layer kọwe sinu ṣiṣan aloku kanna, o le ṣe iyipada ni kutukutu botilẹjẹpe o jẹ itumọ fun ipele ti o kẹhin. Awọn oniwadi rii pe fun ọpọlọpọ awọn ifọrọhan ti o daju pe ami ti o tọ farahan ni awọn ipele aarin ati pe a tun ṣe atunṣe, lakoko ti awọn ipele ibẹrẹ nigbagbogbo nigbagbogbo ipele dada tabi daakọ awọn amoro-iwọle. Awọn iyatọ bi 'lẹnsi aifwy' ṣe ikẹkọ iwadii kekere-Layer kan lati ṣe atunṣe fun aiṣedeede naa, fifun mimọ, awọn kika alariwo ti ko dinku.
Imọ-imọ-ẹrọ
Mechanically: Ya awọn iṣẹku san ibere ise h_L ni Layer L, isodipupo nipasẹ awọn unembedding (igba ti so input-ifibọ transpose) lẹhin ti awọn ik LayerNorm, ki o si softmax. Eyi n ṣiṣẹ nitori ṣiṣan ti o ku jẹ aropo ati pinpin ipilẹ kan pẹlu aaye iṣelọpọ kọja awọn fẹlẹfẹlẹ. Awọn lẹnsi itele jẹ abosi ni kutukutu; lẹnsi aifwy kọ ẹkọ iyipada affine A_L h_L + b_L fun ipele kan lati ṣe maapu awọn ipinlẹ agbedemeji sinu fireemu iyipada ikẹhin diẹ sii ni otitọ.
Ipa Ilana
Iyara ati iwọn
Ṣiṣan iṣẹ ede le gbe ni iyara laisi irubọ aitasera.
Wiwọle ati arọwọto
O faagun iraye si kọja awọn ede ati awọn aza ibaraẹnisọrọ.
Awọn ipinnu diẹ sii
Awọn ẹgbẹ le lo akoko diẹ sii lori idajọ lakoko ti adaṣe n kapa atunwi.
Ojo iwaju ti Logit lẹnsi ati Iyipada Layer agbedemeji
Yiyipada ara lẹnsi Logit n di iwadii boṣewa ni itumọ mechanistic ati iṣayẹwo aabo AI. Reti isọdọkan wiwọ pẹlu awọn adaṣe autoencoders ati awọn iwe-itumọ ẹya, nitorinaa awọn atunnkanka le lorukọ awọn imọran ti Layer kan n ṣe igbega dipo kikojọ awọn ami. Bi awọn awoṣe ti ndagba, awọn dasibodu lẹnsi adaṣe le ṣe asia nibiti awọn hallucinations tabi awọn ipari ti ko ni aabo ṣe kọkọ kọrin, ati isọdọtun-lẹnsi-ara yoo ṣee ṣe ọkọ oju omi bi ohun elo n ṣatunṣe aṣiṣe inu awọn opo gigun ti ikẹkọ.
Real-World imuse
Visualizing ni eyi ti Layer a awoṣe akọkọ 'mọ' olu ti France ṣaaju ki o to awọn oniwe-ase idahun.
Ṣiṣayẹwo awọn hallucinations nipa iranran Layer nibiti ami ti ko tọ ṣugbọn ti o ni igboya kọkọ jẹ gaba lori ṣiṣan to ku.
Ṣe afiwe lẹnsi logit itele ti aifwy lẹnsi lati wiwọn bawo ni awọn igbagbọ agbedemeji awoṣe ṣe jẹ iwọn.
Ṣiṣayẹwo boya aami ijusile ti o ni ibatan ailewu farahan ni kutukutu tabi ti wa ni afikun nikan nipasẹ awọn ipele diẹ to kẹhin.
Awọn ewu & Awọn ọna iṣọ
Awọn otitọ ti a sọ di mimọ le tẹ awọn ijabọ sii ni idakẹjẹ, awọn ṣiṣan atilẹyin, tabi awọn abajade iwadii.
Ifamọ kiakia le ṣẹda awọn abajade aisedede kọja awọn ibeere ti o jọra.
Awọn data ọrọ ifarabalẹ le farahan ti awọn idari wiwọle ko lagbara.
Ilana Ilana imuse
Ṣetumo ọna kika iṣẹjade, ohun orin, ati awọn iṣedede didara ṣaaju ṣiṣejade.
Awọn idahun ilẹ pẹlu awọn orisun ti o gbẹkẹle nigbakugba ti deede ba ṣe pataki.
Jeki aaye ayẹwo atunyẹwo eniyan fun awọn abajade ti o ga julọ.
Tọpinpin awọn ilana ikuna ati tunṣe awọn itọsi tabi ṣiṣan iṣẹ nigbagbogbo.
Tesiwaju Ṣiṣawari
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Logit Lens and Intermediate Layer Decoding quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Itọsọna atẹle
Logit lẹnsi ati Aifwy lẹnsi
Awọn ibeere ti a beere nigbagbogbo
Kini Logit Lens ati Intermediate Layer Decoding?
Lẹnsi logit jẹ ẹtan itumọ ti o pinnu awọn ipinlẹ ti o farapamọ ti oluyipada ni gbogbo Layer sinu awọn asọtẹlẹ fokabulari, jẹ ki o wo fọọmu amoro kọja ijinle. O ṣe pataki nitori pe o yi akopọ akomo ti mathimatiki sinu itan kika, Layer-nipasẹ-Layer ti bii awoṣe ṣe de ni idahun rẹ.
Kini lẹnsi logit kan si ipo agbedemeji ti o farapamọ lati ka awọn asọtẹlẹ ami?
Lẹnsi logit naa tun lo iwuwasi Layer-ipari ti awoṣe ti ara rẹ ati matrix ti ko ni iṣiparọ lati ṣe akanṣe agbedemeji aloku-sisan fekito sinu awọn logits fokabulari.
Kini idi ti o paapaa ṣee ṣe lati ṣe iyipada awọn ipele agbedemeji pẹlu aibikita ikẹhin?
Awọn ayirapada ṣafikun iṣelọpọ Layer kọọkan sinu ṣiṣan aloku ti o pin, nitorinaa awọn ipinlẹ agbedemeji tẹlẹ n gbe ni aaye kan ti o ni ibamu pẹlu decoder ikẹhin.
Isoro wo ni 'lẹnsi aifwy' n ṣatunṣe ojulumo si lẹnsi logit itele?
Awọn lẹnsi aifwy ṣe ikẹkọ maapu affine-Layer kekere kan nitoribẹẹ awọn ipinlẹ agbedemeji pinnu diẹ sii ni iṣootọ, idinku ojuṣaaju-Layer akọkọ ati ariwo ti lẹnsi pẹtẹlẹ.
Ni ọpọlọpọ awọn itọka ti o daju, nibo ni ami-ami ti o tọ ti akọkọ farahan labẹ awọn lẹnsi logit?
Awọn ijinlẹ fihan idahun ti o tọ nigbagbogbo han ni awọn ipele aarin ati pe o jẹ didasilẹ nipasẹ awọn ti o tẹle, lakoko ti awọn fẹlẹfẹlẹ kutukutu ṣe ojurere dada tabi daakọ awọn amoro.
Kini lẹnsi logit wulo julọ taara fun?
Iwọn ipilẹ rẹ jẹ itumọ: ṣiṣafihan itankalẹ-alayọ-nipasẹ-Layer ti pinpin asọtẹlẹ ti awoṣe.