Perplexity ati Awọn Metiriki Ede
Perplexity jẹ ami iyasọtọ ti aṣa fun bii 'iyalẹnu' awoṣe ede jẹ nipasẹ ọrọ gidi — isalẹ tumọ si pe o sọ asọtẹlẹ awọn ọrọ diẹ sii ni igboya.
Akopọ
It and metrics like BLEU and ROUGE are how researchers actually measure whether a model is getting better.
Jin Dive
Awoṣe ede ṣe ipinnu iṣeeṣe kan si gbogbo ọrọ atẹle. Perplexity yi awọn iṣeeṣe wọnyẹn pada si nọmba ẹyọkan ti o beere: ni apapọ, awọn yiyan meloo ni deede ti awoṣe ya laarin ni igbesẹ kọọkan? Ti awoṣe ba ni igboya pipe ati pe o tọ, idamu jẹ 1; ti o ba jẹ lafaimo ni iṣọkan laarin awọn ọrọ 50,000, idamu jẹ 50,000. Isalẹ jẹ dara julọ. O jẹ arosọ mathematiki ti apapọ pipadanu ọrọ-ọrọ, nitorinaa o tọpa ikẹkọ taara. Ṣugbọn idamu nikan ṣe iwọn asọtẹlẹ-ọrọ atẹle, kii ṣe boya iṣelọpọ jẹ iwulo, otitọ, tabi kikọ daradara. Ti o ni idi ti awọn iṣẹ-ṣiṣe iran ṣe afikun awọn metiriki bii BLEU (n-gram overlap for translation) ati ROUGE (ni agbekọja fun akopọ), ati idi ti awọn igbelewọn ode oni fi n gbarale awọn idiyele eniyan ati awọn ipilẹ iṣẹ-ṣiṣe.
Imọ-imọ-ẹrọ
Perplexity dọgba pẹlu aropin aropin odi-o ṣeeṣe ti awoṣe ṣe sọtọ si ọrọ ti o waye: exp(-(1/N) * apao log P(ọrọ | awọn ọrọ iṣaaju)). O jẹ itumọ ọrọ gangan ẹya ti o yipada ti ipadanu-entropy, ti o kan ṣafihan bi ifosiwewe eka ti o munadoko dipo awọn die-die tabi awọn nats. Nitoripe o da lori awọn fokabulari gangan ti awoṣe ati tokenizer, awọn iye idamu nikan jẹ afiwera laarin awọn awoṣe ti o pin ami-ami kanna - ifiwera awoṣe ipele-ọrọ si awoṣe ọrọ-ipin taara jẹ asan.
Ipa Ilana
Iyara ati iwọn
Ṣiṣan iṣẹ ede le gbe ni iyara laisi irubọ aitasera.
Wiwọle ati arọwọto
O faagun iraye si kọja awọn ede ati awọn aza ibaraẹnisọrọ.
Awọn ipinnu diẹ sii
Awọn ẹgbẹ le lo akoko diẹ sii lori idajọ lakoko ti adaṣe n kapa atunwi.
Ojo iwaju ti Perplexity ati Awọn Metiriki Ede
Perplexity yoo duro iwadii akoko ikẹkọ mojuto nitori pe o jẹ olowo poku ati pe o tọpa iṣapeye laisiyonu, ṣugbọn aaye naa ti kọja lọpọlọpọ fun ṣiṣe idajọ agbara gidi. Gẹgẹbi awọn awoṣe ti o kun, igbelewọn n yipada si awọn ipilẹ iṣẹ ṣiṣe bii MMLU, awọn ipo ayanfẹ eniyan, ati igbelewọn LLM-bi-idajọ ti iranlọwọ ati titọ. Reti idamu lati wa awọn ẹlẹrọ metiriki Dasibodu wo lakoko ikẹkọ iṣaaju, lakoko ti awọn iṣeduro ti gbogbo eniyan nipa awoṣe kan jẹ 'dara julọ' gbigbe ara si awọn suites ala-ilẹ ati igbelewọn eniyan-ori-si-ori ti o mu ironu ati idamu otitọ ko le.
Real-World imuse
Idamu afọwọsi ipasẹ lakoko ikẹkọ iṣaaju lati jẹrisi awoṣe kan tun n kọ ẹkọ ati lati ṣawari nigbati o bẹrẹ ni ibamu ju.
Lilo Dimegilio BLEU lati ṣe afiwe eto-itumọ ẹrọ tuntun si itumọ itọkasi eniyan
Ijabọ ROUGE-L ni lqkan lati ṣe ipilẹ awoṣe-akopọ awọn iroyin lodi si awọn akopọ-boṣewa goolu
Ṣe afiwe awọn aaye ayẹwo awoṣe meji lori koposi ti o waye kanna lati pinnu eyi ti o sọ asọtẹlẹ ọrọ diẹ sii ni igboya
Awọn ewu & Awọn ọna iṣọ
Awọn otitọ ti a sọ di mimọ le tẹ awọn ijabọ sii ni idakẹjẹ, awọn ṣiṣan atilẹyin, tabi awọn abajade iwadii.
Ifamọ kiakia le ṣẹda awọn abajade aisedede kọja awọn ibeere ti o jọra.
Awọn data ọrọ ifarabalẹ le farahan ti awọn idari wiwọle ko lagbara.
Ilana Ilana imuse
Ṣetumo ọna kika iṣẹjade, ohun orin, ati awọn iṣedede didara ṣaaju ṣiṣejade.
Awọn idahun ilẹ pẹlu awọn orisun ti o gbẹkẹle nigbakugba ti deede ba ṣe pataki.
Jeki aaye ayẹwo atunyẹwo eniyan fun awọn abajade ti o ga julọ.
Tọpinpin awọn ilana ikuna ati tunṣe awọn itọsi tabi ṣiṣan iṣẹ nigbagbogbo.
Tesiwaju Ṣiṣawari
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Perplexity and Language Metrics quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Itọsọna atẹle
Awoṣe Ede
Awọn ibeere ti a beere nigbagbogbo
What is Perplexity and Language Metrics?
Perplexity jẹ ami iyasọtọ ti aṣa fun bii 'iyalẹnu' awoṣe ede jẹ nipasẹ ọrọ gidi — isalẹ tumọ si pe o sọ asọtẹlẹ awọn ọrọ diẹ sii ni igboya. O ati awọn metiriki bii BLEU ati ROUGE jẹ bii awọn oniwadi ṣe wọn gangan boya awoṣe kan n dara si.
Kini Dimegilio idamu kekere kan tọka si nipa awoṣe ede kan?
Perplexity ṣe iwọn bi o ṣe jẹ iyalẹnu awoṣe nipasẹ ọrọ gidi; idamu kekere tumọ si pe o ṣe ipinnu iṣeeṣe giga si awọn ọrọ atẹle gangan, nitorinaa o sọ asọtẹlẹ diẹ sii ni igboya.
Perplexity ti wa ni mathematiki lati inu iye ikẹkọ wo?
Perplexity ni aropin ti o ṣeeṣe log-odi odi, ṣiṣe ni iyipada taara ti isonu-entropy-agbelebu ti awoṣe jẹ ikẹkọ lati dinku.
Awoṣe kan ṣe ipinnu iṣeeṣe aṣọ kan kọja ọrọ-ọrọ 10,000 kan laisi kikọ ẹkọ. Kini idamu rẹ?
Perplexity jẹ nọmba ti o munadoko ti awọn yiyan ti o ṣeeṣe bakanna. Aso funfun lafaimo lori 10,000 ọrọ yoo fun a perplexity ti 10,000.
Kini idi ti awọn ikun idamu lati awọn awoṣe oriṣiriṣi meji jẹ ṣinalọna lati ṣe afiwe taara?
Nitori idamu ti wa ni iṣiro fun ami ami kan, ipele-ọrọ ati awoṣe-ọrọ kan pin ọrọ yato, ṣiṣe awọn iye idamu aise wọn kii ṣe afiwera taara.
Metiriki wo ni o ni nkan ṣe pẹlu iṣiro itumọ ẹrọ nipasẹ n-gram ni lqkan pẹlu itọkasi kan?
BLEU ṣe iwọn ni lqkan ti ọrọ n-grams laarin itumọ eto kan ati itọkasi eniyan, ati pe o jẹ boṣewa ti o duro pẹ fun igbelewọn itumọ.