Imọ Itọsọna

Olona-Ologun Bandits

Bandit-opa pupọ jẹ iṣoro ipinnu nibiti o ti yan leralera laarin awọn aṣayan pẹlu awọn isanwo aimọ ati kọ ẹkọ bi o ṣe nlọ, iwọntunwọnsi ṣawari awọn aṣayan tuntun lodi si ilokulo ti o dara julọ ti a rii.

2 min kakẹhin imudojuiwọn

Akopọ

O ṣe agbara idanwo A / B, awọn iṣeduro, ati yiyan ipolowo ori ayelujara.

Jin Dive

Orukọ naa wa lati ọdọ onijagidijagan ti nkọju si ọpọlọpọ awọn ẹrọ iho (awọn olè-apa kan), ọkọọkan pẹlu oṣuwọn win aimọ, ti o fẹ lati mu ere pọ si lori ọpọlọpọ awọn fa. Aarin ẹdọfu ni wiwa-lo nilokulo iṣowo: tẹsiwaju fifa apa ti o dara julọ, tabi ṣapejuwe awọn apa ti ko ni idaniloju lati ni imọ siwaju sii. Iṣẹ ṣiṣe jẹ iwọn nipasẹ banujẹ, aafo akopọ laarin awọn ere rẹ ati mimu apa ti o dara julọ nigbagbogbo; ti o dara alugoridimu se aseyori banuje ti o dagba nikan logarithmically ni awọn nọmba ti iyipo. Awọn ilana Ayebaye pẹlu epsilon-greedy (lo nilokulo, ṣugbọn ṣawari ni ID pẹlu iṣeeṣe kekere), Igbẹkẹle Igbẹkẹle Oke (mu apa pẹlu iṣiro ireti ti o ga julọ), ati iṣapẹẹrẹ Thompson (ayẹwo lati igbagbọ ẹhin apa kọọkan ati mu olubori ṣiṣẹ). Awọn onijagidijagan ọrọ-ọrọ fa eyi pọ si nipa lilo awọn ẹya ti ipo lati yan.

Imọ-imọ-ẹrọ

UCB embodies 'optimism labẹ aidaniloju': o ṣe afikun kan igbekele ajeseku, aijọju awọn square root ti (2 ln t lori n_i), si kọọkan apa ká tumosi ere, ibi ti t ni awọn yika ati n_i awọn igba apa i a gbiyanju. Ṣọwọn fa apá gba kan ti o tobi ajeseku ati ki o waidi; Awọn apa ti a ṣe ayẹwo daradara da lori iṣiro wọn. Thompson iṣapẹẹrẹ dipo n ṣetọju ẹhin Bayesian fun apa ati ṣawari ni ibamu si iṣeeṣe ti apa kọọkan dara julọ.

Ipa Ilana

Iye owo ati isuna

Awọn ipinnu faaji ṣe awakọ iṣẹ ati idiyele iṣẹ fun awọn ọdun.

Awọn ipinnu diẹ sii

Ẹkọ imọ-ẹrọ ṣe iranlọwọ fun awọn ẹgbẹ lati yan akopọ to tọ, kii ṣe ọkan tuntun nikan.

Iṣakoso didara

Awọn yiyan imọ-ẹrọ to dara julọ dinku awọn iṣẹlẹ igbẹkẹle ni iṣelọpọ.

Ojo iwaju ti Olona-Ologun Bandits

Awọn onijagidijagan n tan kaakiri sinu ikẹkọ imuduro, nibiti wọn ṣe agbekalẹ bulọọki ile ti o rọrun julọ, ati sinu isọdi-iwọn nla pẹlu ọrọ-ọrọ ati awọn onijagidijagan nkankikan ti o ka awọn ẹya ọlọrọ. Iwadii ti nṣiṣe lọwọ fojusi awọn ere ti kii ṣe iduro ti o lọ kiri ni akoko pupọ, awọn onijagidijagan pẹlu ailewu tabi awọn idiwọ ododo, ati apapọ awọn onijagidijagan pẹlu ikẹkọ aṣoju jinlẹ. Reti wọn ni ifibọ sinu awọn idanwo ile-iwosan adaṣe, idiyele agbara, ati awọn ọna ṣiṣe LLM ti o yan awọn itọsi tabi awọn irinṣẹ ori ayelujara lakoko ti o n ṣakoso ikaba.

Real-World imuse

Oju opo wẹẹbu kan nlo awọn onijagidijagan lati pinnu iru oriṣi akọle lati ṣafihan, ni iyara yiyi ijabọ si ẹya ti n gba awọn jinna pupọ julọ.

Syeed ipolowo ori ayelujara n pin awọn iwunilori kọja awọn iṣelọpọ pẹlu iṣapẹẹrẹ Thompson lati mu iwọn titẹ-nipasẹ pọ si lakoko ti o tun n ṣe idanwo awọn ipolowo tuntun.

Idanwo ile-iwosan ti o ni adaṣe ṣe ipinnu awọn alaisan diẹ sii si awọn itọju ti n ṣafihan awọn abajade to dara julọ, idinku ifihan si awọn apa isalẹ.

Iṣẹ ṣiṣanwọle tun ṣe awọn eekanna atanpako iṣeduro fun olumulo pẹlu awọn onijagidijagan ọrọ-ọrọ ti o ka awọn ẹya wiwo-itan.

Awọn ewu & Awọn ọna iṣọ

Ṣiṣepe ala-ilẹ kan le tọju awọn ailagbara eto ti o gbooro.

Awọn ohun elo amayederun ati awọn idiyele itọju nigbagbogbo ni aibikita.

Aabo ati awọn ela akiyesi le dagba bi awọn eto ṣe di eka sii.

Ilana Ilana imuse

1

Ṣetumo lairi, didara, ati awọn ibi-afẹde idiyele ṣaaju imuse.

2

Aṣepari labẹ ẹru ojulowo ati awọn ipo data.

3

Abojuto ohun elo fun awọn aṣiṣe, fiseete, ati ipa olumulo.

4

Mura ipadasẹhin pada ati awọn ipa ọna esi iṣẹlẹ ṣaaju iwọn.

Tesiwaju Ṣiṣawari

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Multi-Armed Bandits quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

Bẹrẹ adanwo

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

Itọsọna atẹle

Sisanwọle Speculative ati Olona-Tokini Asọtẹlẹ

Awọn ibeere ti a beere nigbagbogbo

Kini awọn onijagidijagan ti o ni ihamọra?

Bandit-opa pupọ jẹ iṣoro ipinnu nibiti o ti yan leralera laarin awọn aṣayan pẹlu awọn isanwo aimọ ati kọ ẹkọ bi o ṣe nlọ, iwọntunwọnsi ṣawari awọn aṣayan tuntun lodi si ilokulo ti o dara julọ ti a rii. O ṣe agbara idanwo A/B, awọn iṣeduro, ati yiyan ipolowo ori ayelujara.

Kini atẹle fun awọn onijagidijagan ti o ni ihamọra?

Awọn onijagidijagan n tan kaakiri sinu ikẹkọ imuduro, nibiti wọn ṣe agbekalẹ bulọọki ile ti o rọrun julọ, ati sinu isọdi-iwọn nla pẹlu ọrọ-ọrọ ati awọn onijagidijagan nkankikan ti o ka awọn ẹya ọlọrọ. Iwadii ti nṣiṣe lọwọ fojusi awọn ere ti kii ṣe iduro ti o lọ kiri ni akoko pupọ, awọn onijagidijagan pẹlu ailewu tabi awọn idiwọ ododo, ati apapọ awọn onijagidijagan pẹlu ikẹkọ aṣoju jinlẹ. Reti wọn ni ifibọ sinu awọn idanwo ile-iwosan adaṣe, idiyele agbara, ati awọn ọna ṣiṣe LLM ti o yan awọn itọsi tabi awọn irinṣẹ ori ayelujara lakoko ti o n ṣakoso ikaba.

Kini ilana epsilon-greedy ṣe?

Epsilon-greedy nilokulo apa ti o dara julọ julọ ni akoko pupọ ati ṣawari apa ID pẹlu epsilon iṣeeṣe kekere.

Bawo ni bandit contextual ṣe yatọ si ọkan boṣewa?

Awọn onijagidijagan asọye n ṣakiyesi alaye ẹgbẹ (awọn ẹya) nipa yika kọọkan ati lo lati mu apa ti o dara julọ fun agbegbe yẹn.