Awọn ipilẹ Itọsọna

Awọn iṣẹ pipadanu

Iṣẹ pipadanu jẹ nọmba ẹyọkan ti o sọ fun awoṣe bawo ni awọn asọtẹlẹ rẹ ṣe jẹ aṣiṣe, titan ibi-afẹde aiduro sinu nkan mathematiki le mu dara si.

2 min kakẹhin imudojuiwọn

Akopọ

Yiyan pipadanu ti o tọ ṣe apẹrẹ ohun ti awoṣe naa kọ gangan.

Jin Dive

Gbogbo oṣiṣẹ awoṣe nilo kan kongẹ definition ti ikuna, ati awọn ti o jẹ ohun ti a isonu iṣẹ pese. O ṣe afiwe asọtẹlẹ awoṣe si idahun otitọ ati ṣejade nọmba kan: giga tumọ si buru. Ikẹkọ lẹhinna jẹ ilana ti idinku nọmba yii. Yiyan pipadanu kii ṣe ohun ikunra. Fun awọn iṣẹ-ṣiṣe ipadasẹhin, tumọ si aṣiṣe onigun mẹrin ṣe ijiya awọn aṣiṣe nla ni iwuwo nipa didi iyatọ, lakoko ti o tumọ si aṣiṣe pipe ṣe itọju gbogbo awọn aṣiṣe diẹ sii ni deede ati kọju awọn atako. Fun isọdi, awọn iwọn ipadanu-entropy-agbelebu bawo ni pinpin iṣeeṣe asọtẹlẹ ti wa lati aami tootọ, ijiya awọn idahun ti ko tọ ni igboya. Yiyan pipadanu ti ko baamu ibi-afẹde rẹ le jẹ ki awoṣe ni imọ-ẹrọ mu ohun ti ko tọ dara, nitorinaa iṣẹ isonu naa ni imunadoko ohun ti o nifẹ si.

Imọ-imọ-ẹrọ

Agbelebu-entropy, iṣẹ-iṣẹ fun isọdi, jẹyọ lati imọ-jinlẹ alaye: o ṣe iwọn awọn iwọn afikun ti o nilo lati fi koodu koodu pamọ awọn aami otitọ ni lilo awọn iṣeeṣe asọtẹlẹ awoṣe. Nitoripe o dagba ni didasilẹ bi asọtẹlẹ igboya ti jade ni aṣiṣe, gradient rẹ titari awoṣe ni lile lati ṣatunṣe awọn aṣiṣe igbẹkẹle. Awọn iṣẹ ipadanu gbọdọ jẹ iyatọ (tabi o fẹrẹ bẹ) nitori itọjade ẹhin nilo gradient wọn. Ibeere yẹn ni deede idi ti a fi lo awọn abẹfẹlẹ didan dipo aise, awọn metiriki ti ko ni iyatọ bi deede.

Ipa Ilana

Awọn ipinnu diẹ sii

O ṣe iranlọwọ fun ọ lati ya sọtọ awọn iṣeduro imọ-ẹrọ lati ede tita.

Iye owo ati isuna

O le beere awọn ibeere imuse to dara julọ ṣaaju lilo owo tabi akoko.

Ẹgbẹ ati ṣiṣan iṣẹ

Awọn ẹgbẹ pẹlu oye pinpin ṣe ọja to dara julọ, eto imulo, ati awọn ipinnu ikẹkọ.

Ojo iwaju ti Awọn iṣẹ Isonu

Apẹrẹ iṣẹ-pipadanu n pọ si nibiti ihuwasi AI ode oni ti ṣe apẹrẹ. Ni ikọja agbelebu-entropy boṣewa, awọn ilana bii didimu aami, ipadanu idojukọ fun data aiṣedeede, ati awọn adanu iyatọ fun ẹkọ aṣoju jẹ ilana ṣiṣe ni bayi. Ni awọn awoṣe ede ti o tobi, ibi ikẹkọ ati imudara-ẹkọ-lati-si awọn awoṣe ẹsan-idapada jẹ awọn adanu ti a ṣe ni pataki ni iṣọra ti o dari ohun orin, iranlọwọ, ati ailewu. Reti idagbasoke idagbasoke ni aṣa ati awọn adanu apapo ti o dapọ awọn ibi-afẹde pupọ, nitori wọn jẹ ọkan ninu awọn lefa taara julọ fun iṣakoso kini awọn iye awoṣe.

Real-World imuse

Lilo ipadanu agbelebu-entropy lati ṣe ikẹkọ ikasi àwúrúju imeeli kan ti o jẹ ijiya awọn aiṣedeede igboya

Yiyan tumọ si aṣiṣe pipe fun asọtẹlẹ idiyele-ile nitoribẹẹ awọn ile nla diẹ diẹ ko jẹ gaba lori ikẹkọ

Lilo ipadanu iyatọ ki awoṣe idanimọ oju kan fa awọn aworan ti eniyan kanna pọ

Imọ-ẹrọ adanu-awoṣe ere lati darí chatbot si ọna iranlọwọ diẹ sii ati awọn idahun ododo

Awọn ewu & Awọn ọna iṣọ

Awọn ẹgbẹ oriṣiriṣi le lo ọrọ kanna ni oriṣiriṣi, nitorinaa ṣalaye iwọn ni kutukutu.

Awọn aṣepari le wo lagbara lakoko ti iṣẹ-aye gidi ko ṣe deede.

Aibikita didara data ati awọn ero igbelewọn nigbagbogbo ṣẹda awọn abajade ẹlẹgẹ.

Ilana Ilana imuse

1

Bẹrẹ pẹlu itumọ-ede itele ti abajade ti o nilo.

2

Mu metiriki aṣeyọri kan ati ipo ikuna kan ṣaaju idanwo.

3

Ṣiṣe awakọ kekere kan pẹlu data aṣoju, kii ṣe eto demo didan.

4

Iwe-ipamọ nibiti Awọn iṣẹ Ipadanu ṣe iranlọwọ ati nibiti awọn ọna ti o rọrun dara julọ.

Tesiwaju Ṣiṣawari

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Loss Functions quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

Bẹrẹ adanwo

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

Itọsọna atẹle

Isonu Mẹta ati Ẹkọ Metiriki

Awọn ibeere ti a beere nigbagbogbo

Kini awọn iṣẹ pipadanu?

Iṣẹ pipadanu jẹ nọmba ẹyọkan ti o sọ fun awoṣe bawo ni awọn asọtẹlẹ rẹ ṣe jẹ aṣiṣe, titan ibi-afẹde aiduro sinu nkan mathematiki le mu dara si. Yiyan isonu ti o tọ ṣe apẹrẹ ohun ti awoṣe gangan kọ.

Kini iwọn iṣẹ ipadanu?

Iṣẹ ipadanu n jade nọmba kan ti n ṣe iwọn aafo laarin awọn asọtẹlẹ ati awọn idahun otitọ; isalẹ jẹ dara julọ.

Iṣẹ ipadanu wo ni a lo julọ fun awọn iṣẹ ṣiṣe isọdi?

Cross-entropy ṣe afiwe awọn ipinpinpin iṣeeṣe asọtẹlẹ si awọn aami otitọ ati pe o jẹ yiyan boṣewa fun isọdi.

Ti a ṣe afiwe si tumọ si aṣiṣe onigun mẹrin, kilode ti o le yan tumọ si aṣiṣe pipe?

Itumọ aṣiṣe pipe ṣe itọju gbogbo awọn aṣiṣe ni iwọn dipo ki o yi wọn squaring, nitorinaa diẹ ninu awọn ti o jade ni iwọn diẹ ni ipa diẹ.

Kini idi ti iṣẹ ipadanu ni gbogbogbo gbọdọ jẹ iyatọ?

Itankalẹ ẹhin nilo isonu ti pipadanu lati ṣe imudojuiwọn awọn iwuwo, nitorinaa pipadanu naa gbọdọ jẹ iyatọ tabi ni aropo ohun elo.

Bawo ni agbelebu-entropy ṣe tọju igboya ṣugbọn asọtẹlẹ aṣiṣe?

Cross-entropy dagba ni didasilẹ nigbati awoṣe ba jẹ aṣiṣe pẹlu igboya, ti n ṣe agbejade ti o lagbara lati ṣatunṣe aṣiṣe naa.