LegközelebbKövetkező útmutató
Ingyenes AI-tanfolyamok kezdőknek
Alapok
Alapok ÚTMUTATÓ
A No Free Lunch eredmények azt mutatják, hogy bizonyos feltevések mellett az algoritmusok azonos átlagos teljesítményt nyújtanak, ha egyenletesen átlagolják a lehetséges célfüggvények teljes halmazán egy rögzített véges tartományon.
Hallgassa meg ezt az útmutatótAI-narrált · ~3 min
Ezek azért fontosak, mert egy valós feladat teljesítménye attól függ, hogy az adatok és az értékelési problémák hogyan épülnek fel, ezért a modellválasztásnál tartományismeretet és feladatspecifikus érvényesítést kell használni.
A No Free Lunch (NFL) tételek, amelyeket David Wolpert és William Macready formalizált 1997-ben, az optimalizálás és a kereséselmélet eredményei, amelyeket később a felügyelt tanulásra is alkalmaztak. A klasszikus véges optimalizálási beállításnál az eredmény egységes súlyozással összehasonlítja a keresési algoritmusokat a teljes célfüggvénykészleten; a tétel nem állítja, hogy egy véletlenszerű tippelő versenyképes egy adott valós feladatban. Bármilyen élt, amelyet egy algoritmus elér a beépített feltevéseknek megfelelő problémákon, pontosan ellensúlyozza az ezeket a feltételezéseket sértő problémák hátránya, ha ugyanazt a teljes függvényteret egyenletesen átlagoljuk. Ez az állítás az összes matematikailag lehetséges probléma teréről szól, nem pedig azokról a problémákról, amelyekkel az emberek ténylegesen szembesülnek, ami általános zavart okoz. A valós adatok nem egyenletesen oszlanak meg a problématípusok között; erősen strukturált, ezért egyes algoritmusok a gyakorlatban következetesen felülmúlnak másokat, mint például a gradiens növelése táblázatos adatokon vagy transzformátorok a nyelven. A tétel gyakorlati tanulsága nem az, hogy az algoritmusválasztás önkényes, hanem az ellenkezője: mivel egyetlen algoritmus sem nyer mindenhol, az egyik választása azt jelenti, hogy az adatokkal kapcsolatos feltételezésekre – például simaságra, ritkaságra vagy térbeli lokalizációra – tippelünk, és ezt a fogadást tudatosan keresztellenőrzésen és tartományismereten keresztül kell megtenni, ahelyett, hogy jelenleg melyik módszerrel alapértelmezés szerint kerülne sor. A tétel feltevései számítanak: a függvények meghatározott osztályára vonatkozik, és a teljes osztály egységes átlagára vonatkozik, nem pedig egy adott területen a problémák valószínűségével súlyozott átlagra. A valós feladatelosztás, adatforrás vagy kiértékelési metrika kiválasztása után az algoritmusok jelentősen eltérhetnek egymástól.
A döntési fa felülmúlja a kölcsön-nemteljesítési adatok lineáris modelljét éles küszöbhatásokkal, de ugyanaz a fa alulteljesít egy sima, lineárisan elválasztható árképzési adatkészleten, ami azt mutatja, hogy a teljesítmény attól függ, hogy a modell feltevéseit össze kell hangolni az adatok szerkezetével.
A konvolúciós hálózat dominál a természetes képeken, mert feltételezi, hogy a közeli pixelek kapcsolatban állnak egymással, de ugyanez a beépített feltevés gyenge alapértelmezett választássá teszi a térbeli elrendezés nélküli, kevert táblázatos táblázatadatokhoz.
A Kaggle versenyek ismételten azt mutatják, hogy a gradiens-növelt fák győznek a strukturált üzleti adatokon, míg a mély hálózatok nyernek a képeken és a szövegeken, megerősítve, hogy a legjobb módszer a probléma típusától függően változik.
A visszafogadási kockázati modellt választó kórház több algoritmust tesztel a saját betegrekordjain, ahelyett, hogy feltételezné, hogy a máshol közzétett benchmarkot megnyerő módszer átkerül, mivel a benchmark adatai eltérő szerkezetűek.
Maga a tétel nem fog változni; ez egy matematikai tény az idealizált problématerekről. Ami folyamatosan fejlődik, az a gyakorlati útmutatás a modell torzításának az adatokhoz való illesztéséhez: az automatizált gépi tanulási és meta-learning rendszerek egyre gyakrabban próbálnak következtetni egy adatkészlet szerkezetére, és ennek megfelelően kiválasztani vagy keverni az algoritmusokat. A benchmarkok folyamatos növekedésére számítsanak, amelyek az algoritmusokat változatosabb, reálisabb problématípusokon tesztelik, nem pedig egy népszerű adathalmazt, mivel az NFL azt jelenti, hogy minden egyes benchmark ranglista a lehetséges problémák szűk szeletét tükrözi, nem pedig egyetemes felsőbbrendűséget.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
A No Free Lunch eredmények azt mutatják, hogy bizonyos feltevések mellett az algoritmusok azonos átlagos teljesítményt nyújtanak, ha egyenletesen átlagolják a lehetséges célfüggvények teljes halmazán egy rögzített véges tartományon. Ezek azért fontosak, mert egy valós feladat teljesítménye attól függ, hogy az adatok és az értékelési problémák hogyan épülnek fel, ezért a modellválasztásnál tartományismeretet és feladatspecifikus érvényesítést kell használni.
A klasszikus eredmény egyenlő átlagos teljesítményt hoz létre egy teljes véges célfüggvény osztályon egységes átlagolás mellett; nem jósolja meg egy kiválasztott valós feladat teljesítményét.
A valódi képadatok nem véletlenszerűen vonhatók ki az összes lehetséges problémából; olyan térbeli struktúrája van, amely megfelel a CNN közeli pixelkapcsolatok felé való torzításának.
Wolpert és Macready 1997-ben formalizálta az NFL-tételeket, eredetileg az optimalizálás és a keresési problémák miatt.
Az NFL az összes matematikailag lehetséges probléma egységes átlagolásáról szól, nem a gyakorlatban látott strukturált problémákról, így nem teszi önkényessé az algoritmusválasztást a való világban.
Az elfogultság segít azokon a problémákon, amelyek felépítése megfelel a feltételezéseknek, és árthat, ha a szerkezet különbözik; ez nem egyetemes előny.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
Ingyenes AI-tanfolyamok kezdőknek
Alapok