Alapok ÚTMUTATÓ

Az ingyenes ebéd nélküli tétel

A No Free Lunch eredmények azt mutatják, hogy bizonyos feltevések mellett az algoritmusok azonos átlagos teljesítményt nyújtanak, ha egyenletesen átlagolják a lehetséges célfüggvények teljes halmazán egy rögzített véges tartományon.

Hallgassa meg ezt az útmutatótAI-narrált · ~3 min

Ezen az oldalon3 perc olvasás
  1. Áttekintés
  2. Mély merülés
  3. Valós megvalósítás
  4. Az ingyenes ebéd nélküli tétel jövője
  5. A gyakorlatba ültetés
  6. Folytassa a felfedezést
  7. Gyakran ismételt kérdések

Áttekintés

Ezek azért fontosak, mert egy valós feladat teljesítménye attól függ, hogy az adatok és az értékelési problémák hogyan épülnek fel, ezért a modellválasztásnál tartományismeretet és feladatspecifikus érvényesítést kell használni.

Mély merülés

A No Free Lunch (NFL) tételek, amelyeket David Wolpert és William Macready formalizált 1997-ben, az optimalizálás és a kereséselmélet eredményei, amelyeket később a felügyelt tanulásra is alkalmaztak. A klasszikus véges optimalizálási beállításnál az eredmény egységes súlyozással összehasonlítja a keresési algoritmusokat a teljes célfüggvénykészleten; a tétel nem állítja, hogy egy véletlenszerű tippelő versenyképes egy adott valós feladatban. Bármilyen élt, amelyet egy algoritmus elér a beépített feltevéseknek megfelelő problémákon, pontosan ellensúlyozza az ezeket a feltételezéseket sértő problémák hátránya, ha ugyanazt a teljes függvényteret egyenletesen átlagoljuk. Ez az állítás az összes matematikailag lehetséges probléma teréről szól, nem pedig azokról a problémákról, amelyekkel az emberek ténylegesen szembesülnek, ami általános zavart okoz. A valós adatok nem egyenletesen oszlanak meg a problématípusok között; erősen strukturált, ezért egyes algoritmusok a gyakorlatban következetesen felülmúlnak másokat, mint például a gradiens növelése táblázatos adatokon vagy transzformátorok a nyelven. A tétel gyakorlati tanulsága nem az, hogy az algoritmusválasztás önkényes, hanem az ellenkezője: mivel egyetlen algoritmus sem nyer mindenhol, az egyik választása azt jelenti, hogy az adatokkal kapcsolatos feltételezésekre – például simaságra, ritkaságra vagy térbeli lokalizációra – tippelünk, és ezt a fogadást tudatosan keresztellenőrzésen és tartományismereten keresztül kell megtenni, ahelyett, hogy jelenleg melyik módszerrel alapértelmezés szerint kerülne sor. A tétel feltevései számítanak: a függvények meghatározott osztályára vonatkozik, és a teljes osztály egységes átlagára vonatkozik, nem pedig egy adott területen a problémák valószínűségével súlyozott átlagra. A valós feladatelosztás, adatforrás vagy kiértékelési metrika kiválasztása után az algoritmusok jelentősen eltérhetnek egymástól.

Valós megvalósítás

A döntési fa felülmúlja a kölcsön-nemteljesítési adatok lineáris modelljét éles küszöbhatásokkal, de ugyanaz a fa alulteljesít egy sima, lineárisan elválasztható árképzési adatkészleten, ami azt mutatja, hogy a teljesítmény attól függ, hogy a modell feltevéseit össze kell hangolni az adatok szerkezetével.

A konvolúciós hálózat dominál a természetes képeken, mert feltételezi, hogy a közeli pixelek kapcsolatban állnak egymással, de ugyanez a beépített feltevés gyenge alapértelmezett választássá teszi a térbeli elrendezés nélküli, kevert táblázatos táblázatadatokhoz.

A Kaggle versenyek ismételten azt mutatják, hogy a gradiens-növelt fák győznek a strukturált üzleti adatokon, míg a mély hálózatok nyernek a képeken és a szövegeken, megerősítve, hogy a legjobb módszer a probléma típusától függően változik.

A visszafogadási kockázati modellt választó kórház több algoritmust tesztel a saját betegrekordjain, ahelyett, hogy feltételezné, hogy a máshol közzétett benchmarkot megnyerő módszer átkerül, mivel a benchmark adatai eltérő szerkezetűek.

Az ingyenes ebéd nélküli tétel jövője

Maga a tétel nem fog változni; ez egy matematikai tény az idealizált problématerekről. Ami folyamatosan fejlődik, az a gyakorlati útmutatás a modell torzításának az adatokhoz való illesztéséhez: az automatizált gépi tanulási és meta-learning rendszerek egyre gyakrabban próbálnak következtetni egy adatkészlet szerkezetére, és ennek megfelelően kiválasztani vagy keverni az algoritmusokat. A benchmarkok folyamatos növekedésére számítsanak, amelyek az algoritmusokat változatosabb, reálisabb problématípusokon tesztelik, nem pedig egy népszerű adathalmazt, mivel az NFL azt jelenti, hogy minden egyes benchmark ranglista a lehetséges problémák szűk szeletét tükrözi, nem pedig egyetemes felsőbbrendűséget.

A gyakorlatba ültetés

Miért számít

  • Tisztább döntések. Segít elkülöníteni a világos technikai állításokat a marketing nyelvezettől.
  • Költség és költségvetés. Feltehet jobb végrehajtási kérdéseket, mielőtt pénzt vagy időt költene.
  • Csapat és munkafolyamat. A közös tudással rendelkező csapatok jobb döntéseket hoznak a termékekkel, irányelvekkel és tanulással kapcsolatban.

Vigyázz

  • A különböző csapatok eltérően használhatják ugyanazt a kifejezést, ezért korán határozza meg a hatókört.
  • A benchmarkok erősnek tűnhetnek, miközben a valós teljesítmény egyenetlen.
  • Az adatminőségi és értékelési tervek figyelmen kívül hagyása gyakran törékeny eredményekhez vezet.

Következő lépések

  1. Kezdje a kívánt eredmény egyszerű nyelvű meghatározásával.
  2. A tesztelés előtt válasszon egy sikermutatót és egy hibafeltételt.
  3. Futtasson egy kis pilotot reprezentatív adatokkal, ne egy csiszolt demókészlettel.
  4. Dokumentálja, ahol a No Free Lunch Theorem segít, és hol jobbak az egyszerűbb módszerek.

Folytassa a felfedezést

Ingyenes hírlevél

Szerezze meg a napi AI összefoglalót

Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.

Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.

Teszteld magad

Take the The No Free Lunch Theorem quiz

Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.

Kezdő kvíz

Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt

Gyakran ismételt kérdések

Mi az az ingyenes ebéd nélküli tétel?

A No Free Lunch eredmények azt mutatják, hogy bizonyos feltevések mellett az algoritmusok azonos átlagos teljesítményt nyújtanak, ha egyenletesen átlagolják a lehetséges célfüggvények teljes halmazán egy rögzített véges tartományon. Ezek azért fontosak, mert egy valós feladat teljesítménye attól függ, hogy az adatok és az értékelési problémák hogyan épülnek fel, ezért a modellválasztásnál tartományismeretet és feladatspecifikus érvényesítést kell használni.

Mi történik a klasszikus véges tartományú No Free Lunch eredmény alatt, ha a keresési algoritmusokat egységesen átlagolják a célfüggvények teljes halmazán?

A klasszikus eredmény egyenlő átlagos teljesítményt hoz létre egy teljes véges célfüggvény osztályon egységes átlagolás mellett; nem jósolja meg egy kiválasztott valós feladat teljesítményét.

Miért teljesít a konvolúciós hálózat gyakran felülmúlja a többi modellt a természetes képeken az NFL ellenére?

A valódi képadatok nem véletlenszerűen vonhatók ki az összes lehetséges problémából; olyan térbeli struktúrája van, amely megfelel a CNN közeli pixelkapcsolatok felé való torzításának.

Ki formalizálta az ebben az útmutatóban hivatkozott No Free Lunch tételeket, és mikor?

Wolpert és Macready 1997-ben formalizálta az NFL-tételeket, eredetileg az optimalizálás és a keresési problémák miatt.

Mit jelent a No Free Lunch eredmény egy benchmark ranglistáról?

Az NFL az összes matematikailag lehetséges probléma egységes átlagolásáról szól, nem a gyakorlatban látott strukturált problémákról, így nem teszi önkényessé az algoritmusválasztást a való világban.

Mikor segíti az algoritmus induktív torzítása a teljesítményét az útmutató szerint?

Az elfogultság segít azokon a problémákon, amelyek felépítése megfelel a feltételezéseknek, és árthat, ha a szerkezet különbözik; ez nem egyetemes előny.