LegközelebbKövetkező útmutató
Triton nyelv egyéni GPU-kernelekhez
Műszaki
Műszaki ÚTMUTATÓ
A kerneltrükk lehetővé teszi, hogy egy belső termékektől függő algoritmus úgy viselkedjen, mintha gazdagabb jellemzőreprezentációt használna, anélkül, hogy minden átalakított jellemzőt kifejezetten megszerkesztene.
Hallgassa meg ezt az útmutatótAI-narrált · ~3 min
Ez támogatja a nemlineáris döntési határokat olyan módszerekben, mint a támogató vektorgépek, miközben a kernelválasztás és a számítás továbbra is fontos.
Sok algoritmus belső termékeken keresztül használ példákat. A kernelfüggvény kiszámítja azt a hasonlóságot, amely egy belső terméknek felel meg valamely jellemzőtérben. Ha egy algoritmus csak páronkénti belső termékek felhasználásával írható, akkor ezeket a termékeket kernelkiértékelésekkel lehet helyettesíteni. Az algoritmus ezután úgy viselkedik, mintha minden bemenetet az adott jellemzőtérbe képeztek volna le, még akkor is, ha a transzformált koordinátákat soha nem hozták létre kifejezetten. Ez a kernel trükk. Jól ismert példa a támogató vektorgépekre. A lineáris SVM lapos határvonalat hoz létre a bemeneti ábrázolásában. Érvényes nemlineáris kernellel ugyanaz az optimalizálás nemlineáris határt képezhet az eredeti beviteli térben. A polinomiális kernel egy kiválasztott mértékig reprezentálhat kölcsönhatásokat, míg a radiális bázisfüggvénymag olyan hasonlóságot ad, amely a távolsággal csökken. Ezek a választások megváltoztatják a döntési felület rugalmasságát. A kernel nem teszi automatikusan pontossá a modellt. A túl egyszerű kernel alulmaradhat; amely túl rugalmas, illeszkedhet a zajhoz. A bemeneti méretezés azért fontos, mert a távolság alapú hasonlóságok a jellemzők nagyságától függenek. A hiperparaméterek, például az RBF szélesség szabályozzák, hogy milyen gyorsan csökken a hasonlóság a távolsággal. Válassza ki a beállításokat a betanítási és érvényesítési adatok alapján, és értékelje a végső teljesítményt azon adatok alapján, amelyek nem vezették ezeket a döntéseket. A számítási kompromisszum is számít. A kernelmetódusok gyakran tárolnak vagy számítanak ki hasonlóságokat sok példapár között. A teljes mátrix négyzetesen növekszik a betanítási példák számával, ami drága lehet memóriában és időben. Nagy adathalmazok esetén az explicit jellemzőtérképek, közelítések, lineáris modellek vagy más megközelítések praktikusabbak lehetnek. Egy kernelnek teljesítenie kell a szabványos optimalizálási módszerek matematikai érvényességi feltételeit, általában azt, hogy szimmetrikus Gram-mátrixa pozitív félig meghatározott minden bemeneti véges halmazra. Az önkényes hasonlósági pontszámok nem feltétlenül érvényes kernelek. A trükk elkerüli a potenciálisan nagy jellemzőterületek explicit felsorolását, de nem zárja ki a számítást: a páronkénti kernelértékelés lehet a domináns költség.
A támogatási vektorosztályozó RBF kernelt használ az olyan koncentrikus csoportok elválasztására, amelyeket egy egyenes nem oszthat fel az eredeti kétdimenziós nézetben.
Egy polinomiális kernel modellezi a kiválasztott funkciók interakcióit anélkül, hogy minden termékkifejezést manuálisan felsorolna.
Egy kutató beágyazott érvényesítéssel hasonlítja össze a kerneleket, mert a legjobb kernel kiválasztása a végső tesztkészletből torzítaná a jelentett becslést.
A mérnök ellenőrzi a páronkénti kernelmátrix méretét és költségét, mielőtt egy rendszermagmodellt egy sokkal nagyobb adatkészletre méretezne.
A kernelmetódusok továbbra is hasznosak maradnak közepes méretű adatkészletek, strukturált hasonlóságok és problémák esetén, ahol a hasonlóság tartományspecifikus fogalma értelmes. A hozzávetőleges jellemzőtérképek és a hardver-tudatos megoldók skálázhatóbbá tehetik a kernel munkafolyamatait, míg az egyszerűbb lineáris vagy neurális megközelítések más adatméretekhez és -struktúrákhoz is megfelelhetnek. A gyakorlati irány az, hogy a mért költségek és a visszatartott viselkedés alapján válasszunk reprezentációkat, ahelyett, hogy feltételeznénk, hogy egy nemlineáris kernel automatikusan jobb. Az értelmezhetőség és az érvényesítés továbbra is a választott kerneltől és a bemeneti skálázástól függ.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
A kerneltrükk lehetővé teszi, hogy egy belső termékektől függő algoritmus úgy viselkedjen, mintha gazdagabb jellemzőreprezentációt használna, anélkül, hogy minden átalakított jellemzőt kifejezetten megszerkesztene. Ez támogatja a nemlineáris döntési határokat olyan módszerekben, mint a támogató vektorgépek, miközben a kernelválasztás és a számítás továbbra is fontos.
A rendszermag-kiértékelések a belső termékekre vonatkoznak egy jellemzőtérben, anélkül, hogy az összes transzformált koordinátát kifejezetten megépítenék.
Egy lapos elválasztó a transzformált térben megfelelhet egy nemlineáris határnak az eredeti ábrázolásban.
A nagy numerikus léptékű jellemzők uralhatják a távolságszámításokat.
A pozitív félig meghatározott Gram-mátrix érvényes belső szorzatgeometriának felel meg.
A sűrű mátrix minden példapárhoz hasonlóságot tárol.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
Triton nyelv egyéni GPU-kernelekhez
Műszaki