Alapok ÚTMUTATÓ

Feature Engineering

A funkciótervezés a nyers adatok informatív inputokká (szolgáltatásokká) alakításának mestersége, amelyek segítenek a modellnek a tanulásban.

Áttekintés

A funkciótervezés a nyers adatok informatív inputokká (szolgáltatásokká) alakításának mestersége, amelyek segítenek a modellnek a tanulásban. A klasszikus gépi tanulásban gyakran ez a legnagyobb hajtóereje a pontosságnak, több, mint az algoritmus kiválasztása.

A Feature Engineering az AI eszközkészletben található. Ha megérti, más AI témák könnyebben értékelhetők és összehasonlíthatók.

Mély merülés

Egy modell csak az Ön által megadott bemenetekből tud tanulni, és a nyers adatok ritkán érkeznek hasznos formában. A funkciótervezés átalakítja ezt: kivonja a hét napját egy időbélyegből, kiszámítja az ügyfél átlagos vásárlását, számokként kódolja a kategóriákat, az értékeket közös tartományba skálázza, vagy az oszlopokat arányokká kombinálja. Ha jól sikerült, feltárja azokat a mintákat, amelyekre egy algoritmusnak szüksége van, így a nagyszerű funkciókon alapuló egyszerű modell gyakran felülmúlja a nyers adatokon alapuló összetett modellt. Ehhez tartományi ismeretek is szükségesek, mivel ha tudjuk, hogy például a „percenkénti tranzakciók” csalást jeleznek, az hatékony funkciót hoz létre. A klasszikus kockázat az adatszivárgás, amely véletlenül olyan információból épít fel egy funkciót, amely nem lenne elérhető az előrejelzési időpontban, ami megnöveli a teszteredményeket, de meghiúsul a gyártás során. A mély tanulás automatizálja ennek egy részét, de a strukturált/táblázatos problémák továbbra is nagymértékben támaszkodnak rá.

Technikai betekintés

Az általános technikák közé tartozik a normalizálás vagy szabványosítás (a számok skálázása, hogy egyetlen jellemző se domináljon), a kategorikus változók egyszeri vagy célkódolása, a folytonos értékek összerendelése, valamint interakciós vagy összesített jellemzők létrehozása. Kritikus diszciplína az, hogy a transzformációkat (például a skálázó átlagát és a szórását) csak a betanítási adatokra illesztjük, majd alkalmazzuk őket az érvényesítési és tesztkészletekre. A teljes adatkészletre történő kiszámításuk információkat szivárog ki, és túlságosan optimista eredményeket ad, amelyek nem érvényesülnek a telepítés során.

Feature Engineering elsajátítása

A funkciótervezés a nyers adatok informatív inputokká (szolgáltatásokká) alakításának mestersége, amelyek segítenek a modellnek a tanulásban. A klasszikus gépi tanulásban gyakran ez a legnagyobb hajtóereje a pontosságnak, több, mint az algoritmus kiválasztása. A Feature Engineering az AI eszközkészletben található. Ha megérti, más AI témák könnyebben értékelhetők és összehasonlíthatók. A mélyebb megértés érdekében a Feature Engineering-t működési modellként kezelje, ne egyetlen szolgáltatásként: határozza meg a kívánt eredményeket, tisztázza a feltételezéseket, és válassza el, hogy a rendszer mire képes megbízhatóan, és ami még szakértői megítélést igényel.

A gyakorlatban a Feature Engineeringet használó erős csapatok először erős koncepcionális modelleket készítenek, majd leképezik ezeket a modelleket a valós gyártási korlátokhoz. Dokumentálják az explicit sikerkritériumokat, tesztelik a valósághű adatokat és munkafolyamatokat, és a megfigyelt hibaminták alapján iterálnak, nem pedig egyszeri benchmark győzelmek alapján. Ez az a hely, ahol az elméleti megértés tartós képességgé válik a termék, a politika és a műveletek között.

Segít elkülöníteni a világos technikai állításokat a marketing nyelvezettől. Ugyanakkor a különböző csapatok eltérően használhatják ugyanazt a kifejezést, ezért korán határozza meg a hatókört. A legrugalmasabb megközelítés a kísérleti sebesség és az irányítási fegyelem kombinálása: kísérleti kísérletek futtatása, bizonyítékok rögzítése, döntési naplók közzététele és a biztosítékok folyamatos frissítése a modell viselkedésének, a felhasználói elvárásoknak és a szabályozási követelményeknek megfelelően.

Stratégiai hatás

Segít elkülöníteni a világos technikai állításokat a marketing nyelvezettől.

Segít elkülöníteni a világos technikai állításokat a marketing nyelvezettől. A kiváló minőségű telepítéseknél ez mérhető működési szabályokká, tulajdonosi határokká és ismétlődő felülvizsgálati rituálékká alakul át, így a csapatok növelhetik a bizalmat a kétértelműség skálázása helyett.

Feltehet jobb végrehajtási kérdéseket, mielőtt pénzt vagy időt költene.

Feltehet jobb végrehajtási kérdéseket, mielőtt pénzt vagy időt költene. A kiváló minőségű telepítéseknél ez mérhető működési szabályokká, tulajdonosi határokká és ismétlődő felülvizsgálati rituálékká alakul át, így a csapatok növelhetik a bizalmat a kétértelműség skálázása helyett.

A közös tudással rendelkező csapatok jobb döntéseket hoznak a termékekkel, irányelvekkel és tanulással kapcsolatban.

A közös tudással rendelkező csapatok jobb döntéseket hoznak a termékekkel, irányelvekkel és tanulással kapcsolatban. A kiváló minőségű telepítéseknél ez mérhető működési szabályokká, tulajdonosi határokká és ismétlődő felülvizsgálati rituálékká alakul át, így a csapatok növelhetik a bizalmat a kétértelműség skálázása helyett.

A Feature Engineering jövője

A Deep learning automatikus funkciókivonást kínál a képekhez, hangokhoz és szövegekhez, ahol a hálózatok közvetlenül a nyers bemenetekből tanulják meg a reprezentációkat. Ám a táblázatos és az üzleti adatok esetében, amelyek a legtöbb vállalati adat, továbbra is az átgondolt szolgáltatástervezés a meghatározó. A terület az automatizálás (AutoML, automatizált funkciók generálása) és az újrafelhasználható „funkciótárak” felé tolódik el, amelyek lehetővé teszik a csapatok számára, hogy egységes, jól tesztelt funkciókat oszthassanak meg a modellek között. Több olyan eszközre számíthat, amely funkciókat javasol, és megvédi a szivárgást, miközben az emberi szakértelem továbbra is elengedhetetlen a legmagasabb értékű szolgáltatásokhoz.

Valós megvalósítás

Csalásfelderítés: olyan funkciók származtatása, mint a tranzakciók gyakorisága, az utolsó vásárlás óta eltelt idő és a szokásos helytől való távolság.

Kereslet-előrejelzés: a hét napjának, ünnepnapi jelzőinek és gördülő átlagainak kinyerése a nyers értékesítési időbélyegekből.

Hitelbírálat: a nyers előzményeket olyan arányszámokká alakítja, mint az adósság/jövedelem és a legutóbbi késedelmes fizetések száma.

Ügyféllemorzsolódás: a tevékenységek összesítése olyan funkciókba, mint a bejelentkezések havonta és az utolsó elköteleződés óta eltelt napokban.

Megvalósítási minták

Feature Engineering a gyakorlatban

Csalásfelderítés: olyan funkciók származtatása, mint a tranzakciók gyakorisága, az utolsó vásárlás óta eltelt idő és a szokásos helytől való távolság.

Csalásfelderítés: olyan funkciók származtatása, mint a tranzakciók gyakorisága, az utolsó vásárlás óta eltelt idő és a szokásos helytől való távolság A csapatok általában jobb eredményeket érnek el, ha előre meghatározzák a minőségi küszöbértékeket, emberi eszkalációs útvonalat tartanak a szélsőséges eseteknél, és nyomon követik a termelékenység növekedését és a hibaköltségeket az idő múlásával.

Feature Engineering a gyakorlatban

Kereslet-előrejelzés: a hét napjának, ünnepnapi jelzőinek és gördülő átlagainak kinyerése a nyers értékesítési időbélyegekből.

Kereslet-előrejelzés: a hét napjaira, ünnepnapokra vonatkozó jelzők és gördülő átlagok kinyerése nyers értékesítési időbélyegzőkből A csapatok általában jobb eredményeket érnek el, ha előre meghatározzák a minőségi küszöböket, emberi eszkalációs utat tartanak a szélsőséges eseteknél, és nyomon követik mind a termelékenységnövekedést, mind a hibaköltségeket az idő múlásával.

Feature Engineering a gyakorlatban

Hitelbírálat: a nyers előzményeket olyan arányszámokká alakítja, mint az adósság/jövedelem és a legutóbbi késedelmes fizetések száma.

Hitelbírálat: a nyers előzmények olyan arányszámokká alakítása, mint az adósság/jövedelem és a közelmúltbeli késedelmes fizetések száma. A csapatok általában jobb eredményeket érnek el, ha előre meghatározzák a minőségi küszöböt, emberi eszkalációs utat tartanak a szélsőséges eseteknél, és nyomon követik mind a termelékenységnövekedést, mind a hibaköltségeket az idő múlásával.

Feature Engineering a gyakorlatban

Ügyféllemorzsolódás: a tevékenységek összesítése olyan funkciókba, mint a bejelentkezések havonta és az utolsó elköteleződés óta eltelt napokban.

Ügyféllemorzsolódás: tevékenységek összesítése olyan funkciókba, mint a bejelentkezések havonta és az utolsó elköteleződés óta eltelt napokban A csapatok általában jobb eredményeket érnek el, ha előre meghatározzák a minőségi küszöböket, emberi eszkalációs útvonalat tartanak a szélsőséges eseteknél, és nyomon követik a termelékenység növekedését és a hibaköltségeket az idő múlásával.

Kockázatok és védőkorlátok

!

A különböző csapatok eltérően használhatják ugyanazt a kifejezést, ezért korán határozza meg a hatókört.

!

A benchmarkok erősnek tűnhetnek, miközben a valós teljesítmény egyenetlen.

!

Az adatminőségi és értékelési tervek figyelmen kívül hagyása gyakran törékeny eredményekhez vezet.

Végrehajtási ütemterv

1

Kezdje a kívánt eredmény egyszerű nyelvű meghatározásával.

Kezdje a kívánt eredmény egyszerű nyelvű meghatározásával. Minden lépést bizonyítékkapuként kell kezelni: ha a feltételek nem teljesülnek, szüneteltesse a közzétételt, zárja be a rést, és csak ezután bővítse a felhasználást.

2

A tesztelés előtt válasszon egy sikermutatót és egy hibafeltételt.

A tesztelés előtt válasszon egy sikermutatót és egy hibafeltételt. Minden lépést bizonyítékkapuként kell kezelni: ha a feltételek nem teljesülnek, szüneteltesse a közzétételt, zárja be a rést, és csak ezután bővítse a felhasználást.

3

Futtasson egy kis pilotot reprezentatív adatokkal, ne egy csiszolt demókészlettel.

Futtasson egy kis pilotot reprezentatív adatokkal, ne egy csiszolt demókészlettel. Minden lépést bizonyítékkapuként kell kezelni: ha a feltételek nem teljesülnek, szüneteltesse a közzétételt, zárja be a rést, és csak ezután bővítse a felhasználást.

4

Dokumentálja, ahol a Feature Engineering segít, és hol jobbak az egyszerűbb módszerek.

Dokumentálja, ahol a Feature Engineering segít, és hol jobbak az egyszerűbb módszerek. Minden lépést bizonyítékkapuként kell kezelni: ha a feltételek nem teljesülnek, szüneteltesse a közzétételt, zárja be a rést, és csak ezután bővítse a felhasználást.

Folytassa a felfedezést