Alapok ÚTMUTATÓ

Pontosság és visszahívás

A pontosság és az előhívás két egymást kiegészítő mérőszám az osztályozók értékeléséhez, különösen akkor, ha az osztályok kiegyensúlyozatlanok.

2 perc olvasásUtoljára frissítve

Áttekintés

Együtt feltárják, mit rejt el a tiszta pontosság — milyen gyakran vannak helyesek egy modell pozitív előrejelzései, és hány valódi pozitívumot talál meg valójában.

Mély merülés

Amikor egy modell pozitívként jelöli meg az elemeket, két kérdés számít. A Precision azt kérdezi: mindabból, amit megjelöltünk, mennyi volt az igazán pozitív? Ez egyenlő a valódi pozitív értékek osztva az összes előrejelzett pozitív értékkel, ami bünteti a téves riasztásokat. A visszahívás (érzékenység) azt kérdezi: az összes valódi pozitívum közül hányat fogtunk ki? Ez egyenlő a valódi pozitívumok osztva az összes tényleges pozitív értékkel, ami bünteti a kihagyásokat. Ezek általában megegyeznek: a döntési küszöb csökkentése több pozitívumot (magasabb visszahívást) fog ki, de több szemetet jelez (alacsonyabb pontosság), és fordítva. A költségektől függ, hogy melyiket kell előnyben részesíteni – a spamszűrő a precizitást részesíti előnyben (ne dobja kukába a valódi leveleket), míg a rákszűrés a visszahívást (ne hagyja ki a daganatot). Az F1 pontszám, harmonikus átlaguk mindkettőt egy számban egyensúlyozza.

Technikai betekintés

Mindkét mérőszám a zavaros mátrix valódi pozitív (TP), hamis pozitív (FP) és hamis negatív (FN) értékéből származik: Pontosság = TP / (TP + FP), Visszahívás = TP / (TP + FN). Figyelemre méltó, hogy egyik sem használ valódi negatívumot, ezért továbbra is informatívak maradnak, amikor a negatívok száma jóval meghaladja a pozitívakat. Az osztályozási küszöb áthúzása precíziós-visszahívási görbét mutat; az alatta lévő terület (átlagos precizitás) összegzi a teljesítményt, és előnyben részesítik a ROC-AUC-val szemben erősen kiegyensúlyozatlan adatok esetén.

Stratégiai hatás

Tisztább döntések

Segít elkülöníteni a világos technikai állításokat a marketing nyelvezettől.

Költség és költségvetés

Feltehet jobb végrehajtási kérdéseket, mielőtt pénzt vagy időt költene.

Csapat és munkafolyamat

A közös tudással rendelkező csapatok jobb döntéseket hoznak a termékekkel, irányelvekkel és tanulással kapcsolatban.

A pontosság és visszahívás jövője

Ahogy a mesterséges intelligencia belép a nagy téttel bíró területekre – orvosi diagnózis, tartalom moderálása, csalás –, a csapatok egyre gyakrabban számolnak be a pontosságról és a visszahívásról (és görbéikről), nem pedig a pontosságról, és a küszöbértékeket a valós költségekhez és a méltányossági korlátokhoz igazítják. A csoportonkénti precíziós/visszahívási auditok szabványossá válnak a demográfiai csoportok közötti eltérő hibaarányok kimutatására. Gazdagabb költségérzékeny mérőszámokra, kalibrált valószínűségekre és olyan eszközökre számíthat, amelyek lehetővé teszik az érdekeltek számára, hogy interaktív módon válasszák ki a működési pontokat az alapértelmezett 0,5-ös küszöb elfogadása helyett.

Valós megvalósítás

A levélszemétszűrők nagy pontosságúra hangolódnak, így a jogos e-mailek szinte soha nem kerülnek tévesen a spam mappába.

Az orvosi szűrővizsgálatok prioritásként kezelik a magas visszahívást, hogy elkerüljék a ténylegesen betegségben szenvedő betegek hiányát, és több hamis pozitív eredményt fogadjanak el a nyomon követésre.

A keresési és ajánlási rendszerek a precision@k jelentést jelentik (az első k találat közül hány releváns) a rangsor minőségének mérésére.

A csalásészlelés egyensúlyba hozza a pontosságot és a visszahívást az F1-es pontszámon keresztül, mivel mind a téves riasztások, mind az elmulasztott csalások költségesek.

Kockázatok és védőkorlátok

A különböző csapatok eltérően használhatják ugyanazt a kifejezést, ezért korán határozza meg a hatókört.

A benchmarkok erősnek tűnhetnek, miközben a valós teljesítmény egyenetlen.

Az adatminőségi és értékelési tervek figyelmen kívül hagyása gyakran törékeny eredményekhez vezet.

Végrehajtási ütemterv

1

Kezdje a kívánt eredmény egyszerű nyelvű meghatározásával.

2

A tesztelés előtt válasszon egy sikermutatót és egy hibafeltételt.

3

Futtasson egy kis pilotot reprezentatív adatokkal, ne egy csiszolt demókészlettel.

4

Dokumentálja, ahol a Precision and Recall segít, és hol jobbak az egyszerűbb módszerek.

Folytassa a felfedezést

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Precision and Recall quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

Kezdő kvíz

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

Következő útmutató

Tempus AI a precíziós gyógyászatban

Gyakran ismételt kérdések

Mi az a Pontosság és Visszaemlékezés?

A pontosság és az előhívás két egymást kiegészítő mérőszám az osztályozók értékeléséhez, különösen akkor, ha az osztályok kiegyensúlyozatlanok. Együtt felfedik, mit rejt az egyszerű pontosság – milyen gyakran igazak a modell pozitív előrejelzései, és mennyi valós pozitívumot ragad meg valójában.

Mi a következő lépés a Precision and Recall számára?

Ahogy a mesterséges intelligencia belép a nagy téttel bíró területekre – orvosi diagnózis, tartalom moderálása, csalás –, a csapatok egyre gyakrabban számolnak be a pontosságról és a visszahívásról (és görbéikről), nem pedig a pontosságról, és a küszöbértékeket a valós költségekhez és a méltányossági korlátokhoz igazítják. A csoportonkénti precíziós/visszahívási auditok szabványossá válnak a demográfiai csoportok közötti eltérő hibaarányok kimutatására. Gazdagabb költségérzékeny mérőszámokra, kalibrált valószínűségekre és olyan eszközökre számíthat, amelyek lehetővé teszik az érdekeltek számára, hogy interaktív módon válasszák ki a működési pontokat az alapértelmezett 0,5-ös küszöb elfogadása helyett.

Melyik kérdésre ad választ a pontosság?

A pontosság = TP / (TP + FP) a modell pozitív előrejelzéseinek helyességét méri – mennyire megbízható a pozitív jelző.

Miért részesítik előnyben a precizitást és a visszahívást az egyszerű pontossággal szemben az erősen kiegyensúlyozatlan adatkészleteknél?

Mivel egyik metrika sem használ valódi negatívumot, nem növeli meg őket egy nagy, könnyen megjósolható negatív osztály, ahogy a pontosság.