NastępnyNastępny poradnik
Wynik sylwetki i ocena klastra
Techniczne
PRZEWODNIK techniczny
Wynik Briera mierzy błąd prognozy prawdopodobieństwa poprzez porównanie przewidywanego prawdopodobieństwa z faktycznie występującym wynikiem.
Posłuchaj tego przewodnikaOpowiadane przez sztuczną inteligencję · ~3 min
Pomaga ocenić, czy pewność systemu AI jest przydatna, nawet jeśli dwa systemy formułują takie same przewidywania „tak” lub „nie”.
Model klasyfikacji może generować zarówno etykietę, jak i prawdopodobieństwo. System dostawy może opóźnić dwie przesyłki, przypisując prawdopodobieństwa 0,6 i 0,9. Dokładność traktuje te przewidywania w ten sam sposób, gdy próg przekształci je w etykiety. Wynik Briera zachowuje różnicę w pewności siebie. W przypadku zdarzenia binarnego zakoduj wystąpienie jako 1, a brak wystąpienia jako 0. Odejmij wynik od przewidywanego prawdopodobieństwa, podnieś różnicę do kwadratu i oblicz średnią dla przypadków. W powszechnie stosowanej konwencji binarnej wynik mieści się w przedziale od 0 do 1, przy czym mniejsze wartości oznaczają mniejsze prawdopodobieństwo błędu. Zawsze identyfikuj przewidywane wydarzenie: prawdopodobieństwa spóźnienia nie można porównać z etykietą oznaczającą przybycie na czas. Rozważmy dwie hipotetyczne paczki z prawdopodobieństwem spóźnienia wynoszącym 0,8 i 0,3. Pierwszy się spóźnia, drugi punktualnie. Ich straty wynoszą 0,04 i 0,09, co daje średnio 0,065. Są to przykłady arytmetyczne, a nie wyniki wdrożonego produktu lub badania badawczego. Wynik wymaga sensownego porównania. Niski wynik można łatwo osiągnąć, gdy zdarzenie prawie nigdy się nie zdarza. Porównaj model z prostym punktem odniesienia dla tych samych przypadków ewaluacyjnych i zgłoś częstość zdarzeń. Nie twórz, że określony wynik jest powszechnie dobry w niepowiązanych zbiorach danych. Sprawdź także kalibrację: jak często zdarza się zdarzenie, któremu przypisano podobne prawdopodobieństwa? Sam niższy wynik Briera nie świadczy o lepszej kalibracji, ponieważ wynik nagradza również oddzielenie przypadków o różnym ryzyku. Scikit-learn dokumentuje zarówno narzędzia do oceniania prawdopodobieństwa, jak i narzędzia do kalibracji. Wraz z odpowiednim podziałem oceny pomagają one odróżnić użyteczną pewność od przekonująco wyglądających liczb.
W hipotetycznej prognozie dostawy paczka ma 70% przewidywanego ryzyka, że dotrze z opóźnieniem i rzeczywiście dotrze z opóźnieniem. Jej binarna strata Briera jest kwadratem 0,7 minus 1, czyli 0,09.
Obie hipotetyczne prognozy przewidują spóźnioną dostawę, przy zastosowaniu progu decyzyjnego wynoszącego 50%. Jeśli dotrze na czas, prognoza 60% spowoduje stratę 0,36, a prognoza 90% spowoduje stratę 0,81.
Zespół pomocy technicznej porównuje swój model eskalacji zgłoszeń z wartością bazową, która zawsze przewiduje szybkość eskalacji mierzoną w danych szkoleniowych. Ocenia oba na tych samych późniejszych biletach.
Analityk wykorzystuje brier_score_loss narzędzia scikit-learn do oceny prawdopodobieństwa oraz wykres kalibracyjny do sprawdzania, które zakresy ufności wprowadzają w błąd. Kontrole te odpowiadają na powiązane, ale różne pytania.
Ponieważ coraz więcej interfejsów AI wykazuje pewność, zespoły będą potrzebowały oceny, która sprawdzi, co te liczby oznaczają w praktyce. Następnym przydatnym krokiem jest zachowanie prognoz przed pojawieniem się wyników i połączenie ich z późniejszymi wynikami przy użyciu stabilnych identyfikatorów. Raporty powinny przedstawiać wynik Briera wraz z wartością bazową, kontrole kalibracji i liczbę ocenionych przypadków. Zespoły powinny również zbadać odpowiednie grupy i okresy, ponieważ ogólna średnia może ukryć pogorszenie. Ten przepływ pracy zależy od wiarygodnego gromadzenia wyników; samo wykazanie procentu ufności nie oznacza, że zostało ono przetestowane.
Darmowy newsletter
Trzy zweryfikowane historie AI każdego poranka w dni robocze, napisane prostym angielskim. Bezpłatne na zawsze, bez reklam.
Jedno e‑mail każdego dnia roboczego. Wypisz się jednym kliknięciem. Nigdy nie sprzedajemy ani nie udostępniamy Twojego adresu.
Sprawdź się
Natychmiastowa informacja zwrotna na każde pytanie oraz udostępnialny certyfikat z weryfikowalnym ID po zaliczeniu kursu.
Wspieraj darmową edukację AI. AI Understanding jest organizacją non-profit 501(c)(3) — bez reklam, bez płatnej ściany, zawsze. Przekaż darowiznę
Wynik Briera mierzy błąd prognozy prawdopodobieństwa poprzez porównanie przewidywanego prawdopodobieństwa z faktycznie występującym wynikiem. Pomaga ocenić, czy pewność systemu AI jest przydatna, nawet jeśli dwa systemy formułują takie same przewidywania „tak” lub „nie”.
Wystąpienie jest kodowane jako 1, więc kwadrat różnicy wynosi (0,7 minus 1) do kwadratu, czyli 0,09.
Wynik stanowi średnią poszczególnych kwadratów błędów: (0,04 plus 0,09) podzielone przez dwa wynosi 0,065.
Pozytywny wynik i przewidywane prawdopodobieństwo muszą opisywać to samo zdarzenie; w przeciwnym razie obliczenia mierzą niedopasowane ilości.
Utrata Briera odzwierciedla więcej niż tylko kalibrację. Poprawiona rozdzielczość może zmniejszyć straty nawet wtedy, gdy kalibracja nie uległa poprawie.
Linia bazowa o stałej stopie procentowej pokazuje, czy model poprawia się w porównaniu z prostą prognozą przy tej samej częstotliwości zdarzeń i przypadkach oceny.
Ucz się dalej
Wybrano więcej przewodników na ten temat
NastępnyNastępny poradnik
Wynik sylwetki i ocena klastra
Techniczne