NastępnyNastępny poradnik
Współczynnik kości i metryki segmentacji
Techniczne
PRZEWODNIK techniczny
Współczynnik korelacji Matthewsa (MCC) podsumowuje, jak dobrze przewidywane etykiety klas zgadzają się z rzeczywistymi etykietami, uwzględniając każdą komórkę macierzy zamieszania.
Posłuchaj tego przewodnikaOpowiadane przez sztuczną inteligencję · ~3 min
Jest to przydatne, gdy rozmiary klas różnią się, a wysoki wynik dokładności może ukryć niepowodzenie w mniej popularnej klasie.
Klasyfikator może wyglądać na skuteczny, jeśli wielokrotnie wybiera wspólną klasę. Wyobraź sobie zestaw testowy zawierający 990 prawidłowych wiadomości i 10 wiadomości będących spamem. Przewidywanie wiarygodności każdej wiadomości zapewnia 99% dokładności, a mimo to filtr nie wyłapuje spamu. Jest to skonstruowany przykład braku równowagi klas, a nie raportowany wynik wydajności. MCC pomaga ocenić związek między przewidywaniami a wynikami, wykorzystując prawidłowe i niepoprawne klasyfikacje z obu klas. W binarnej macierzy zamieszania prawdziwie pozytywne i prawdziwie negatywne decyzje są prawidłowymi decyzjami; Fałszywie pozytywne i fałszywie negatywne to dwa rodzaje błędów. Wynik bliski dodatniego wskazuje na silną zgodność. Zero oznacza brak korelacji, a wartości ujemne wskazują na odwrotną zależność. Przy obecności obu klas binarnych doskonałe odwrócenie daje wartość ujemną. Rozważmy inny hipotetyczny klasyfikator z 40 prawdziwie pozytywnymi, 40 prawdziwie negatywnymi i 10 każdego rodzaju błędów. Jego dokładność wynosi 80%, a MCC wynosi 0,6. Wartości te opisują te same przewidywania przy użyciu różnych skal. Wartość MCC wynosząca 0,6 nie oznacza, że 60% przypadków zostało poprawnie sklasyfikowanych. MCC nie decyduje, jak kosztowny jest błąd. Przeoczona usterka maszyny i niepotrzebna kontrola mogą mieć bardzo różne konsekwencje. Zgłoś macierz nieporozumień i odpowiednie wskaźniki specyficzne dla klasy wraz z MCC, a następnie wybierz próg operacyjny, korzystając z danych walidacyjnych i rzeczywistych kosztów decyzji. Scikit-learn udostępnia matthews_corrcoef dla etykiet binarnych i wieloklasowych. Metryka działa na przewidywanych klasach, więc nie ocenia, czy deklarowane prawdopodobieństwo 90% jest godne zaufania. Przypadki zdegenerowane, takie jak przewidywanie tylko jednej klasy, również wymagają ostrożności: formuła binarna ma mianownik zerowy, a konwencji numerycznej biblioteki nie należy mylić z skutecznym klasyfikatorem.
Z hipotetycznego zestawu 1000 wiadomości 990 jest prawidłowych. Filtr oznaczający każdą wiadomość jako wiarygodną osiąga 99% dokładności, nie wykrywając przy tym spamu, co pokazuje, dlaczego dokładność wymaga dodatkowego kontekstu.
Klasyfikator zabawek ma 40 wyników prawdziwie pozytywnych, 40 prawdziwie negatywnych, 10 fałszywie pozytywnych i 10 fałszywie negatywnych. Jego MCC wynosi 0,6, obliczone na podstawie macierzy pełnego zamieszania.
Zespół porównuje dwa detektory defektów przy ustalonych progach operacyjnych. Oprócz MCC raportuje liczbę wadliwych elementów, które pominął każdy detektor, ponieważ te braki wiążą się z określonymi kosztami operacyjnymi.
Analityk używa matthews_corrcoef scikit-learn do etykiet obserwowanych i przewidywanych. Oceniają oddzielnie pewność prawdopodobieństwa modelu, zamiast traktować MCC jako wynik kalibracji.
Zautomatyzowane raporty oceniające mogą zwiększyć użyteczność MCC, łącząc każdy wynik z dokładnym zbiorem danych, definicją etykiety i progiem decyzyjnym. Zespół powinien mieć możliwość przejścia od numeru zbiorczego do spraw odpowiedzialnych za błędy, przy jednoczesnym przestrzeganiu kontroli dostępu do danych. Przyszłe porównania modeli powinny również obejmować zmianę częstotliwości klas i wyników dla odpowiednich podgrup. Żadna statystyka dotycząca pojedynczej umowy nie może określić, czy wdrożenie się opłaca. Praktyczna poprawa wynika z połączenia powtarzalnego wyniku z dowodami na temat tego, jakie błędy występują i jak ludzie na nie reagują.
Darmowy newsletter
Trzy zweryfikowane historie AI każdego poranka w dni robocze, napisane prostym angielskim. Bezpłatne na zawsze, bez reklam.
Jedno e‑mail każdego dnia roboczego. Wypisz się jednym kliknięciem. Nigdy nie sprzedajemy ani nie udostępniamy Twojego adresu.
Sprawdź się
Natychmiastowa informacja zwrotna na każde pytanie oraz udostępnialny certyfikat z weryfikowalnym ID po zaliczeniu kursu.
Wspieraj darmową edukację AI. AI Understanding jest organizacją non-profit 501(c)(3) — bez reklam, bez płatnej ściany, zawsze. Przekaż darowiznę
Współczynnik korelacji Matthewsa (MCC) podsumowuje, jak dobrze przewidywane etykiety klas zgadzają się z rzeczywistymi etykietami, uwzględniając każdą komórkę macierzy zamieszania. Jest to przydatne, gdy rozmiary klas różnią się, a wysoki wynik dokładności może ukryć niepowodzenie w mniej popularnej klasie.
Zawsze wybranie klasy większościowej może zapewnić wysoką dokładność, pomijając każdy przykład klasy, którą filtr musi wykryć.
Licznik wynosi 1500, a mianownik 2500, co daje MCC wynoszące 0,6.
Dokładność wyraża ułamek prawidłowych przewidywań. MCC stosuje inną formułę i skalę.
Idealna odwrotna zależność pomiędzy rzeczywistymi i przewidywanymi etykietami binarnymi daje MCC o wartości ujemnej.
MCC podsumowuje powiązania bez kodowania konkretnych konsekwencji wyników fałszywie pozytywnych i fałszywie negatywnych.
Ucz się dalej
Wybrano więcej przewodników na ten temat
NastępnyNastępny poradnik
Współczynnik kości i metryki segmentacji
Techniczne