Softmax-Regression für die Klassifizierung mehrerer Klassen

Bei der binären logistischen Regression wird ein linearer Score in eine Wahrscheinlichkeit umgewandelt. Für K sich gegenseitig ausschließende Klassen weist die Softmax-Regression jeder Klasse eine Punktzahl zu. Jeder Score ist eine lineare Funktion der Eingaben, und Softmax potenziert diese Scores und dividiert jeden Exponenten durch ihre Summe. Dadurch entstehen nichtnegative Klassenwahrscheinlichkeiten, die in der Summe eins ergeben. Die vorhergesagte Klasse ist im Allgemeinen diejenige mit der größten Wahrscheinlichkeit, aber ein Entscheidungssystem kann stattdessen auch Kosten oder Überprüfungsschwellenwerte verwenden. Angenommen, ein hypothetischer Fall mit drei Klassen hat die Werte 2, 1 und 0. Ihre Exponentialwerte betragen ungefähr 7,39, 2,72 und 1. Die Summe beträgt ungefähr 11,11, sodass die Wahrscheinlichkeiten ungefähr 0,665, 0,245 und 0,090 betragen. Die Summe der Werte ergibt eins, da jeder durch denselben Nenner normalisiert wird. Ein Punkteunterschied ist wichtig: Wenn man zu jeder Klassenpunktzahl dieselbe Konstante hinzufügt, bleiben die Wahrscheinlichkeiten unverändert. Durch das Training wird in der Regel die multinomiale Kreuzentropie, auch Log-Verlust genannt, minimiert, was die Zuweisung einer geringen Wahrscheinlichkeit zur beobachteten Klasse beeinträchtigt. Der Größe des Kontrollkoeffizienten kann eine Regularisierung hinzugefügt werden. Bei mehreren Klassen können Implementierungen die Koeffizienten unterschiedlich parametrisieren, und einige Softwareprogramme verwenden Eins-gegen-Rest-Strategien für bestimmte Schätzer. Lesen Sie die Dokumentation des ausgewählten Schätzers, bevor Sie davon ausgehen, dass alle Mehrklassen-Logistikmodelle dasselbe Ziel optimieren. Softmax-Wahrscheinlichkeiten werden nicht automatisch kalibriert. Ein Modell kann die wahrscheinlichste Klasse richtig einstufen, während es systematisch über- oder untersicher ist. Bewerten Sie klassenweise Erinnerung und Präzision, Verwirrungsmatrizen, Protokollverlust und Kalibrierung anhand von Daten, die die Einsatzpopulation widerspiegeln. Bei unausgeglichenen Klassen kann ein Gesamtgenauigkeitswert Fehler bei den weniger häufigen Ergebnissen verbergen. Stellen Sie außerdem sicher, dass die Kategoriereihenfolge in den Ausgabearrays mit den Klassenbezeichnungen der Bibliothek übereinstimmt. Die Methode geht davon aus, dass jeder Fall eine Klasse aus der modellierten Menge erhält; Multilabel-Probleme, bei denen mehrere Labels gleichzeitig auftreten können, erfordern eine andere Ausgabeformulierung.