Partielle Abhängigkeitsdiagramme

Die partielle Abhängigkeit beschreibt eine durchschnittliche Modellreaktion, wenn ein oder mehrere Features auf ausgewählte Werte festgelegt werden. Für ein einzelnes Merkmal nimmt die Methode jedes Bewertungsbeispiel, ersetzt denselben ausgewählten Merkmalswert, erhält eine Vorhersage und ermittelt dann den Durchschnitt über die Beispiele. Durch Wiederholen dieses Vorgangs über einem Gitter entsteht eine Kurve. Es handelt sich um eine Ansicht des angepassten Modells und nicht um eine kausale Schätzung dessen, was passieren würde, wenn auf eine Person oder ein System eingegriffen würde. Der Durchschnitt kann bei der Frage, wie die Vorhersagen innerhalb einer Population variieren, hilfreich sein, er kann jedoch wichtige Heterogenitäten verbergen. Die individuelle bedingte Erwartung (ICE) zeichnet für jedes Beispiel eine separate Linie, während sich die Funktion ändert. Wenn Linien parallel bleiben, können die Effekte in ihrer Form ähnlich sein; Wenn sie sich unterschiedlich ausbreiten, kreuzen oder biegen, verbirgt der Durchschnitt die Variation. Centered ICE subtrahiert die Vorhersage jeder Linie an einem Referenzpunkt, um Formunterschiede leichter erkennbar zu machen. Eine kritische Einschränkung entsteht, wenn das ausgewählte Feature mit anderen Eingaben korreliert. Die Berechnung hält die anderen Merkmale fest, während ein Wert ersetzt wird, was zu Kombinationen führen kann, die in den Daten fehlen. Ein Modell kann dann weit außerhalb der realistischen Unterstützung abgefragt werden. Wenn beispielsweise das Alter einer Person erhöht wird, während gleichzeitig eine entsprechende Ausbildung oder berufliche Laufbahn beibehalten wird, kann dies zu unplausiblen Beispielen führen. Der Durchschnitt kann selbst bei korrekter Berechnung irreführend sein. Untersuchen Sie Datenverteilungen und Merkmalsabhängigkeiten neben Diagrammen. Beschränken Sie das Raster auf beobachtete Bereiche, suchen Sie nach Regionen mit geringer Dichte und ziehen Sie geschichtete oder bedingte Alternativen in Betracht. Akkumulierte lokale Effekte fassen lokale Veränderungen über durch Daten unterstützte Regionen zusammen und können einige Bedenken hinsichtlich der Extrapolation verringern, obwohl sie eine andere Frage beantworten. Nutzen Sie Domänenwissen, um zu entscheiden, ob die Funktionskombinationen sinnvoll sind. In einem Diagramm sollte angegeben werden, welche Modellausgabe angezeigt wird, beispielsweise eine Wahrscheinlichkeit oder ein Rohwert, die ausgewertete Stichprobe und der Bereich der Merkmalswerte. Betrachten Sie das Bild immer als Modellverhalten im Rahmen einer bestimmten Berechnung und nicht als Beweis für Mechanismus oder Fairness.