KI-Glossarbegriff

Was ist Skalierungsgesetz?

Definition

Eine empirische Beziehung, die zeigt, wie sich die Leistung mit der Modellgröße, den Daten oder der Rechenleistung verbessert.

Durchsuchen Sie das vollständige KI-GlossarEntdecken Sie alle kostenlosen KI-Anleitungen

Verwandte Begriffe

Schiebefenster AchtungEin Aufmerksamkeitsmuster, bei dem sich jedes Token nur um ein Fenster mit fester Größe benachbarter Token kümmert, um den Rechenaufwand zu reduzieren.SelbstspielEin Trainingsaufbau, bei dem sich ein Modell verbessert, indem es durch Interaktionen oder Wettbewerbe mit Kopien von sich selbst Daten generiert.Algorithmische TransparenzWie klar die Logik, Datenquellen und Einschränkungen eines KI-Systems dokumentiert und verständlich sind.DatendriftEine Verschiebung der realen Eingabedaten im Laufe der Zeit, die die Modellleistung beeinträchtigen kann.VerallgemeinerungWie gut ein Modell mit neuen, unsichtbaren Daten außerhalb des Trainingssatzes abschneidet.FarbverlaufEin Vektor, der zeigt, um wie viel sich jeder Parameter ändern sollte, um Verluste zu reduzieren.

Erfahren Sie mehr in unseren kostenlosen Ratgebern

AI & LawAI in Law Enforcement and PolicingYaRN Context Window ScalingChinchilla Scaling Laws

Siehe auch

Safety FilterSemantic SearchRobustnessSelf-Supervised LearningReward ModelSentiment AnalysisRetrievalSmall Language Model (SLM)