Kostenlose KI-Bibliothek

Technisch FührerFür immer kostenlos.

177 Leitfäden in einfachem Englisch, strukturierte Lernpfade und eine offene Bibliothek – erstellt von einer unabhängigen gemeinnützigen Organisation 501(c)(3), damit jeder moderne KI verstehen kann.

177Kostenlose Reiseführer
1Themenspuren
~2 minPro Reiseführer
~6hLesezeit

Beginnen Sie hier

Fünf ergebnisorientierte Kurse

Jeder Kurs umfasst explizite Ergebnisse, abgebildete Kompetenzen, Übungsaktivitäten und einen angewandten Schlussstein.

Themenspuren

Nach Titel durchsuchen

Springen Sie in den Bereich, der Ihnen am Herzen liegt. Zu jedem Titel gibt es mehrere leicht verständliche Anleitungen.

Vollständige Bibliothek

Alle Führer

177 von 1019 Anleitungen angezeigt. Filtern Sie nach Titel oder suchen Sie oben.

Technisch

Achtung Rollout und Head Pruning

Aufmerksamkeits-Rollout ist eine Methode zum Verfolgen, wie Informationen durch die gestapelten Aufmerksamkeitsebenen eines Transformers fließen, um zu erklären, welche Eingabe-Tokens Einfluss haben…

2 Min. gelesenLesen
Technisch

Optimierung zweiter Ordnung und Newton-Methoden

Die Optimierung zweiter Ordnung nutzt Krümmungsinformationen (die Hesse-Matrix der zweiten Ableitungen), um intelligentere Schritte in Richtung eines Minimums zu unternehmen, nicht nur die Steigung.

2 Min. gelesenLesen
Technisch

RMSNorm und Pre-Layer-Normalisierung

RMSNorm ist eine leichte Normalisierungsschicht, die Aktivierungen anhand ihres quadratischen Mittelwerts neu skaliert, und die Vorschicht-Normalisierung platziert diesen Schritt vor jedem…

2 Min. gelesenLesen
Technisch

SwiGLU und Gated-Aktivierungen

SwiGLU ist eine Gated-Aktivierungsfunktion, die eine lineare Projektion der Eingabe mit einer Swish-aktivierten zweiten Projektion multipliziert und so als lernbare… fungiert.

2 Min. gelesenLesen
Technisch

Squeeze-and-Excitation-Netzwerke

Mit Squeeze-and-Excitation (SE)-Blöcken kann ein Faltungsnetzwerk lernen, wie stark jeder Feature-Kanal gewichtet werden soll, und sie basierend auf dem globalen Kontext neu kalibrieren.

2 Min. gelesenLesen
Technisch

Aufwärm- und Cosinus-Glühzeitpläne

Durch das Aufwärmen wird die Lernrate vor dem Training sanft von nahezu Null erhöht, dann wird sie durch das Cosinus-Tempern entlang einer Cosinus-Kurve sanft wieder abgesenkt.

2 Min. gelesenLesen
Technisch

Zyklische Lernraten

Bei zyklischen Lernraten wird die Lernrate wiederholt zwischen einer Unter- und einer Obergrenze auf und ab bewegt, anstatt sie nur abzusenken.

2 Min. gelesenLesen
Technisch

Schärfebewusste Minimierung

Sharpness-Aware Minimization (SAM) ist eine Optimierungsmethode, die nicht nur einen geringen Verlust anstrebt, sondern einen geringen Verlust über eine ganze Nachbarschaft von Gewichten hinweg – eine flache…

2 Min. gelesenLesen
Technisch

Lineare Sondierung und Bewertung eingefrorener Merkmale

Beim linearen Sondieren wird getestet, wie gut die internen Darstellungen eines vorab trainierten Modells sind, indem das Netzwerk eingefroren und nur ein einfacher linearer Klassifikator darauf trainiert wird.

2 Min. gelesenLesen
Technisch

DenseNet und Dense Connectivity

DenseNet ist ein Faltungsnetzwerk, bei dem jede Schicht die Feature-Maps aller vorhergehenden Schichten als Eingabe erhält.

2 Min. gelesenLesen
Technisch

Engpassarchitekturen

Eine Engpassarchitektur quetscht Daten durch eine schmale Zwischenschicht, bevor sie sie wieder ausdehnt, und zwingt das Netzwerk dazu, kompakte, effiziente… zu lernen.

2 Min. gelesenLesen
Technisch

Gradientenakkumulation

Mit der Gradientenakkumulation können Sie eine große Batch-Größe auf begrenztem GPU-Speicher simulieren, indem Sie Gradienten über mehrere kleine Mini-Batches summieren, bevor Sie sie aktualisieren.

2 Min. gelesenLesen

Mit dem Lesen fertig? Beweisen Sie es.

Überprüfen Sie anhand von Themenquiz, was Sie gelernt haben, und erkunden Sie anschließend unsere strukturierten Kurse und aktuellen Zertifizierungsanforderungen. Die wichtigsten Leitfäden bleiben weiterhin frei lesbar.

Technical AI Guides — Page 3 of 15 | AI Understanding