Kostenlose KI-Bibliothek

Technisch FührerFür immer kostenlos.

177 Leitfäden in einfachem Englisch, strukturierte Lernpfade und eine offene Bibliothek – erstellt von einer unabhängigen gemeinnützigen Organisation 501(c)(3), damit jeder moderne KI verstehen kann.

177Kostenlose Reiseführer
1Themenspuren
~2 minPro Reiseführer
~6hLesezeit

Beginnen Sie hier

Fünf ergebnisorientierte Kurse

Jeder Kurs umfasst explizite Ergebnisse, abgebildete Kompetenzen, Übungsaktivitäten und einen angewandten Schlussstein.

Themenspuren

Nach Titel durchsuchen

Springen Sie in den Bereich, der Ihnen am Herzen liegt. Zu jedem Titel gibt es mehrere leicht verständliche Anleitungen.

Vollständige Bibliothek

Alle Führer

177 von 1019 Anleitungen angezeigt. Filtern Sie nach Titel oder suchen Sie oben.

Technisch

Sequenzparallelität und Ringaufmerksamkeit

Die Sequenzparallelität teilt eine einzelne lange Eingabesequenz entlang der Token-Dimension (Zeit) auf mehrere GPUs auf, und Ring Attention lässt diese GPUs berechnen ...

2 Min. gelesenLesen
Technisch

Kompromisse bei der Neuberechnung der Aktivierung

Die Neuberechnung der Aktivierung (Gradienten- oder Aktivierungs-Checkpointing) spart GPU-Speicher während des Trainings, indem Zwischenaktivierungen im Vorwärtsdurchlauf verworfen werden.

2 Min. gelesenLesen
Technisch

Gruppenrelative Richtlinienoptimierung

Group Relative Policy Optimization (GRPO) ist eine Reinforcement-Learning-Methode zur Feinabstimmung von Sprachmodellen, die jede Antwort anhand einer Gruppe beurteilt.

2 Min. gelesenLesen
Technisch

Normalisierung von Flüssen

Normalisierende Flüsse sind generative Modelle, die einfaches Rauschen (wie ein Gaußscher) durch eine Kette invertierbarer, differenzierbarer… in komplexe Daten umwandeln.

2 Min. gelesenLesen
Technisch

Energiebasierte Modelle

Energiebasierte Modelle (EBMs) lernen eine skalare „Energie“-Funktion, die plausiblen Daten niedrige Werte und unplausiblen Daten hohe Werte zuordnet und so definiert…

2 Min. gelesenLesen
Technisch

Auslagerung des Optimiererstatus auf CPU und NVMe

Ein speichersparender Trick, der die umfangreiche Buchhaltung des Trainings (Optimiererzustände, Verläufe, manchmal Gewichte) stattdessen im CPU-RAM oder auf NVMe-SSDs parkt …

2 Min. gelesenLesen
Technisch

Checkpoint Sharding und fortsetzbares Training

Techniken zum Speichern des Trainingszustands eines Modells in Teilen (Shards), sodass riesige Modelle gespeichert und neu geladen werden können, ohne den Speicher oder die Festplattengrenzen zu erschöpfen usw.

2 Min. gelesenLesen
Technisch

GPU-Speicherverwaltung und Fragmentierung

Wie KI-Frameworks den begrenzten Speicher auf einer GPU zuweisen, wiederverwenden und zurückgewinnen und warum verbleibende Lücken (Fragmentierung) sogar zu Fehlern wegen unzureichendem Speicher führen können …

2 Min. gelesenLesen
Technisch

Multi-Instanz-GPU-Partitionierung

Multi-Instance GPU (MIG) ist eine NVIDIA-Technologie, die eine einzelne physische GPU in mehrere isolierte Hardwarepartitionen aufteilt.

2 Min. gelesenLesen
Technisch

GPU-Planung und Cluster-Orchestrierung

Die GPU-Planung entscheidet, welche Jobs wann auf welchen Beschleunigern ausgeführt werden, während die Orchestrierung diese Jobs über einen gesamten Maschinencluster hinweg koordiniert.

2 Min. gelesenLesen
Technisch

Slurm für KI-Trainingscluster

Slurm ist ein Open-Source-Workload-Manager, der Jobs auf Hochleistungs-Computing-Clustern plant und ausführt, und ist zur Standardwahl für große KI-Unternehmen geworden.

2 Min. gelesenLesen
Technisch

Aufforderung zum Planen und Lösen

Die Plan-and-Solve-Eingabeaufforderung (PS) weist ein Sprachmodell an, zunächst einen expliziten Plan zu entwickeln und ihn dann Schritt für Schritt auszuführen, um die offensichtlichen Fehler zu beheben.

2 Min. gelesenLesen

Mit dem Lesen fertig? Beweisen Sie es.

Überprüfen Sie anhand von Themenquiz, was Sie gelernt haben, und erkunden Sie anschließend unsere strukturierten Kurse und aktuellen Zertifizierungsanforderungen. Die wichtigsten Leitfäden bleiben weiterhin frei lesbar.

Technical AI Guides — Page 6 of 15 | AI Understanding