Bibliothèque IA gratuite

Technique GuidesLibre pour toujours.

177 des guides en anglais simple, des parcours d'apprentissage structurés et une bibliothèque ouverte — construits par une organisation à but non lucratif indépendante 501(c)(3) pour que tout le monde puisse comprendre l'IA moderne.

177Guides gratuits
1Pistes thématiques
~2 minPar guide
~6hTemps de lecture

Commencez ici

Cinq cours axés sur les résultats

Chaque cours comprend des résultats explicites, des compétences cartographiées, des activités pratiques et une synthèse appliquée.

Pistes thématiques

Parcourir par piste

Sautez dans la zone qui vous tient à cœur. Chaque piste comporte plusieurs guides en anglais simple.

Bibliothèque complète

Tous les guides

177 de 1019 guides illustrés. Filtrez par piste ou recherchez ci-dessus.

Technique

Streaming spéculatif et prédiction multi-jetons

Le streaming spéculatif et la prédiction multi-jetons accélèrent la génération de modèles de langage en devinant plusieurs futurs jetons à la fois et en les vérifiant en un seul…

2 lecture min.Lire
Technique

BERTScore et évaluation sémantique

BERTScore mesure dans quelle mesure le texte généré automatiquement correspond à une référence en comparant le sens et non les mots exacts.

2 lecture min.Lire
Technique

Attention linéaire et noyaux d'interprètes

L'attention linéaire remplace l'attention quadratique softmax dans Transformers par une astuce mathématique qui évolue linéairement avec la longueur de la séquence.

2 lecture min.Lire
Technique

YaRN et extension de longueur de contexte

YaRN (Yet another RoPE extensioN) est une technique efficace pour étendre la fenêtre contextuelle utilisable d'un modèle bien au-delà de ce sur quoi il a été formé.

2 lecture min.Lire
Technique

Interpolation positionnelle pour un contexte long

L'interpolation positionnelle (PI) est une technique simple et influente qui étend la fenêtre contextuelle d'un transformateur en insérant de nouveaux indices de position dans la plage…

2 lecture min.Lire
Technique

Mélange d'experts LoRA

Le mélange d'experts LoRA (MoLE) combine de nombreux petits adaptateurs peu coûteux avec un routeur appris afin qu'un modèle de base unique puisse se spécialiser de manière flexible sur…

2 lecture min.Lire
Technique

Modifications spéculatives pour les modèles de code

Les modifications spéculatives rendent l'édition du code AI instantanée en prédisant que la majeure partie d'un fichier restera inchangée et en vérifiant uniquement les petites parties qui diffèrent.

2 lecture min.Lire
Technique

Pilotage d’activation et ingénierie de représentation

Le pilotage des activations modifie le comportement d'un modèle en ajoutant ou en soustrayant directement des vecteurs à l'intérieur de ses activations cachées au moment de l'exécution, aucun recyclage n'est requis.

2 lecture min.Lire
Technique

Encodeurs automatiques clairsemés pour l'interprétabilité

Les auto-encodeurs clairsemés (SAE) sont un outil qui sépare les activations internes enchevêtrées d'un réseau neuronal en un ensemble beaucoup plus large de plus propres…

2 lecture min.Lire
Technique

Superposition et polysémanticité dans l'interprétabilité de l'IA

Apprenez la superposition et la polysémantique dans l’interprétabilité de l’IA : pourquoi les modèles regroupent les fonctionnalités dans des directions partagées, pourquoi les neurones deviennent polysémantiques…

2 lecture min.Lire
Technique

Objectif Logit et objectif réglé

La lentille logit et la lentille accordée sont des techniques d'interprétabilité qui examinent les états cachés d'un transformateur couche par couche pour voir ce que le modèle « pense »…

2 lecture min.Lire
Technique

Piles de formation DeepSpeed ​​et Megatron

DeepSpeed ​​(Microsoft) et Megatron-LM (NVIDIA) sont les piles logicielles qui créent des modèles de formation avec des milliards de paramètres sur des milliers de GPU…

2 lecture min.Lire

Vous avez fini de lire ? Prouvez-le.

Check what you learned with a topic quiz, then explore our structured courses or work toward a certificate. Every guide stays free to read.