Bibliothèque IA gratuite

Technique GuidesLibre pour toujours.

177 des guides en anglais simple, des parcours d'apprentissage structurés et une bibliothèque ouverte — construits par une organisation à but non lucratif indépendante 501(c)(3) pour que tout le monde puisse comprendre l'IA moderne.

177Guides gratuits
1Pistes thématiques
~2 minPar guide
~6hTemps de lecture

Commencez ici

Cinq cours axés sur les résultats

Chaque cours comprend des résultats explicites, des compétences cartographiées, des activités pratiques et une synthèse appliquée.

Pistes thématiques

Parcourir par piste

Sautez dans la zone qui vous tient à cœur. Chaque piste comporte plusieurs guides en anglais simple.

Bibliothèque complète

Tous les guides

177 de 1019 guides illustrés. Filtrez par piste ou recherchez ci-dessus.

Technique

Déploiement de l’attention et taille des têtes

Le déploiement de l'attention est une méthode permettant de suivre la manière dont les informations circulent à travers les couches d'attention empilées d'un transformateur pour expliquer quels jetons d'entrée influencent…

2 lecture min.Lire
Technique

Optimisation du second ordre et méthodes de Newton

L'optimisation du second ordre utilise les informations de courbure (la matrice hessienne des dérivées secondes) pour prendre des mesures plus intelligentes vers un minimum, et pas seulement vers la pente.

2 lecture min.Lire
Technique

RMSNorm et normalisation de pré-couche

RMSNorm est une couche de normalisation légère qui redimensionne les activations en fonction de leur valeur efficace, et la normalisation de la pré-couche se place avant chacune…

2 lecture min.Lire
Technique

SwiGLU et activations fermées

SwiGLU est une fonction d'activation fermée qui multiplie une projection linéaire de l'entrée par une deuxième projection activée par Swish, agissant comme un apprentissage…

2 lecture min.Lire
Technique

Réseaux de compression et d'excitation

Les blocs Squeeze-and-Excitation (SE) permettent à un réseau convolutif d'apprendre combien pondérer chaque canal de fonctionnalités, en les recalibrant en fonction du contexte global.

2 lecture min.Lire
Technique

Programmes d'échauffement et de recuit cosinus

L'échauffement augmente doucement le taux d'apprentissage à partir de près de zéro avant l'entraînement, puis le recuit cosinus le diminue progressivement en suivant une courbe cosinus.

2 lecture min.Lire
Technique

Taux d'apprentissage cyclique

Les taux d'apprentissage cycliques font monter et descendre à plusieurs reprises le taux d'apprentissage entre une limite inférieure et une limite supérieure au lieu de simplement le diminuer.

2 lecture min.Lire
Technique

Minimisation sensible à la netteté

La minimisation sensible à la netteté (SAM) est une méthode d'optimisation qui recherche non seulement une faible perte, mais aussi une faible perte sur tout un quartier de poids - un plat…

2 lecture min.Lire
Technique

Sondage linéaire et évaluation des caractéristiques gelées

Le sondage linéaire teste la qualité des représentations internes d'un modèle pré-entraîné en gelant le réseau et en entraînant uniquement un simple classificateur linéaire par-dessus.

2 lecture min.Lire
Technique

DenseNet et connectivité dense

DenseNet est un réseau convolutionnel où chaque couche reçoit en entrée les cartes de caractéristiques de toutes les couches précédentes.

2 lecture min.Lire
Technique

Architectures à goulot d’étranglement

Une architecture à goulot d'étranglement fait passer les données à travers une couche intermédiaire étroite avant de les étendre à nouveau, obligeant le réseau à apprendre à être compact, efficace…

2 lecture min.Lire
Technique

Accumulation de dégradé

L'accumulation de dégradés vous permet de simuler un lot de grande taille sur une mémoire GPU limitée en additionnant les dégradés sur plusieurs petits mini-lots avant la mise à jour…

2 lecture min.Lire

Vous avez fini de lire ? Prouvez-le.

Check what you learned with a topic quiz, then explore our structured courses or work toward a certificate. Every guide stays free to read.