À suivreGuide suivant
Parallélisme tensoriel pour les grands modèles
Technique
GUIDE Technique
Un modèle de Markov caché décrit un système qui se déplace à travers des états cachés que vous ne pouvez pas voir directement, émettant des sorties observables en cours de route.
Écoutez ce guideNarré par l'IA · ~2 min
Il a alimenté la reconnaissance vocale précoce, la recherche de gènes et le marquage de parties du discours.
Un modèle de Markov caché (HMM) suppose qu'un processus saute entre un ensemble d'états cachés au fil du temps, où l'état suivant dépend uniquement de l'état actuel (la propriété de Markov). Vous n’observez jamais directement les états ; au lieu de cela, chaque état émet un symbole observable selon une probabilité d'émission. Un HMM est défini par trois éléments : les probabilités d'état initial, une matrice de transition entre les états et les probabilités d'émission pour les sorties. Trois problèmes classiques l'accompagnent : l'évaluation (quelle est la probabilité d'une séquence observée, résolue par l'algorithme Forward), le décodage (quel chemin caché explique le mieux les observations, résolu par l'algorithme de Viterbi) et l'apprentissage (estimation des paramètres à partir des données, résolu par l'algorithme d'espérance-maximisation de Baum-Welch). Les HMM ont dominé l’étiquetage de la parole et des séquences pendant des décennies.
Marquage d'une partie du discours, étiquetant chaque mot comme nom, verbe ou adjectif
Analyse des séquences de gènes et de protéines en bioinformatique
Modélisation acoustique dans les systèmes de reconnaissance automatique de la parole classiques
Détection de régimes ou de segments dans des séries temporelles financières et de capteurs
Les réseaux et transformateurs récurrents ont largement remplacé les HMM pour la parole et le langage, car ils capturent les dépendances non linéaires à longue portée qu'une chaîne de Markov de premier ordre ne peut pas. Pourtant, les HMM survivent là où l’interprétabilité, les petites données et la sémantique d’état explicite sont importantes : bioinformatique, segmentation de séries chronologiques, détection de pannes et finance. Attendez-vous à une utilisation continue dans les pipelines hybrides et sur appareil, et comme tremplin conceptuel vers des modèles de variables latentes et d'espace d'état plus riches.
Newsletter gratuite
Trois histoires d'IA vérifiées chaque matin de la semaine, écrites dans un anglais simple. Gratuit pour toujours, sans publicité.
Un e-mail chaque jour de la semaine. Désabonnez-vous en un clic. Nous ne vendons ni ne partageons jamais votre adresse.
Testez-vous
Commentaires instantanés sur chaque réponse et un certificat partageable avec une pièce d'identité vérifiable une fois que vous avez réussi un cours.
Soutenez l’enseignement gratuit de l’IA. AI Understanding est une organisation à but non lucratif 501(c)(3) : pas de publicité, pas de paywall, jamais. Faire un don
Un modèle de Markov caché décrit un système qui se déplace à travers des états cachés que vous ne pouvez pas voir directement, émettant des sorties observables en cours de route. Il a alimenté la reconnaissance vocale précoce, la recherche de gènes et le marquage de parties du discours.
Vous ne voyez que les observations émises ; la séquence d'états sous-jacente est cachée et doit être déduite.
Dans une chaîne de Markov de premier ordre, l’avenir dépend uniquement de l’état présent, et non de l’histoire complète.
Viterbi utilise une programmation dynamique pour conserver le chemin le plus probable vers chaque état, récupérant ainsi la meilleure séquence globale d'états.
Un HMM est défini par son point de départ, la manière dont les états transitent et la manière dont les états émettent des observations.
Baum-Welch est une procédure EM qui réestime de manière itérative les probabilités de transition et d'émission pour maximiser la probabilité des données.
Continuez à apprendre
Plus de guides sélectionnés pour ce sujet
À suivreGuide suivant
Parallélisme tensoriel pour les grands modèles
Technique