Modelos de Markov

MODELOS DE MÁRKOV

OCULTOS

John J. Sprockel D. MISyC

Departamento de Ingeniería de Sistemas Facultad de Ingeniería

Pontificia Universidad Javeriana

AGENDA

1.   Aspectos históricos 2.   Cadenas de Márkov 3.   Definición de un modelo oculto de Márkov

a.   Modelo formal b.  Obtención de los parámetros del modelo c.   Algoritmo forward-backward d.  Algoritmo de Viterbi e.   Algoritmo de Baum-Welch

4.   Aplicaciones de los modelos oculto de Márkov 5.   Presentación de los artículos 6.   BIBLIOGRAFIA

ASPECTOS HISTÓRICOS

Estudió, entre otros muchos aspectos, las construcciones lingüísticas a partir del cálculo matemático (1913). Así, por ejemplo, analizó la novela de Puschkin Eugenio Oniegui, y dedujo que las letras del alfabeto cirílico, como las de cualquier o t ro a l fabe to , i ban aparec iendo relacionadas con las que las precedían en la escritura. La nueva letra está determinada por la anterior, pero es independiente de la manera en la que aparece respecto de las anteriores.

Andréi Andréyevich Márkov, 1906: Cadenas de Márkov. Heredero de la cátedra de Chebyshev

Leonard E. Baum, Década de 1960s e inicios de 1970s.

L. P Neuwirth acuñó el término Modelo oculto de Márkov

Lawrence Rabiner, 1989. Marcó el éxito de HMM en reconocimiento de la voz

CADENA DE MÁRKOV

! !!!! = ! !! = !,!!!! = !!!! ,!!!! = !!!! ,… ,!! = !! = !! !!!! = ! !! = !,!!!!= !!" !

1/3$

2/3$

1/2$ 1/2$ 1/4$

1/4$

1$1/2$

$$$

$$$

$$$

Matriz$de$transiciones$$$Q=$(qij)=$$

1 3 2 3 0 01 2 0 1 2 00 0 0 11 2 0 1 4 1 4

$

$$

1$ 2$ 3$ 4$

CADENA DE MÁRKOV Suponga(que((en(el(tiempo(n,(Xn(tiene(una(distribución(!(((vector(de(columna,(que(es(la(PMF)(!(!!!! = !) = ! !!!! = ! !! = ! ! !! = !

!!= ! !!!!"

!(

(lo(que(significa(que(es(la(entrada(j(de(!!(

(! !!!! = ! !! = ! = !!"(! !!!! = ! !! = ! = ! !!!! = ! !!!! = !,!! = ! ! !!!! = ! !! = !

!!

= ! !!!!!!!

(

lo(que(significa(que(es(la(entrada((i,j)de(!!!(((Así(que( !!(es(la(distribución(en(el(tiempo(n+1;(( ( !!!(es(la(distribución(en(el(tiempo(n+2;(( ( !!!(es(la(distribución(en(el(tiempo(n+3…(

CADENA DE MÁRKOV

CADENA DE MÁRKOV

Ejercicio 1: Dado que el día de hoy es soleado, cual es la probabilidad que mañana sea soleado y el siguiente día lluvioso

CADENA DE MÁRKOV

Ejercicio 2: Dado que el día de hoy es nublado, cual es la probabilidad que en dos días sea lluvioso

MODELO DE MÁRKOV OCULTO


Ejercicio: Se encerró un día soleado, el siguiente día el cuidador tuvo una sombrilla. ¿Cuál es la probabilidad que el siguiente día sea lluvioso?


Definición formal:

Valores observables

Πi probab que el estado inicial sea Qi

probab de las observaciones


Definición formal:


Arquitectura:


Obtención de los parámetros del modelo:


Existen tres problemas canónicos asociados con HMM: 1.  Dados los parámetros del modelo, compútese la probabilidad de una secuencia

de salida en particular. Este problema se resuelve con el algoritmo de avance-retroceso.

2.  Dados los parámetros del modelo, encuéntrese la secuencia más probable de estados ocultos que puedan haber generado una secuencia de salida dada. Este problema se resuelve con el algoritmo de Viterbi.

3.  Dada una secuencia de salida o un conjunto de tales secuencias, encuéntrese el conjunto de estados de transición y probabilidades de salida más probables. En otras palabras, entrénense a los parámetros del HMM dada una secuencia de datos. Este problema se resuelve con el algoritmo de Baum-Welch.


La probabilidad de una secuencia de salida en particular.


La secuencia más probable de estados ocultos


Problema de entrenamiento: Encontrar el conjunto de estados de transición y probabilidades de salida más probables. Algoritmo de Baum-Welch.


Problema de entrenamiento: Algoritmo de Baum-Welch.

APLICACIONES DEL HMM

RECONOCIMIENTO DE LA VOZ:

CLASIFICADOR GAUSSIANO O ANN

DEPENDE DE LA PRONUNCIACION

APLICACIONES DEL HMM

•  Reconocimiento de la voz, gestos, escritura manual. •  Etiquetado gramatical (Traducción) •  Criptoanálisis •  Bioinformática y genómica (predecir zonas que

codifiquen proteinas en el ADN, modelar familias protéicas, predecir estructuras)

•  Seguimiento de partituras musicales

HERRAMIENTAS PARA DESARROLLO DE HMM

1.  Hidden Markov Model (HMM) Toolbox for Matlab 2.  Jahmm - Hidden Markov Model (HMM) en Java 3.  Mathworks stats toolbox 4.1 4.  GNU HMM toolbox 5.  Bayes-Net-Toolkit / HMM para Matlab 6.  PMT para Matlab 7.  HHpred (bioinformática) 8.  AK toolkit

RECONOCIMIENTO DEL HABLA 1.  Hidden Markov Model Toolkit (HTK) 2.  Discrete HMM toolkit en C++

PRESENTACION DE ARTICULOS

PROBLEMA:

Myocardial infarction classification with multi-lead ECG using hidden Markov models and Gaussian mixture models


UTILIZAN EL ALGORITMO DE K MEDIAS Y DE BAUM-WELCH


CUANDO ESTA ENTRENADO, USAN EL PROCEDIMIENTO AVANCE- RETROCESO PARA EL CALCULO DE LA VEROSIMILITUD DE CADA COMPLEJO QRS

USO DEL ALGORITMO DE VITERBI


1129 Latidos evaluados: 582 con infarto y 547 normales. (pruebas 100 y 100, el resto entrenamiento) Cada experimento fue probado 30 veces

Base de datos: Long-Term ST Database en PhysioBank 50 secuencias, la mitad de entrenamiento Algoritmo de Baum-Welch Algoritmo de avance-retroceso para comparaciones

An approach to determine myocardial ischemia by hidden Markov models

BIBLIOGRAFIA

1.  L. Rabiner, “A tutorial on hidden Markov models and selected applications in speech recognition,” Proceedings of the IEEE, vol. 77, no. 2, pp. 257–286, Feb. 1989.

2.  H. Stark, J. W. Woods, and H. Stark, Probability, statistics, and random processes for engineers. Boston: Pearson, 2012.

3.  J. A. Gubner and Cambridge University Press, Probability and random processes for electrical and computer engineers. Cambridge: Cambridge University Press, 2006.

4.  S. Graja and J.-M. Boucher, “Hidden Markov tree model applied to ECG delineation,” IEEE Transactions on Instrumentation and Measurement, vol. 54, no. 6, pp. 2163–2168, Dec. 2005.

5.  L. Bergasa, Introducción a los modelos ocultos de Márkov. Dpto de Electrónica, Universidad de Alcalá. March. 2006

6.  X. Tang, L. Xia, W. Liu, Y. Peng, T. Gao, and Y. Zeng, “An approach to determine myocardial ischemia by hidden Markov models,” Comput Methods Biomech Biomed Engin, vol. 15, no. 10, pp. 1065–1070, 2012.

7.  P.-C. Chang, J.-J. Lin, J.-C. Hsieh, and J. Weng, “Myocardial infarction classification with multi-lead ECG using hidden Markov models and Gaussian mixture models,” Applied Soft Computing, vol. 12, no. 10, pp. 3165–3175, Oct. 2012.

Modelos de Markov

Documents

Transcript of Modelos de Markov