AnaExploratorio-1.ppt

30
Datos univariados Análisis exploratorio de datos

Transcript of AnaExploratorio-1.ppt

Page 1: AnaExploratorio-1.ppt

Datos univariados

Análisis exploratorio de datos

Page 2: AnaExploratorio-1.ppt

Datos climáticos

Observaciones (datos medidos; datos interpolados)

Salidas de modelos numéricos:

Simulaciones o pronósticos (posibilidad de variar condiciones iniciales o de borde)

Page 3: AnaExploratorio-1.ppt

• Robustez y resistencia

• Cuantiles (percentiles)

• Medidas numéricas de resumen

• Técnicas gráficas de resumen

Análisis exploratorio de datos univariados

Page 4: AnaExploratorio-1.ppt

Robustez y resistencia

Es deseable que un método de análisis de datos sea poco sensible a suposiciones sobre la naturaleza de los datos.

P. ej., que los resultados no dependan esencialmente de que los datos sigan una distribución gaussiana.

Un método es robusto cuando sus resultados no dependen esencialmente de cuál sea la distribución de los datos.

Un método es resistente si no es influido considerablemente por unos pocos datos atípicos (“outliers”)

Page 5: AnaExploratorio-1.ppt

Ejemplo:

dados los conjuntos

{11 12 13 14 15 16 17 18 19}

y

{11 12 13 14 15 16 17 18 91}

Distintas medidas de “tendencia central”:

En ambos casos, el valor central es 15, pero los promedios son 15 y 23 respectivamente.

Page 6: AnaExploratorio-1.ppt

Estadísticos de orden de una muestra aleatoria

Sea { x1, x2, ..., xn } una muestra aleatoria de datos

Se ordenan en forma ascendente:

{ x(1), x(2) , ..., x(n) } son los estadísticos de orden

( cumpliéndose que x(1) ≤ x(2) ≤ …≤ x(n) )

Ej: {7 -2 1 7 -3 4 0} {-3 -2 0 1 4 7 7}

Page 7: AnaExploratorio-1.ppt

Cuantiles de una muestra aleatoria(percentiles)

Ej.: 1) Sea la muestra aleatoria {7 -2 2 7 -3 4 0}

¿Cómo podemos estimar un valor central que, en sentido amplio, deje probabilidad ½ a ambos lados? {-3 -2 0 2 4 7 7}

Parece natural tomar un valor que deje la misma cantidad de datos a cada lado, en este caso el 2:

{-3 -2 0 2 4 7 7}. Se dice que la mediana de la muestra es 2.

q0.5 = 2 “percentil 50”

Page 8: AnaExploratorio-1.ppt

Cuantiles…

Ej. 2) Sea ahora la muestra {7 1 7 -3 4 0}

¿Cuál será la mediana?

{-3 0 1 4 7 7}

Convencionalmente, se suele tomar el promedio entre los dos valores centrales, o sea

(1 + 4) /2 = 2.5.

Pero, si no se tiene más información, podría elegirse cualquier valor en ese intervalo (1,4)

Page 9: AnaExploratorio-1.ppt

Generalizando, sea p tal que 0 < p < 1.

Los p-quantiles (qp) ( o percentiles) son valores que dejan,en cierto sentido, probabilidad p a su izquierda, y probabilidad 1-p a su derecha.

• • •• • •••• •

p

•1- p

qp

P(X ≤ qp) = p P(X ≥ qp) = 1 - p

Page 10: AnaExploratorio-1.ppt

Estimación de los cuantiles

En general, los percentiles no son únicos y por lo tanto, no hay una única forma de estimarlos.

Una forma posible para una muestra aleatoria de tamaño n es:

1)tomar los estadísticos de orden como los cuantiles (0.5/n), (1.5/n), ..., ([n-0.5]/n) respectivamente

2) para los cuantiles con probabilidades entre (0.5/n) y ([n-0.5]/n), se interpola linealmente.

3) los valores mínimo o máximo de la muestra se asignan a los cuantiles para probabilidades fuera de ese rango.

Page 11: AnaExploratorio-1.ppt

Principales medidas numéricas de resumen de un conjunto de datos

1) Localización: valor de “tendencia central” del conjunto

2) Dispersión: alrededor del valor central

3) Simetría: cómo están distribuidos los datos respecto del valor central

4)…

Page 12: AnaExploratorio-1.ppt

Localización

Media

Mediana q0.50

N

xx

N

1i

i_

La mediana “divide el conjunto de datos en dos subconjuntos ordenados con igual cantidad de datos” .

Importante: la mediana permite trabajar con estimaciones de probabilidades

La media está comprendida entre el mínimo y el máximo de la muestra.

Page 13: AnaExploratorio-1.ppt

Ejemplo: (con muy pocos datos!!)

2 4 9 11 14

2 4 9 11 7004

8x_

1406x_

(outlier) ??

Localización

La media no es robusta ni resistente

Se puede estimar que P (X ≥ 9) ~ 0.5 ~ P(X ≤ 9)

Page 14: AnaExploratorio-1.ppt

Los cuantiles más usados…

• Mediana q0.5

• Cuartiles, q0.25 , q0.75

• Terciles, q0.33 , q0.66

• Quintiles, deciles,

• q0.05 q0.95

Localización

4

2 0.750.5 0.25 qqq Trimedia

Page 15: AnaExploratorio-1.ppt

Robustez vs. Eficiencia

¿Por qué se usa más la media que la mediana?

Porque en el caso (“muy frecuente”) de una distribución gaussiana es un estimador más eficiente que la mediana: es decir que tiene menos dispersión alrededor del valor a estimar, o de otra forma, con menos valores (una muestra más pequeña) se obtiene la misma dispersión.Además, la media es más fácil de tratar matemáticamente, y es única para una muestra dada.

Page 16: AnaExploratorio-1.ppt

Matlab

Variable Comando

media mean

cuantil quantile

percentil prctile

mediana median

Page 17: AnaExploratorio-1.ppt

Dispersión

• Intervalo intercuartil

IQR = q0.75 - q0.25

(Robusto y resistente)

“No usa” el 25% superior e inferior de los datos

Page 18: AnaExploratorio-1.ppt

Dispersión

• Desviación estándar muestral

σ)x(x1N

1s

N

1i

2_

i

(σ2 = varianza de la población)

(Ni robusta ni resistente)

•Desviación absoluta de la mediana

MAD = median |xi – q0.5|

Page 19: AnaExploratorio-1.ppt

Simetría

Coeficiente de asimetría de la muestra

Ambos son adimensionados

γ < 0

γ > 0

Indice de Yule-Kendall

Page 20: AnaExploratorio-1.ppt

Técnicas gráficas de resumen

• Boxplots

• Histogramas

• Distribuciones de frecuencia acumulada

Page 21: AnaExploratorio-1.ppt

Boxplots (“barritas”)

Page 22: AnaExploratorio-1.ppt

0 10 20 30 40 50 60 70 80 90 100 110 120 130

. . . . .

Min = 3.20

q0.25 = 43.645

q0.50 = 60.345

q0.75 = 84.96

Max = 124.27

Boxplots (“barritas”)

Page 23: AnaExploratorio-1.ppt

Temperatura diaria máxima en Melbourne

Se destacan valores extremos inusuales

Page 24: AnaExploratorio-1.ppt

Histogramas

Además de la localización, la dispersión, y la simetría, también muestran si los datos son multimodales

Page 25: AnaExploratorio-1.ppt

HistogramasPrecipitación Rivera agosto 1914-1997

0 50 100 150 200 250 3000

5

10

15

20

25

mm

No.

de

ocur

renc

ias

Precipitación Rivera agosto 1914-1997

mediana=78.5 mm

media = 97.9 mm

Page 26: AnaExploratorio-1.ppt

HistogramasPrecipitación Rivera abril 1914-1997

mediana=110.5 mm

media = 141.7 mm

Page 27: AnaExploratorio-1.ppt

Histogramas

Page 28: AnaExploratorio-1.ppt

Distribuciones empíricas de frecuencia acumulada

P (X ≤ x)

mediana=110.5 mm

P(X≤110.5) = 0.5

110.5 mm

Page 29: AnaExploratorio-1.ppt

Distribuciones empíricas de frecuencia acumulada

Page 30: AnaExploratorio-1.ppt

Matlab

“Variable” Comando

Desviación estándar, varianza

std

var

Intervalo intercuartil

iqr

Desv. abs. de la

mediana

mad

histograma hist

Distr. de frecuencia acumulada

ecdf