Captulo 1 Introduccin II 2001 Qu es la

  • Slides: 38
Download presentation
Capítulo 1 Introducción II- 2001

Capítulo 1 Introducción II- 2001

¿ Qué es la estadística ? 4 Ciencia dedicada al estudio sistemático de los

¿ Qué es la estadística ? 4 Ciencia dedicada al estudio sistemático de los datos 4 Transforma datos en información 4 Contribuye a la generación de conocimiento Historia de la estadística : 4 Como ciencia de Estado (2600 A. C. ) 4 Como cálculo de probabilidades (siglo XVIII) Rol de la estadística : 4 Proporcionar métodos para evaluar y juzgar la teoría y la realidad

USOS 4 Ciencias naturales 4 Ciencias económicas 4 Ciencias políticas y sociales 4 Ciencias

USOS 4 Ciencias naturales 4 Ciencias económicas 4 Ciencias políticas y sociales 4 Ciencias médicas etc. ABUSOS 4 Encuestas de opinión 4 Índices económicos 4 Pronósticos

La Estadística en la era de la Información Destrezas lectoras para la sociedad del

La Estadística en la era de la Información Destrezas lectoras para la sociedad del Conocimiento EL PENSAMIENTO ESTADÍSTICO El pensamiento estadístico algún día será parte del ciudadano eficiente, y tan necesario como la habilidad para leer y escribir W. H. WELLS

DATOS MODELOS HECHOS TEORÍAS FENÓMENOS INTUICIONES

DATOS MODELOS HECHOS TEORÍAS FENÓMENOS INTUICIONES

Dos ejemplos de investigaciones estadísticas PREGUNTA Cómo diseñar un equipo de mantenimiento Cómo aumentar

Dos ejemplos de investigaciones estadísticas PREGUNTA Cómo diseñar un equipo de mantenimiento Cómo aumentar el rendimiento de un proceso MODELO Variables: - Número de averías (x 1) - Tiempo reparación (x 2) Hipótesis: las averías • Se producen independientemente • La probabilidad de no avería disminuye exponencialmente con el tiempo Hipótesis: tiempo reparación • Depende de muchos pequeños factores Variables: - Rendimiento en % (y) - Temperatura x 1 - Concentración x 2 Hipótesis: • El rendimiento aumenta en promedio linealmente con la temperatura y la concentración • Para valores fijos de x 1 y x 2 el rendimiento varía aleatoriamente alrededor de su valor medio

RECOLECCIÓN DE INFORMACIÓN Muestreo de máquinas para estudiar sus averías y tiempo de reparación

RECOLECCIÓN DE INFORMACIÓN Muestreo de máquinas para estudiar sus averías y tiempo de reparación Diseño de un experimento que se varíen x 1 y x 2 y se mida y ESTIMACIÓN PARÁMETROS Estimar: • , tasa media de averías • , tiempo medio de reparación • , variabilidad en el tiempo de reparación Estimar: • El efecto de la temperatura (b) y el de la concentración (c) sobre el rendimiento • Variabilidad experimental CONTRASTES DE SIMPLIFICACIÓN ¿Tienen todos los tipos de máquinas el mismo ? ¿Los tipos de averías, el mismo y ? ¿Es el efecto de la temperatura y concentración idéntico (b=c ) ? CRÍTICA DEL MODELO ¿Es cierta la independencia entre las averías? ¿Son la variabilidad de x 1 y x 2 en la muestra consistentes con las hipótesis ? ¿Es la relación entre y (x 1 , x 2) lineal? ¿Es la variabilidad de y para x 1, x 2 fijos, independ. de los valores concretos de x 1, x 2 ?

Problema real Planteamiento del problema Objetos y medios Modelos Estadísticos (Cálculo de probabilidades) Recolección

Problema real Planteamiento del problema Objetos y medios Modelos Estadísticos (Cálculo de probabilidades) Recolección de información muestral (Técnicas de muestreo ; diseño de experimentos) Depuración de los datos (Análisis de datos) Estimación de los parámetros (Teoría de la estimación)

Contrastes de Simplificación (Contrastes de hipótesis) Crítica y Diagnosis del Modelo (Análisis de datos)

Contrastes de Simplificación (Contrastes de hipótesis) Crítica y Diagnosis del Modelo (Análisis de datos) Nuevo Conocimiento Previsiones Decisiones

La estadística en el nuevo mundo: Era Industrial Era de la información Gestión del

La estadística en el nuevo mundo: Era Industrial Era de la información Gestión del Conocimiento Datos Estadística Información Problemas que resuelve la Estadística : • Análisis de datos (Data Mining) • Verificación de hipótesis (DSS) • Patrones de Reconocimiento • Procesamiento de Imágenes

Muestreo ¨ Costo reducido ¨ Mayor rapidez ¨ Mayor posibilidad (Sistemas complejos) APLICACIONES: /Mercadotecnia

Muestreo ¨ Costo reducido ¨ Mayor rapidez ¨ Mayor posibilidad (Sistemas complejos) APLICACIONES: /Mercadotecnia /Análisis de Imágenes / Modelos de Simulación

Teoría de muestreo ¨ Población finita ¨ Población infinita Muestreo Probabilístico No Probabilístico ¨

Teoría de muestreo ¨ Población finita ¨ Población infinita Muestreo Probabilístico No Probabilístico ¨ Definición del conjunto de muestras ¨ Asignación de Probabilidad ( i ) ¨ Selección ( i ) ¨ Estimación

Medidas de Probabilidad • Probabilidad una medida de la certidumbre – La confiabilidad de

Medidas de Probabilidad • Probabilidad una medida de la certidumbre – La confiabilidad de una Inferencia • Aproximación frecuentista - “A Priori” – Pr (Ai) = n/N • n = número de todas las posibles formas en que “Ai” puede ser observado • N = número total de posibles resultados • Aproximación Subjectiva – Una “Opinión de Experto”

Población Conjunto de elementos u objetos - que obedecen a reglas de pertenencia definidas

Población Conjunto de elementos u objetos - que obedecen a reglas de pertenencia definidas por el observador de los cuales se desea conocer ciertos parámetros de comportamiento característicos de la Población. Cada sujeto o elemento de la Población es una “observación”. Cada uno es una “incognita” en el sentido que puede tener uno de los tantos valores posibles de observar de cierta característica. La Población puede ser: • Finita : si los elementos son contables • Infinita : si los elementos son enumerables

Población: Definición La Teoría de Muestreo pretende desarrollar métodos para obtener un conocimiento adecuado

Población: Definición La Teoría de Muestreo pretende desarrollar métodos para obtener un conocimiento adecuado de ciertas características de una Población, mediante el estudio de un número reducido de elementos u objetos representativos de dicha Población

Planes de Muestreo ¨ Muestreo Aleatorio Simple ¨ Muestreo Estratificado Aleatorio ¨ Muestreo Sistemático

Planes de Muestreo ¨ Muestreo Aleatorio Simple ¨ Muestreo Estratificado Aleatorio ¨ Muestreo Sistemático ¨ Muestreo por Conglomerado ¨ Muestreo Múltiple

Muestreo • Experimento: Un proceso de Observación • Evento Simple: Un Resultado de un

Muestreo • Experimento: Un proceso de Observación • Evento Simple: Un Resultado de un experimento que no puede ser descompuesto -“Mutuamente Excluyente” -“Idéntica Posibilidad” • Espacio Muestral: El conjunto de todos los resultados posibles • Evento “A”: El conjunto de todos los eventos simples que pertenecen al resultado “A”

Espacio Muestral Conjunto de todos los resultados u observaciones que se pueden observar al

Espacio Muestral Conjunto de todos los resultados u observaciones que se pueden observar al realizar un experimento Puede ser • Discreto • Continuo Sea n : N : {Si: i = 1, 2, . . æççè Nn ö÷÷ø } Tamaño de la Muestra Tamaño de la Población todas las muestras posibles Si se denomina el Espacio Muestral o Universo

Clasificación de Métodos de Muestreo 1. - Por la Forma de Considerar un Evento

Clasificación de Métodos de Muestreo 1. - Por la Forma de Considerar un Evento • Sin Reposición • Con Reposición 2. - Por la Forma de Tomar la Muestra • Juicio • Aletaroria - Simple Sistemática Estratificada Conglomerados 3. - Por el número de Muestras • Simple • Múltiple

Muestreo Aleatorio • Conjunto de observaciones tomadas de una Población. • Se dice que

Muestreo Aleatorio • Conjunto de observaciones tomadas de una Población. • Se dice que la muestra es aleatoria cuando la manera de selección de cada elemento de la población tiene igual oportunidad de ser seleccionado. • El método de selección es decisivo en las conclusiones que se pueden obtener de la muestra.

Tipo de Variable Tanto en la escala intervalar como en la de razón es

Tipo de Variable Tanto en la escala intervalar como en la de razón es posible distinguir dos tipos de variables aleatorias: Variables Discretas: una que puede tomar sus valores de un conjunto de puntos aislados (subconjunto de valores en R) Variables Continuas: una que puede tomar sus valores en un conjunto donde todos sus elementos son puntos de acumulación (un intervalo en R). Siempre es posible tratar una variable continua como discreta mediante la construcción de “intervalos de clase” representando cada uno de los intervalos por su valor medio denominado “marca de clase” Variables Categóricas o Cualitativas Variables Cuantitativas

Estimación Parámetro: Medida para describir alguna característica de los elementos de una Población, tal

Estimación Parámetro: Medida para describir alguna característica de los elementos de una Población, tal como Valor Esperado, Moda o Varianza poblacional. Estos guarismos son valores “verdaderos”, pero deconocidos. Estadística ( Estadígrafo): Medida para describir una característica de la Muestra, tal como Promedio, Varianza o Moda muestral. Estos valores son calculados a partir de la Muestra, pero son valores aproximados de los parámetros que representan

Muestreo Aleatorio Simple: M. A. S. Es un método de selección de n unidades

Muestreo Aleatorio Simple: M. A. S. Es un método de selección de n unidades sacadas de N, de tal manera que cada una de las muestras C(N, n) tiene la misma probabilidad de ser escogida. En la prática un m. a. s. es sacado unidad por unidad: • Las unidades de la población son numerados del 1 al N. • A continuación son seleccionados n números aleatorios entre 1 y N, ya sea de tablas o de una urna como en la lotería

Muestreo Estratificado Aleatorio Se emplea cuando la población está agrupada en pocos estratos, cada

Muestreo Estratificado Aleatorio Se emplea cuando la población está agrupada en pocos estratos, cada uno de ellos con muchos individuos. Consiste en sacar un m. a. s. de cada uno de los estratos. Los Estratos, por lo general, son de diferente tamaño; la muestra, por consiguiente, para ser representativa debe contener elementos de cada estrato en forma proporcional a la población. (Esto se llama afijación proporcional, la que no siempre resulta ser la más conveniente por cuanto los costos de muestreo en cada uno de los estratos pueden ser distintos).

Muestreo Sistemático Se utiliza cuando las unidades de la población están, de algún modo,

Muestreo Sistemático Se utiliza cuando las unidades de la población están, de algún modo, totalmente ordenadas. Para seleccionar una muestra se aprovecha la ordenación de las unidades. Para seleccionar una muestra de tamaño n • se divide la población en “n” subpoblaciones de tamaño K = N/n • se toma unidad al azar de la primera subpoblación y • de ahí en adelante cada k-ésima unidad. Si n 1 es la unidad seleccionada de la primera población, entonces las siguientes observaciones serán n 2 n 1+K, n 3 n 2+K ó n 1+2 K

Muestreo por Conglomerado Se emplea cuando la población está dividida en grupos pequeños. Consiste

Muestreo por Conglomerado Se emplea cuando la población está dividida en grupos pequeños. Consiste en obtener una m. a. s. de algunos grupos y luego censar cada uno de estos. Hay dos razones para principales para la extensa aplicación de estos planes de muestreo: falta de una lista confiable de elementos en la población y consideraciones del tipo económica.

Muestreo por Múltiple (doble) La muestra se toma en dos pasos: • en el

Muestreo por Múltiple (doble) La muestra se toma en dos pasos: • en el primero se selecciona la muestra de unidades primarias y • en la segunda se selecciona una muestra de elementos a partir de cada unidad primaria escogida

Ejemplo 1 • Se tienen 2000 pernos en una urna • El largo de

Ejemplo 1 • Se tienen 2000 pernos en una urna • El largo de cada perno puede estar entre 99, 5 y 100, 5 mm • Se toma una muestra de cinco pernos y se mide • “Variable Aleatoria” Continua su largo • Cada aleatoria • observación “Población” es una “variable Finita continua”. Todas obedecen a la misma • “Espacio Muestral” Finito distribución y son independientes entre si • Los pernos medidos se dejan a un lado y se toma otra muestra de cinco pernos. De continuar así a habrá observado toda la población • Hacer un gráfico de barras – histograma – con la frecuencia que aparece cada número

Ejemplo 2 • Se tiene 2000 pernos en una urna • El largo de

Ejemplo 2 • Se tiene 2000 pernos en una urna • El largo de cada perno puede estar entre 99, 5 y 100, 5 mm • “Variable Aleatoria” pernos Continua • Se toma una muestra de cinco y se mide su largo • “Población” Finita • Cada observación es una “variable aleatoria • “Espacio Muestral” Infinito continua”. Todas obedecen a la misma distribución y son independientes entre si • Por pernos medidos se devulven a la urna y se toma otra muestra de cinco pernos. El experimento se puede repetir indefinidamente, porque siempre existirán 2000 pernos en la urna

Estáticos Dinámicos Extrapolativos y= +u (Primera parte) y = + yt-1 + ut (Quinta

Estáticos Dinámicos Extrapolativos y= +u (Primera parte) y = + yt-1 + ut (Quinta parte) Explicativos y= + x+u (Tercera y cuarta parte) y= + x+ yt-1 + ut (Quinta parte)

Métodos Estadísticos en DATA MINING

Métodos Estadísticos en DATA MINING

Knowledge Discovery in Data Bases (KDD) “Es un proceso de identificación de patrones válidos,

Knowledge Discovery in Data Bases (KDD) “Es un proceso de identificación de patrones válidos, innovativos, potencialmente útiles, no explícitos y comprensibles a partir de los datos”.

KDD Etapas del KDD : 1. Data Selection 2. Cleaning 3. Enrichment 4. Coding

KDD Etapas del KDD : 1. Data Selection 2. Cleaning 3. Enrichment 4. Coding 5. Data Mining 6. Reporting

KDD Requiremientos de Información Selección de Datos Cleaning: ·Domain consistency ·De-duplication · Outliers detection

KDD Requiremientos de Información Selección de Datos Cleaning: ·Domain consistency ·De-duplication · Outliers detection Data Bases Feedback Enrichment Datos Externos Coding Data Mining · Association · Clustering · Classification · Regression Reporting Action

Data Mining (DM) “Etapa de reconocimiento de patrones, a través de algoritmos automáticos o

Data Mining (DM) “Etapa de reconocimiento de patrones, a través de algoritmos automáticos o semiautomáticos de grandes bases de datos con el objeto de apoyar a la toma de decisiones dentro de una organización”.

Algoritmos en DM • Existen diversos algoritmos en Data Mining los que se pueden

Algoritmos en DM • Existen diversos algoritmos en Data Mining los que se pueden clasificar • Machine Learning • Pattern Recognition • Actividades de Data Mining: • Preparación de los datos • Aplicación de algoritmos de DM • Análisis de datos

DM • Algoritmos de DM: • Asociación de datos (ANN) • Pattern recognition (Time

DM • Algoritmos de DM: • Asociación de datos (ANN) • Pattern recognition (Time Series) • Clustering • Clasificación • Regresión • Pronósticos

Aplicaciones de DM • Energía: Apoyo a la toma de decisiones en plantas energía

Aplicaciones de DM • Energía: Apoyo a la toma de decisiones en plantas energía eléctrica (centro de despacho de cargas) • Medicina: Mejora de diagnósticos y asignación de tratamientos en base a reconocimiento de patrones. • Marketing: información demográfica y sistemas georeferenciados, patrones de compra, segmentación de mercados. • Finanzas: predicción de valores y riesgo en el mercado de opciones.