ANLISIS MULTIVARIANTE INTRODUCCIN 1 lgebra lineal y vectores

ANÁLISIS MULTIVARIANTE INTRODUCCIÓN 1. Álgebra lineal y vectores aleatorios 2. Distribución normal multivariante ANÁLISIS DE LA MATRIZ DE COVARIANZAS 3. Componentes principales 4. Análisis factorial 5. Correlaciones canónicas CLASIFICACIÓN 6. Análisis discriminante 7. Análisis de conglomerados 1

1. ÁLGEBRA LINEAL Y VECTORES ALEATORIOS § Vectores § Ortogonalización de Gram-Schmidt § Matrices ortogonales § Autovalores y autovectores § Formas cuadráticas § Vectores y matrices aleatorias § Matriz de datos 2

EJEMPLOS 3

Vectores Matriz de datos: p variables observadas en n objetos ALGEBRA LINEAL 4

Vectores Dados se define: 1. Suma ALGEBRA LINEAL 5

Vectores 2. Producto de un escalar por un vector 3. Producto escalar de dos vectores ALGEBRA LINEAL 6

Vectores Propiedades 4. Norma de un vector ALGEBRA LINEAL 7

Vectores 5. Distancia entre dos vectores 6. Ángulo entre dos vectores ALGEBRA LINEAL 8

Vectores Desigualdad de Cauchy-Schwarz Consecuencia: ALGEBRA LINEAL 9

Vectores 7. Ortogonalidad es ortogonal si 8. Ortonormalidad {e 1 , e 2 , L , e n } es ortonormal si es ortogonal y todos los vectores tienen norma 1, es decir, ei = 1 "i ALGEBRA LINEAL 10

Vectores Ejemplo ALGEBRA LINEAL 11

Vectores Un conjunto de vectores es linealmente independiente si =0 (la única manera de construir una combinación lineal igual a 0 es que todos los coeficientes sean 0) ALGEBRA LINEAL 12

Vectores Proposición. Todo conjunto ortogonal de vectores no nulos es linealmente independiente. ortogonal l. i. Demostración ALGEBRA LINEAL 13

Vectores Proyección de x sobre y pry( x) = x, y y= x, y y 2 y ALGEBRA LINEAL 14

Vectores Ejemplo ALGEBRA LINEAL 15

Ortogonalización de Gram-Schmidt § VÌ p ; V subespacio vectorial de si V es espacio vectorial, es decir, si § Dado A = Propiedades ALGEBRA LINEAL 16

Ortogonalización de Gram-Schmidt Proposición Demostración ALGEBRA LINEAL 17

Ortogonalización de Gram-Schmidt Dado un conjunto de vectores l. i. , se puede construir otro conjunto ortogonal que genere el mismo espacio. Sean linealmente independientes ALGEBRA LINEAL 18

Ortogonalización de Gram-Schmidt Entonces: ALGEBRA LINEAL 19

Matrices ortogonales § Anxn; inversa A-1: A A-1 = A-1 A = I. § A’ transpuesta de A. § Qnxn es ortogonal si Q’Q = QQ’ = I. (las columnas de una matriz ortogonal son vectores ortonormales) ALGEBRA LINEAL 20

Matrices ortogonales Propiedades y Qy Qx x ALGEBRA LINEAL 21

Autovalores y autovectores Anxn; autovalor de A x es autovector asociado a x Polinomio característico Ecuación característica ALGEBRA LINEAL 22

Autovalores y autovectores Ejemplo Autovalores y autovectores de ALGEBRA LINEAL 23

Autovalores y autovectores Propiedades Diagonalización de matrices ALGEBRA LINEAL 24

Autovalores y autovectores: diagonalización Si A simétrica entonces existen autovalores reales con autovectores asociados ortonormales tales que P D A=PDP’, siendo D diagonal y P ortogonal P’ (Toda matriz simétrica es diagonalizable) ALGEBRA LINEAL 25

Autovalores y autovectores: diagonalización Ejemplo Diagonalizar ALGEBRA LINEAL 26

Autovalores y autovectores: representación espectral Sea Si A es simétrica entonces existen autovalores reales con autovectores ortonormales tales que ALGEBRA LINEAL 27

Autovalores y autovectores: representación espectral Ejemplo Descomposición espectral de ALGEBRA LINEAL 28

Formas cuadráticas Anxn simétrica; , f(x)=x’ A x es una forma cuadrática ALGEBRA LINEAL 29

Formas cuadráticas Ejemplo Expresar matricialmente la forma cuadrática Escribir en forma cuadrática ALGEBRA LINEAL 30

Formas cuadráticas Como Anxn es simétrica, es diagonalizable, se puede escribir A = PDP’ y, por tanto, queda: f(x) = x’PDP’x. Haciendo y = P’x: se tiene ALGEBRA LINEAL 31

Formas cuadráticas x’Ax=c 2 representa geométricamente una elipse en ; los autovalores son y los autovectores normalizados son e 1 y e 2. y 1 x 1 e 2 y 2 x 2 ALGEBRA LINEAL 32

Formas cuadráticas Ejemplo Representar, hallar los ejes y obtener la expresión reducida de ALGEBRA LINEAL 33

Formas cuadráticas Clasificación de formas cuadráticas Sea f(x) = x’ A x § f es definida positiva si § f es semidefinida negativa si § f es indefinida si ALGEBRA LINEAL 34

Formas cuadráticas Sean los autovalores de A § f es definida positiva § f es semidefinida negativa § f es indefinida ALGEBRA LINEAL 35

Raíz cuadrada de una matriz: A semidefinida positiva; B es raíz de A si A=BB; B=A 1/2 ; A=A 1/2 Si A es simétrica y A=PDP’ con descomposición espectral entonces: ALGEBRA LINEAL 36

Formas cuadráticas Raíz cuadrada de una matriz: Nota: ALGEBRA LINEAL 37

Descomposición singular de una matriz Dada la matriz Amxn, AA’ es cuadrada y simétrica; por tanto, diagonalizable. es un valor singular de A, si es autovalor de AA’. Descomposición singular Sea A una matriz mxn; valores singulares de A. Entonces existen matrices ortogonales U y V tales que: ALGEBRA LINEAL 38

Vectores y matrices aleatorias Vector aleatorio Matriz aleatoria 31

Vectores y matrices aleatorias Se llama vector de medias a: y covarianza entre dos variables a Se define la matriz de covarianzas de X como: 40

Vectores y matrices aleatorias

Vectores y matrices aleatorias Ejemplo ALGEBRA LINEAL 42

Vectores y matrices aleatorias Propiedades Sea Xmxn y sean Akxm y Bnxr matrices de constantes. Entonces: 43

Vectores y matrices aleatorias Matriz de correlaciones donde en forma matricial: donde V es la matriz de varianzas: 44

Vectores y matrices aleatorias Partición de un vector aleatorio Sea § Vector de medias: § Matriz de covarianzas: , donde 45

Matriz de datos 46

Matriz de datos § Vector de medias: § Matriz de varianzas y covarianzas: donde § Matriz de correlaciones: , donde 47

EJEMPLOS 48

EJEMPLOS 49

EJEMPLOS 50

EJEMPLOS 51

EJEMPLOS 52

EJEMPLOS 53

EJEMPLOS 54

Matriz de datos Proposición Dado 55

Matriz de datos La matriz de datos se puede representar como: § Diagrama de dispersión, n puntos en el espacio p=2 p=3 x 2 x 1 x 3 x 2 x 1 Como para p>3 no es posible representarlo, se utilizan diagramas de dispersión múltiple con pares de variables. 56

Matriz de datos § Considerando las columnas en vez de la filas de la matriz de datos, es decir, p puntos en Y 1 Y 2 Y 3 Para cuatro variables: Yp Y 1 Y 4 Y 3 Y 2 Y 1 Y 2 Y 3 Y 4 57

Matriz de datos Vector de unos: n unos Propiedades § y forma el mismo ángulo con todos los ejes. § es el vector unitario que forma el mismo ángulo en todas las direcciones. 58

Matriz de datos § Proyección de un vector sobre el vector yi 1 59

Matriz de datos Vector de desviaciones a la media: 60

Matriz de datos Entonces: 61

Matriz de datos Varianza generalizada y varianza total: 62

Matriz de datos § Varianza generalizada de X: § Varianza total de X: § Varianza generalizada muestral: § Varianza total muestral: 63

Matriz de datos Interpretación geométrica § Área = § Varianza generalizada en 64

EJEMPLOS 65

EJEMPLOS 66

EJEMPLOS 67

Matriz de datos Combinaciones lineales de las componentes de una variable y las combinaciones lineales: § Media muestral de c’X: § Varianza muestral de c’X: § Covarianza muestral de c’X y b’X: 68

Matriz de datos Ejemplo ALGEBRA LINEAL 69

EJEMPLOS 70

EJEMPLOS 71

EJEMPLOS 72

EJEMPLOS 73

EJEMPLOS 74

EJEMPLOS 75

EJEMPLOS 76