ANALISI IN COMPONENTI PRINCIPALI Analisi in Componenti Principali

  • Slides: 35
Download presentation
ANALISI IN COMPONENTI PRINCIPALI

ANALISI IN COMPONENTI PRINCIPALI

Analisi in Componenti Principali Nelle scienze sociali ci si trova molto spesso di fronte

Analisi in Componenti Principali Nelle scienze sociali ci si trova molto spesso di fronte a ricerche in cui vi è una sovrabbondanza di misurazioni nel tentativo di comprendere meglio il fenomeno che si sta studiando. Molto spesso misurazioni differenti possono avere un denominatore comune ovvero potrebbero in effetti rappresentare manifestazioni differenti con un’origine comune.

Riduzione dei Dati Diverse tecniche e varianti ricadono sotto tale denominazione. • Analisi delle

Riduzione dei Dati Diverse tecniche e varianti ricadono sotto tale denominazione. • Analisi delle Componenti Principali • Modello di Analisi dei Fattori (Fattoriale) Le analisi statistiche di riduzione dei dati possono avere un ruolo: • esplorativo • confermativo

z In ambito economico-aziendale, l’ACP viene impiegata per: z - la sintesi di indici

z In ambito economico-aziendale, l’ACP viene impiegata per: z - la sintesi di indici di bilancio aziendale – valutazione della performance aziendale sulla base di p indici di bilancio; z - la sintesi di valutazioni espresse da consumatori utenti con riferimento ad un certo bene/servizio/azienda/punto vendita/etc… z - la “riduzione” della dimensionalità dell’informazione preliminare all’analisi dei gruppi (segmentazione); z - la valutazione sintetica di caratteristiche territoriali quali ad esempio la valutazione della qualità della vita, etc…

Analisi delle Componenti Principali Rappresentare la complessità di un fenomeno rilevato da un numero

Analisi delle Componenti Principali Rappresentare la complessità di un fenomeno rilevato da un numero elevato p di variabili attraverso un numero ridotto di variabili (indicatori sintetici o fattori latenti) in grado di semplificare il problema pur mantenendo il più possibile la corrispondenza con la complessità dell’insieme di dati originario. Quando le p variabili sono numerose è molto difficile riuscire a cogliere le strutture esistenti nei dati. Si pone quindi il problema di sostituire le p variabili originarie con un numero k minore di variabili “artificiali” (k < p) (COMPONENTI PRINCIPALI) che garantiscono la SINTESI con la MINOR PERDITA DI INFORMAZIONE POSSIBILE. RIDUZIONE DELL’INFORMAZIONE INDIVIDUAZIONE “DIMENSIONI LATENTI” (ricerca di raggruppamenti di variabili fortemente correlate rappresentabili da un singola variabile non osservabile)

Matrice dei dati, unità variabili xis rappresenta la determinazione della s-esima variabile quantitativa osservata

Matrice dei dati, unità variabili xis rappresenta la determinazione della s-esima variabile quantitativa osservata sull’i-esima unità statistica (i=1, . . , n; s=1, …, p). variabile s unità n

Matrice dei dati

Matrice dei dati

Analisi delle Componenti Principali La sintesi può essere perseguita con l’ACP sostituendo le p

Analisi delle Componenti Principali La sintesi può essere perseguita con l’ACP sostituendo le p variabili osservate con k (k<p) variabili artificiali che garantiscono la minore perdita d’informazione. PROBLEMA: COME SCEGLIERE LE VARIABILI ARTIFICIALI CHE SINTETIZZANO, con la minor perdita d’informazione, le variabili osservate? Il problema viene risolto assumendo che le variabili artificiali siano COMBINAZIONE LINEARE delle variabili osservate. PROBLEMA: quale COMBINAZIONE LINEARE scegliere? Il CONTRIBUTO INFORMATIVO fornito da una variabile statistica è legato alla sua VARIABILITA’. Infatti una variabile statistica con ELEVATA VARIABILITA’ fornisce di solito PIU’ INFORMAZIONE di una con BASSA VARIABILITA’. Ciò accade poiché una variabile statistica con elevata variabilità tende ad essere “DISPERSA”, cioè ad assumere modalità molto differenti tra loro.

Analisi delle Componenti Principali In che modo le Componenti Principali mantengono l’informazione contenuta nella

Analisi delle Componenti Principali In che modo le Componenti Principali mantengono l’informazione contenuta nella matrice dei dati e rappresentata dalla matrice di varianze e covarianze (o di correlazione)? La somma delle varianze delle variabili viene interpretata come misura della variabilità complessiva contenuta nella matrice di dati. Dalla matrice di varianze e covarianze (o di correlazione) si possono estrarre i coefficienti della combinazione lineare delle variabili (coefficienti di punteggio) che consentono di ottenere le componenti principali. Tali coefficienti di punteggio sono scelti in modo tale che la Componente Principale ottenuta come somma delle variabili originarie pesata con questi punteggi (combinazione lineare) abbia varianza massima. La somma delle varianze di tutte le Componenti Principali è uguale alla somma delle varianze delle variabili originarie. La covarianza tra due qualunque Componenti Principali è nulla. Si osserva che se le variabili originarie sono tra loro correlate, le dimensioni d’interesse sono in realtà meno di p.

Analisi delle Componenti Principali La sintesi può avvenire se le variabili originarie sono tra

Analisi delle Componenti Principali La sintesi può avvenire se le variabili originarie sono tra loro correlate, si basa sull’idea che una parte dell’informazione é ridondante Nel procedimento di sintesi diviene necessario trascurare una parte dell’informazione originaria – in ogni caso la sintesi ha senso solo se la quantità di informazione originaria che si perde è trascurabile. Le nuove variabili (componenti principali) sono combinazioni lineari delle variabili originarie, sono tra loro ortogonali ed hanno, per convenzione, media nulla. Tra tutte le possibili combinazioni lineari che possono essere formate con quel set di n valori presi da p variabili, la singola componente principale é quella che ha la massima varianza.

Più in dettaglio, l’impiego dell’analisi in componenti principali con riferimento a p variabili consente

Più in dettaglio, l’impiego dell’analisi in componenti principali con riferimento a p variabili consente di individuare altrettante p variabili (diverse dalle prime) ognuna combinazione lineare delle p variabili di partenza.

z Le componenti principali saranno: z tra loro incorrelate; z ordinate in ragione della

z Le componenti principali saranno: z tra loro incorrelate; z ordinate in ragione della loro variabilità complessiva che esse possono sintetizzare: z tali che la variabilità complessiva dei due sistemi di variabili coincida

Consideriamo per semplicità le variabili originarie trasformate come scarti dalla media in cui ak

Consideriamo per semplicità le variabili originarie trasformate come scarti dalla media in cui ak è un vettore di dimensione (1 xp) ed X è di dimensione (px 1). Per individuare Yk è necessario porre alcuni vincoli: 1. Lunghezza unitaria del vettore ak, cioè 2. Ortogonalità di Yk rispetto ad Yk’ (con k’ minore di k)

Procedura di ottenimento delle componenti principali L’individuazione delle componenti principali avviene attraverso la massimizzazione

Procedura di ottenimento delle componenti principali L’individuazione delle componenti principali avviene attraverso la massimizzazione di Var(Y) con i vincoli di cui sopra. Consideriamo una CP e i valori che assume sulle unità osservate con SX matrice di varianza e covarianza delle X. La quantità precedente da massimizzare è uno scalare.

La massimizzazione della quantità a’Sxa, effettuata sotto il vincolo a’a=1, avviene utilizzando il metodo

La massimizzazione della quantità a’Sxa, effettuata sotto il vincolo a’a=1, avviene utilizzando il metodo dei moltiplicatori di Lagrange. Si ottiene così la I CP A questo punto la ricerca della (k+1)-esima CP successiva alla k-esima avviene con la stessa procedura e con un ulteriore vincolo di ortogonalità tra le componenti.

z In generale per la k-ma CP z Le p componenti principali saranno

z In generale per la k-ma CP z Le p componenti principali saranno

z Una importante proprietà z a’k. Sak=Var(Yk) z per costruzione, quindi z Poiché Var(Yh)

z Una importante proprietà z a’k. Sak=Var(Yk) z per costruzione, quindi z Poiché Var(Yh) = �� h la quota della variabilità totale spiegata dalla h-ma CP è data da z �� h/S �� k

z. I coefficienti �� sono chiamati autovettori e sono la soluzione del problema di

z. I coefficienti �� sono chiamati autovettori e sono la soluzione del problema di massimo vincolato prima enunciato

ACP: matrice S o matrice R z Abbiamo visto come l’ACP riesce a riprodurre

ACP: matrice S o matrice R z Abbiamo visto come l’ACP riesce a riprodurre la somma delle varianze delle variabili originarie, attraverso le p componenti. Tale procedura, applicata su S, è tuttavia appropriata solo se le variabili originarie sono espresse nella stessa unità di misura e presentano ordini medi di grandezza simili. z Nella soluzione di problemi reali abbiamo spesso a che fare con variabili espresse in diversa unità di misura: che significato ha in questo caso l’espressione traccia(S)? z Tale difficoltà può essere superata se si utilizzano come variabili di partenza le variabili scarto standardizzato contenute in Z.

z Yk= a’k. Z z Questo procedimento equivale ad assumere come punto di partenza

z Yk= a’k. Z z Questo procedimento equivale ad assumere come punto di partenza la matrice di correlazione R anziché S. z Nel complesso, usando R, alcune operazioni e interpretazioni vengono semplificate: z la somma delle varianze delle variabili di partenza è uguale a p; z Gli elementi di a sono direttamente confrontabili in quanto non risentono della scala o dell’unità di misura delle variabili originarie.

z Il valore ahk esprime la variazione della componente dovuta ad una variazione della

z Il valore ahk esprime la variazione della componente dovuta ad una variazione della variabile Xk, tenuti costanti i valori delle altre variabili. z Sulla base dei coefficienti ahk è possibile valutare il peso relativo della variabile Xh rispetto alla k-ma componente Yk. z In generale, i risultati di una ACP condotta su R sono diversi da quelli ottenuti da S e non si può passare dagli uni agli altri attraverso una semplice trasformazione di scala delle componenti.

 X 1 X 2 X 3 X 4 X 5 X 6 X

X 1 X 2 X 3 X 4 X 5 X 6 X 7

Y 1=CP 1=0. 196(sicuro)+0. 204(deciso)+0. 2(forte)+0. 212(socievole)+0. 096(preciso)+ +0. 111(metodico)+0. 22(attivo) Y 2=CP 2=-0.

Y 1=CP 1=0. 196(sicuro)+0. 204(deciso)+0. 2(forte)+0. 212(socievole)+0. 096(preciso)+ +0. 111(metodico)+0. 22(attivo) Y 2=CP 2=-0. 207(sicuro)-0. 241(deciso)-0. 15(forte)-0. 002(socievole)+0. 526(preciso)+ +0. 492(metodico)+0. 069(attivo)

Scelta numero componenti -Tutte le componenti principali a cui corrisponde varianza (autovalore) > 1

Scelta numero componenti -Tutte le componenti principali a cui corrisponde varianza (autovalore) > 1 -Ispezione grafica dello Scree-Plot (grafico decrescente delle varianze) -Tutte le componenti principali fino al raggiungimento di una quota percentuale (fissata) di variabilità spiegata

Scelta numero componenti Varianza totale associata alle prime due componenti

Scelta numero componenti Varianza totale associata alle prime due componenti

Scelta numero componenti Si scelgono 2 componenti

Scelta numero componenti Si scelgono 2 componenti

Interpretazione delle componenti Coefficienti di punteggio delle componenti Coefficienti di correlazione tra Componenti Principali

Interpretazione delle componenti Coefficienti di punteggio delle componenti Coefficienti di correlazione tra Componenti Principali e Variabili Originarie Interpretazione geometrica delle componenti principali Interpretazione semantica delle componenti principali Valenza descrittivo-esplorativa delle componenti principali

Interpretazione delle componenti estroversione coscienziosità Combinazioni lineari CP 1= 0. 196(sicuro)+0. 204(deciso)+0. 2(forte)+0. 212(socievole)+0.

Interpretazione delle componenti estroversione coscienziosità Combinazioni lineari CP 1= 0. 196(sicuro)+0. 204(deciso)+0. 2(forte)+0. 212(socievole)+0. 096(preciso)+ 0. 111(metodico)+0. 22(attivo) CP 2= -0. 207(sicuro)-0. 241(deciso)-0. 15(forte)-0. 002(socievole)+0. 526(preciso)+ 0. 492(metodico)+0. 069(attivo)

CP 1= 0. 196(sicuro)+0. 204(deciso)+0. 2(forte)+0. 212(socievole)+0. 096(preciso)+ 0. 111(metodico)+0. 22(attivo) CP 2= -0.

CP 1= 0. 196(sicuro)+0. 204(deciso)+0. 2(forte)+0. 212(socievole)+0. 096(preciso)+ 0. 111(metodico)+0. 22(attivo) CP 2= -0. 207(sicuro)-0. 241(deciso)-0. 15(forte)-0. 002(socievole)+0. 526(preciso)+ 0. 492(metodico)+0. 069(attivo)

Grafico componenti 1, 0 preciso metodico Componente 2 0, 5 attivo 0, 0 socievole

Grafico componenti 1, 0 preciso metodico Componente 2 0, 5 attivo 0, 0 socievole forte sicuro deciso -0, 5 -1, 0 -0, 5 0, 0 Componente 1 0, 5 1, 0

coscienziosità estroversione

coscienziosità estroversione