Invatare automata Universitatea Politehnica Bucuresti Anul universitar 2009

Invatare automata Universitatea Politehnica Bucuresti Anul universitar 2009 -2010 Adina Magda Florea http: //turing. cs. pub. ro/inva_10 si curs. cs. pub. ro

Curs nr. 1 Continut curs n n n n n Introducere Invatare inductiva Invatare in spatiul versiunilor Invatare prin recopensa Retele neurale Algoritmi genetici LCS Teoria invatarii computationale Invatarea in retele Bayesiene 2

Cerinte Notare n n Laborator (10%) si teme de casa T 1 -T 3 - 30% Tema de casa T 4 - 20% (se alege tema pana pe 29 martie) Verificare pe parcurs - 20% Verificare finala – 20% Planificare T 1 - S 2 cu predare in S 4 T 2 - S 5 cu predare in S 7 T 3 - S 8 cu predare in S 10 T 4 - se publica pe 15 martie, se alege pana pe 29 martie, cu predare in S 13 Cerinte pentru promovare n n Minimum 6 prezente la laborator pentru promovare (in lipsa a 6 prezente, cursul si laboratorul se refac in anul universitar urmator) Studentul trebuie sa obtina minim jumatate din punctajul de laborator si teme pentru promovare 3

1. Definitii n n Invatarea este procesul prin care un sistem isi imbunatateste performantele (Herbert Simon). Invatarea este achizitia cunostintelor explicite; Invatarea este achizitiaa deprinderilor de rezolvare a problemelor Invatarea este formare teoriilor, formarea ipotezelor si inferenta inductiva 4

Invatare automata Machine learning n Schimba structura, programul sau BC n Schimbarile: imbunatatiri sau de la zero Perceptie Model (BC) Rationament Actiune 5

Invatare automata De ce sa invete? n Taskuri definite prin exemple n Relatii / corelatii in cantitati mari de date n Mediu in schimbare n Date diferite, cu zgomot n Cantitate de cunostinte prea mare pentru a fi reprezentate explicit 6

Invatare automata Discipline n Statistica (esantioane - distributie de probabilitate) n Modele neuronale n Teoria controlului (control proces cu parametrii necunoscuti) n Modele psihologice n Modele biologice n Inteligenta artificiala 7

Inv. A – Exemple de a. Aplicatii n n n clasificarea proteinelor corespunzator functiei lor prezice daca pacientul raspunde bine unui tratament/medicament categorizarea textelor (e. g. , filtrare spam) detectia fraudelor OCR detectia fetelor umane in imagini intelegerea limbajului vorbit segmentarea pietii (e. g. , daca un client raspunde unei promotii) descoperirea regulilor de bune practici (tipar) predictia consumului de electricitate sinteza ontologiilor 8

Model simplu – Clasificare 1 T = {X 1, X 2, …, Xm} – multime de invatare X= x 1 x 2. . xn f(X) = ? h h(X) h H Invatare supervizata – se cunosc f(X 1), …, f(Xm) Gasim h a. i. h(Xi) = f(Xi), i=1, m h(Xi) = f(Xi), i n Invatare ne-supervizata – NU se cunosc f(X 1), …, f(Xm) Imparte T in submultimi – clase Se poate vedea tot ca invatarea unei functii – val f = numele submultimii careia ii apratine Xi n Invatare prin recompensa – Se cunosc recompensele pentru valorile h(X 1), …, h(Xm), Nu se cunosc valorle lui f n 9

Denumiri n n T – vector de intrare, vector sablon, vector de caracteristici, esantioane, exemple, instante xi- caracteristici, atribute, variabile de intrare, componente xi - valori reale, valori numerice intregi, valori simbolice, valori booleene f(Xi) n valori reale: h – functie de esantionare n valori simbolice: h – clasificator n boolene: 1 – instanta pozitiva, 0 – instanta negativa 10

Model conceptual – Clasificare 2 n n Mediul ofera stimuli sau informatie elementului de învatare, care foloseste aceasta informatie pentru a imbunatati cunostintele (explicite) din baza de cunostinte Aceste cunostinte sunt utilizate de componenta de prelucrare (rezolvare) în rezolvarea problemei 11

Sistem de invatare Element de invatare Feed-back Rezultate invatare Date Rezolvare BC Motor de inferenta Strategie Mediu Rezultate Profesor Feed-back Evaluare performante 12

Model conceptual – Clasificare 2 n În functie de diferenta între nivelul informatiei oferite de mediu si cel al informatiei din baza de cunostinte, se pot identifica patru tipuri de invatare n n invatarea prin memorare invatarea prin instruire invatarea prin inductie (din exemple) invatarea prin analogie 13

Reguli de inferenta utilizate in invatare n n La baza procesului de invatare stau o serie de forme inferentiale nevalide: inductia, abductia si analogia O metoda de învãtare poate folosi una sau mai multe astfel de forme de inferenta, cat si forme de inferenta valide, cum este deductia 14

Inferenta inductiva n O proprietate adevarata pentru o submultime de obiecte dintr-o clasa este adevarata pentru toate obiectele din acea clasa 15

Inferenta inductiva n Se poate generaliza la sintetizarea unei întregi reguli de deductie pe baza exemplelor 16

Inferenta abductiva n Se utilizeaza cunostinte cauzale pentru a explica sau a justifica o concluzie, posibil invalida 17

Inferenta abductiva n Exemplu n n Uda(iarba) ( x) (Ploua. Peste(x) Uda(x)) Se poate infera abductiv ca a plouat Cu toate acestea, abductia nu poate fi aplicata consistent in oricare caz 18

Inferenta analogica n n Situatii sau entitati care tind sa fie asemanatoare sub anumite aspecte sunt asemanatoare în general Este o combinatie a celorlalte forme de inferenta: abductive, deductive si inductive 19

Aspecte Inv. A n n Regimuri de invatare: n Batch n Incremental Zgomot: n zgomot atribute n zgomot iesiri (alterare iesiri) 20

Occam Razor Principiul lamei lui Occam n prefer explicatiile simple celor complexe n Wiliam of Occam, 1285 – 1349 (? ) n filozof englez "non sunt multiplicanda entia praeter necessitatem" 21

Conditii pentru o invatare "corecta" Problema: identifica personaje de film "bune" sau "rele" dupa modul in care arata 22

Conditii pentru o invatare "corecta" Atribute / Instante Sex Masca Pelerina Cravata Urechi Lupta Clasa Set de invatare Batman Masc Da Da Nu Bun Robin Masc Da Da Nu Nu Nu Bun Alfred Masc Nu Nu Da Nu Nu Bun Pinguin Masc Nu Nu Da Rau Catwoman Fem Da Nu Nu Da Nu Rau Joker Nu Nu Nu Rau Masc Date de test Batgirl Fem Da Da Nu ? ? Fred Masc Da Nu Nu ? ? 23

Conditii pentru o invatare "corecta" Clasifica datele Cravata Nu Da Pelerina Nu Rau Da Bun Lupta Nu Bun Da Rau 24

Conditii pentru o invatare "corecta" Nu Lupta Da Nu Urechi Nu Cravata Nu Rau Da Bun Masca Pelerina Rau Sex Fem Pelerina Bun Rau Da Bun Da Nu Da Urechi Masc Da Nu Rau Lupta Nu Bun Da Rau Clasifica datele dar complexitate prea mare (intuitiv) 25

Conditii pentru o invatare "corecta" Prea simplu, nu clasifica corect Sex Masc Bun Fem Rau Aleg prima varianta (cf. lamei lui Occam) 26

Conditii pentru o invatare "corecta" n n Clasificatoarele trebuie sa fie suficient de "expresive" pentru a fi in concordanta cu setul de invatare Dar clasificatoarele care au o complexitate prea mare pot duce la fenomenul de "overfit" (overfitting) = include zgomot sau sabloane de date nerelevante 27