Leniv uenie Strojovho uenie KKUI TU Koice Leniv

Lenivé učenie Strojového učenie, KKUI TU Košice Lenivé učenie Predmet: Strojové učenie Prednášajúci: Kristína Machová

Lenivé učenie Strojového učenie, KKUI TU Košice Lenivé učenie o o Model obsahuje tzv. extenzionálnu reprezentáciu pojmu Extenzionálna reprezentácia predstavuje celú množinu TP Flexibilnejšia reprezentácia – nemá problém so šumom Multitriedna klasifikácia – nezáleží na počte tried o Fukcionálne učenie (množina podmienok pre každý atribút) Trieda. NP = f(Trieda. TP 1, . . . , Trieda. TPN) Trieda. NP … predikcia triedy nového pozorovania Trieda. TPi. . . trieda i-tého trénovacieho príkladu z blízkeho okolia Použitie: o Nový príklad je klasifikovaný do najfrekventovanejšej triedy v jeho okolí o Okolie príkladu je reprezentované najbližšími susedmi o Blízkosť je chápaná v zmysle podobnosti Kristína Machová 2

Lenivé učenie Strojového učenie, KKUI TU Košice Extenzionálna reprezentácia v kontexte reprezentačných schém o Extenzionálna reprezentácia (vymenovaním objektov) o Intenzionálna reprezentácia (zovšeobecnením) o Kontrolované učenie s učiteľom o Klasifikačné pravidlá o Rozhodovacie stromy a zoznamy o Prahové pojmy (LTU, SVM) a etalóny o Pravdepodobnostné pojmy (Naivný Bayes klasifikátor) o Neurónové siete o Nekontrolované učenie bez učiteľa o Zhlukovanie o Posilňované učenie (reinforcement learning) 3

Lenivé učenie Strojového učenie, KKUI TU Košice Neinkrementálna indukcia o k-NN (k Nearest Neighbours) K najbližších susedov o Thomas Cover (1997) o Klasifikátor uchováva v pamäti všetky TP o Určená pre klasifikáciu – trieda najbližších TP o Určená aj pre regresiu – spriemerňovanie výstupov Y (labels) najbližších príkladov o K = 3 – červená trieda o K = 5 – modrá trieda 4

Lenivé učenie Strojového učenie, KKUI TU Košice Algoritmus k-NN Klasifikácia prebieha nasledovne: o V cykle sa vyberie i-tý príklad o Novému príkladu sa priradí kategória k najbližších TP o Ak sú klasifikované všetky príklady, potom koniec o Najbližší susedia sú určovaní v zmysle maximálnej podobnosti, resp. minimálnej vzdialenosti. o V najjednoduchšom prípade (1 -NN) je TP priradená kategória jedného najbližšieho suseda. o V prípade nejednoznačnosti priradenia sa rekurzívne realizuje (k-1)NN kým nie je dosiahnutý úspech, alebo k=1. Kristína Machová 5

Lenivé učenie Strojového učenie, KKUI TU Košice Algoritmus k-NN o Výpočtová náročnosť je daná počtom určovaných podobností klasifikovaného príkladu k ostatným z TM rastie úmerne s počtom TP o Pamäťová náročnosť je podmienená nutnosťou uchovávať všetky TP v pamäti o Výskyt irelevantných atribútov môže ovplyvniť presnosť klasifikácie o Používajú sa rozličné metriky podobnosti o Najznámejšie: o Euklidova – numerická doména o Kosínusová - nominálna doména, napr. spracovanie textov (na Obr. ) Kristína Machová 6

Lenivé učenie Strojového učenie, KKUI TU Košice Metriky podobnosti Slúžia na výpočet vzdialenosti, resp. podobnosti dvoch TP (reprezentovaných vektormi s numerickými hodnotami). Najčastejšie používané: q Kosínusová metrika podobnosti q Kosínusová metrika vzdialenosti Kristína Machová 7

Lenivé učenie Strojového učenie, KKUI TU Košice Metriky podobnosti Slúžia na výpočet vzdialenosti, resp. podobnosti dvoch TP (reprezentovaných vektormi s numerickými hodnotami). Najčastejšie používané: q Euklidova metrika (metrika L 2) q Druhá mocnina Euklidovaj metriky Kristína Machová 8

Lenivé učenie Strojového učenie, KKUI TU Košice Metriky podobnosti Ďalšie metriky q Minkovského metrika (metrika L) pre λ=1 dostaneme Manhattanovu pre λ=2 dostaneme Euklidovu a pre λ=∞ Čebiševovu metriku q Manhattanova metrika (Cityblock metrika, metrika L 1) q Čebyševova metrika (Maximová metrika, L∞ metrika) q Canberra metrika Kristína Machová 9

Lenivé učenie Strojového učenie, KKUI TU Košice Ďakujem za pozornosť Prednášajúci: Kristína Machová http: //people. tuke. sk/kristina. machova/prezentacie. SU/