Umel inteligencia 1 Strojov uenie Doc Ing Kristna

Umelá inteligencia 1 Strojové učenie Doc. Ing. Kristína Machová, Ph. D.

Strojové učenie Osnova: ØDefinícia strojového učenia ØReprezentácia vstupov a výstupov ØDelenie kognitívnych algoritmov ØPrehľadávanie priestoru pojmov a príznakov ØRozhodovacie stromy ØPrahové pojmy ØUčenie odmenou a trestom ØZhlukovanie

Strojové učenie Definícia Počítačový program je schopný učiť sa zo skúsenosti S vo vzťahu k niektorej triede úloh T a miere výkonnosti V, ak sa jeho výkon zvýšil pri úlohách z T meraný V vďaka skúsenosti S.

Strojové učenie Definícia Skúsenosť S je reprezentovaná trénovacími dátami, ktoré sú uložené v trénovacej množine. Trénovacia množina Algoritmus strojového učenia Výsledok učenia môže mať rôznu reprezentáciu. Klasifikačné pravidlá Rozhodovacie stromy Rozhodovacie zoznamy Etalóny Prahové pojmy Pravdepodob. pojmy Zhluky

Strojové učenie Reprezentácia vstupov Trénovacia množina - vstup algoritmu SU Atribúty: binárne, nominálne, numerické, ordinálne. . . Posledný atribút: zaradenie do triedy Podnik Podiel na trhu v % Investície do reklamy Úroveň riadenia Dobrá tradícia Prosperuje 1 30 vysoké dobrá áno + 2 28 priemerné zlá áno + 3 17 vysoké dobrá nie + 4 10 vysoké dobrá áno + 5 8 nízke zlá áno - 6 4 priemerné dobrá nie - 7 3 nízke zlá nie -

Strojové učenie Reprezentácia výstupov Učenie logickej reprezentácie s učiteľom: logické konjunkcie produkčné pravidlá rozhodovacie stromy a zoznamy Učenie s prvkami kvantitatívneho usudzovania: prahové pojmy etalóny pravdepodobnostné pojmy Učenie bez učiteľa: zhluky Klasifikačn á úloh a sekvenčná úloha

Strojové učenie Delenie kognitívnych algoritmov deduktívne induktívne kontrolované nekontrolované (ex. spätná väzba) (neex. spätná väzba) inkrementálne neinkrementálne on-line úloha off-line úloha BIAS (preferencie systému) reprezentačný (limituje popis pojmu) prehľadávací (limituje spôsob prehľadávania)

Strojové učenie Prehľadávanie priestoru pojmov VSS (Version Space Search) Ø prehľadávajú usporiadaný priestor pojmov (všeobecnosť) Ø používajú operátory zovšeobecnenia (špecifikácie)

Strojové učenie Prehľadávanie priestoru pojmov VSS (Version Space Search) Ø Výsledkom prehľadávania je definícia pojmu Ø Definícia pojmu má formu logickej konjunkcie obj(X, cervena, lo pta) IF FARBA=cervena & TVAR=lopta THEN Pojem obj(mala, X, lopta) IF VELKOST=mala & TVAR=lopta THEN Pojem

Strojové učenie Prehľadávanie priestoru príznakov IF H > 5 THEN “+” pričom 0<H<10 a 0<G<10 IF G < 5 THEN “+” IF H > 5 & H < 9 & G > 2 & G < 5 THEN “+” Definíciu pojmu – triedy Vo forme konjunkcie hľadáme v priestore príznakov.

Strojové učenie Trojrozmerný priestor príznakov Bičíky = {jeden, dva} Farba = {tmavá, svetlá} Jadrá = {jeden, dva}.

Strojové učenie Úplné prehľadávanie priestoru Úplné prehľadávanie pomocou EGS (Exhaustive Generalto-Specific)

Strojové učenie Úplné prehľadávanie priestoru Nevýhody: reprezentačný bias prehľadávací bias heuristika (BS, Score)

Strojové učenie Obojsmerné prehľadávanie Hľadanie od najvšeobecnejšej aj od najšpecifickejšej úrovne V priestore pojmov prehľadávame strom pojmov zhora aj zd V príznakovom priestore najvšeobecnejší pojem zužujeme špecifický pojem rozširujeme.

Strojové učenie Heuristické prehľadávanie priestoru Heuristické prehľadávanie pomocou HGS (Heuristic G-to. S) H s 23 s 52 s 5 s 21 s 22 s 1 s 54 s 51 BS=2 (Beam Size) s 3 s 55 s 4 s 53

Strojové učenie Heuristické prehľadávanie priestoru Algoritmus HGS používa Score funkciu, napríklad v tvare: Kde: P je množina pozitívnych príkladov N je množina negatívnych príkladov Pc sú pokryté pozitívne príklady Nnc sú nepokryté negatívne príklady Je možné používať aj štatistické a informačné miery, Ale aj tak jednoduchú mieru ako:

Strojové učenie Rozhodovacie stromy Ø Ø Ø Rekurzívne delenie priestoru príkladov na podpriestory (princíp rozdeľuj a panuj) UP: v podpriestoroch sú iba príklady jednej triedy Výber testovacieho atribútu – minimalizácia entrópie (používa heuristiku, keby nepoužíval? ) ID 3, ID 5 R (Iterative Dichotomizer 5 Recursive) C 4. 5 – Quinlan

Strojové učenie Rozhodovacie stromy

Strojové učenie Prahové pojmy TABUĽKA KRITÉRIÍ m_of_n pojem Ak je splnených aspoň m podmienok z n, potom je príklad klasifikovaný do danej triedy – ide príklad daného pojmu. (etalón je m_of_m pojem)

Strojové učenie Učenie odmenou a trestom Ø Ø Ø Ø Riešenie úlohy sekvenčného typu učením bez učiteľa. Je daný počiatočný a koncový stav a hľadá sa postupnosť stavov vedúca od jedného k druhému. Dopredným zreťazeným prehľadávaním a postupným šírením odmien spätne pozdĺž cesty. Používa sa riadenie ohodnocovacou funkciou „reward“. Tabuľkový prístup: každý pár stav - akcia má svoju bunku v tabuľke, ktorá obsahuje hodnotu odmeny. Q – learning: pri každom prechode stavom sa hodnota jeho odmeny zvýši o ΔQ(s, a). Bucket brigade: Q(s, a) sa zníži o frakciu f zakaždým keď sa aplikuje akcia a v stave s. O tú istú hodnotu

Strojové učenie Zhlukovanie Ø Ø Ø Učenie bez učiteľa; v trénovacej množine nemáme informáciu o triede. Vytvárame zoskupenia – zhluky objektov na základe ich príbuznosti, podobnosti. CLUSTER/2 formuje K zhlukov okolo K jadier

Strojové učenie Zhlukovanie COBWEB Ø Inkrementálny, hierarchický Ø Určuje počet zhlukov Ø Určuje hĺbku hierarchie Ø Počíta užitočnosť zhluku

Strojové učenie Literatúra Machová Kristína: Strojové učenie. Princípy a algoritmy. ELFA s. r. o. , 2002, Košice, 117 s. , ISBN 80 89066 51 8.