Predstavljanje nesavrenog znanja Motivacija n n Racionalna odluka

Predstavljanje nesavršenog znanja Motivacija: n n Racionalna odluka inteligentnog agenta ovisi o relativnim odnosima važnosti ciljeva i stupnjeva vjerovanja u ostvarenje tih ciljeva. Agent ne može garantirati ostvarenje cilja. Potrebno je uvesti predstavljanje stupnja vjerovanja u postizanje cilja, t. j. stupnja vjerovanja u istinitost rasuđivanjem izvedenog zaključka. Nesavršen zaključak ili cilj mora se izvesti iz nesavršenog poznavanja stanja svijeta (činjenica) i nesavršene baze znanja. 1

Predstavljanje nesavršenog znanja Zadatak: n Oblikovati sustav temeljen na predstavljanju i obradbi nesavršenog znanja. Ideja: n Činjenicama i pravilima (ili logičkim izrazima) pridijeliti težinske faktore koji preslikavaju nesavršeno znanje (stupanj vjerovanja) o tim temeljnim entitetima sustava. n Definirati postupak pridjeljivanja težinskih faktora novo izvedenom zaključku. 2

Predstavljanje nesavršenog znanja Shematski prikaz stanja svijeta i baze znanja: u okviru formalne logike ili prirodnog zaključivanja pravilima (Wfi – težinski faktori činjenica, Wrj – težinski faktori pravila): Činjenice: F 1, Wf 1 F 2, Wf 2 … Fn, Wfn Pravila: ( A 11, A 12, …, A 1 k ) C 1 , Wr 1 ( A 21, A 22, …, A 2 l ) C 2 , Wr 2 … ( Am 1, Am 2, …, Amp ) Cm , Wrm Problem: semantika težinskih faktora ! 3

Predstavljanje nesavršenog znanja Semantika težinskih faktora: 1. NEIZVJESNOST (nepotpuno poznavanje stvarnoga svijeta) Npr. : Temperatura pare je 280 C, (0. 8). Ovdje 0. 8 predstavlja neku mjeru nepotpunog poznavanja temperature, t. j. možda pogrešku mjernog instrumenta ± 20%. Pristupi uvođenju mjere za neizvjesnost (nepotpunog poznavanja svijeta): n n Predikatna Logika + vjerojatnost u automatiziranom dokazivanju teorema (ATP) P , W 1 ; Modus ponens s vjerojatnostima premisa P Q , W 2 : da li W 1 i W 2 mogu biti nekozistentni ? _____ Q , W 3 ? ; Kolika je vjerojatnost zaključka ? Faktori izvjesnosti u sustavima s pravilima ("Ad Hoc" postupak). Različite formalne logike (npr. DST) Mrežni kauzalni modeli 4

Predstavljanje nesavršenog znanja Teorijske osnovice za rukovanje s NEIZVJESNOSĆU Racionalni agent odabire akciju temeljem preferencija. 1. Vjerojatnost – pogodna za obradbu izostavljenih ili nedostajućih podataka. 2. Predstavljanjem i obradbom preferencija bavi se teorija korisnosti (engl. utility theory). 3. Teorija odlučivanja = teorija vjerojatnosti + teorija korisnosti. (O teoriji korisnosti i teoriji odlučivanja bit će riječi kasnije o mrežnim modelima predstavljanja znanja) 5

Predstavljanje nesavršenog znanja Semantika težinskih faktora: 2. NEIZRAZITOST (nejasnost, neodređenost, nepreciznost) Npr: Temperatura pare je visoka – neizrazita vrijednost, ali traži pripadnu mjeru i semantiku Pristupi uvođenju mjere neizrazitog znanja: n Neizrazita logika (engl. fuzzy). n Neizrazita logika + faktori izvjesnosti. n Teorija mogućnosti (engl. possibility theory). 6

Predstavljanje nesavršenog znanja Težinski faktori predstavljeni predikatnom logikom + vjerojatnost (Nilsson, 1989. g. ) U "Modus ponens" vodimo indikatore ri: P, r 1 ri = stupanj verovanja u istinitost (P Q), r 2 (engl. degree of belief) Q, r 3 modeliramo s vjerojatnošću Tumačenje preko svjetova: Svaka logička formula je istinita (T) u svijetu W 1, a neistinita (F) u svijetu W 2. P se nalazi u W 1 s vjerojatnošću p, a u W 2 s vjerojatnošću (1 – p). Za skup od L formula postoji 2 L mogućih svjetova. Stvarno postoji K 2 L svjetova, jer su neki nemogući. Npr. za P=T, Q=F, nemoguć je svijet u kojem (P Q) = T. 7

Predstavljanje nesavršenog znanja Logika + vjerojatnost Promatramo "Modus ponens": Konzistentni su samo svjetovi (interpretacije) sukladni tablici implikacije: W 1 W 2 W 3 W 4 (4 svijeta) potpun i isključiv skup P vektor p 1 p 2 p 3 p 4 pi = vjer. da je naš svijet baš Wi ( pi = 1) _____________ P T T F F r 1 = p 1 + p 2 (P Q) T F T T r 2 = p 1 + p 3 + p 4 Q T F r 3 = p 1 + p 3 V 4 vektor R vektor L = 3 (broj formula i r-ova). K = 4 (broj svjetova), K < 2 L. Indikatori ri predstavljanju sumu vjerojatnosti onih svjetova u kojima je ta formula istinita. 8

Predstavljanje nesavršenog znanja Logika + vjerojatnost Definiramo formalan sustav: n Vektor Vi s (vrijednostima komponenata F=0 ili T=1) prikazuje istinitost pojedine formule u nekom svijetu Wi. n Vektore V 1, . . . , Vk (sa L komponenata) grupiramo u matricu (L x K): V. n Vjerojatnosti ri grupiramo u L-dimnenzijski vektor R. n Vjerojatnosti pi grupiramo u K-dimenzijski vektor P. n Vjerojatnosti se povezane matričnom jednadžbom: R=VP Ako postoje vjerojatnosti danih formula, moguće je probabilističko rasuđivanje: a) Koja je vjerojatnost novo generirane formule ? (npr. Q u "Modus ponensu). b) Kako promjena jedne vjerojatnosti utječe na ostale vjerojatnosti u skupu ? 9

Predstavljanje nesavršenog znanja Logika + vjerojatnost Za "Modus ponens" matrica V je: 1 1 0 0 ; P V=1 0 1 1 ; (P Q) 1 0 ; Q ; 0 pi 1 ; pi = 1 ; Opažamo: n Preslikavanje R = V P je linearno. n Vršne vrijednosti P se preslikavaju u vršne vrijednosti R. n Vršne vrijednosti P su za pi=1 (samo jedan pi zbog pi=1). n Vršni vektori P su: [1, 0, 0, 0], [0, 1, 0, 0], [0, 0, 1, 0], [0, 0, 0, 1] – (stupčani vektori). n Zbog linearnog preslikavanja vršnim P odgovaraju vršni R vektor koji su ustvari pojedine kolone V matrice. n Odnos vršnih vrijednosti može se prikazati grafički. 10

Predstavljanje nesavršenog znanja Logika + vjerojatnost K=4 vrha u L=3 dimenzije: (piramida s vrhom [1, 1, 1]) 1 r 3 = prob(Q) Zaključci: 1. Za dani r 1 = prob(P) i r 2 = prob(P Q), 1 ne postoji jednoznačni r 3 = prob(Q) 1 (proboj kroz piramidu). r 2 = prob(P Q) Probabilističko zaključivanje nije r 1 = prob(P) jednoznačan proces. 2. Postoje nekonzistentne vjerojatnosti pridijeljene istinitosnim vrijednostima već i za r 1 i r 2 (od ishodišta do dijagonale donje ravnine). 3. Za L rečenica i K skupova mogućih svjetova, konzistentan prostor je ograničen hiperravnimon s K vrhova u L dimenzija (analitički zahtjevno). 4. Za male matrice V, i posebne degenerirane slučajeve (npr. linearna kombinacija p-ova i r-ova) postoje aproksimacijske metode. 11

Predstavljanje nesavršenog znanja Faktori izvjesnosti kao težinski faktori u sustavima s pravilima ("Ad Hoc" postupak) Faktori izvjesnosti (CF) - (engl, certainty factor) Ideja: n Činjenicama i pravilima pridružiti težinske faktore CFi koji opisuju značaj toga entiteta u sustavu. n Pri izračunu prekrivanja parova činjenica i AKO dijelova pravila odrediti CFAKO za cijeli AKO dio pravila. n Temeljem izvornog CF pravila i izračunatog CFAKO za AKO stranu pravila odrediti novi faktor izvjesnosti CFC svakog pravila. n Ako je novi faktor izvjesnosti pravila manji od unaprijed postavljenog praga, to pravilo treba isključiti iz skupa za donošenje zaključka. 12

Predstavljanje nesavršenog znanja Činjenice: Određivanje izvornih faktora izvjesnosti pridruživanje CF svakoj činjenici je sasvim heuristički (npr. točnost mjerenja neke veličine, statistički iz povijesti itd. ). Pravila: Najčešće koristimo pojednostavljene uvjetne vjerojatnosti kao faktore izvjesnosti. AKO: E, TADA: H, P(H | E) (ovdje samo jedan član na AKO strani) gdje je P(H | E) uvjetna vjerojatnost da će se dogoditi H (hipoteza) ako se dogodio E (evidencija). Uvjetna vjerojatnost P(H | E) može semantički preuzeti ulogu faktora izvjesnosti CF pravila. Primjer iz medicine: Liječnik zna (iz svoje statistike) da je apriorna vjerojatnost meningitisa P(M), apriorna vjerojatnost ukrućenog vrata P(V), te vjerojatnost ukrućenog vrata kod dijagnosticiranog meningitisa P(V | M). Kolika je vjerojatnost meningitisa ako se pojavi pacijent s ukrućenim vratom ? P(M | V) je vjer. hipoteze uz evidenciju t. j. P(H | E), odnosno faktor izvjesnosti CF. P(M | V) = P(V | M) · P(M) / P(V) uz uporabu Bayesovog pravila 13

Predstavljanje nesavršenog znanja Određivanje izvornih faktora izvjesnosti Pravilo s više dijelova na AKO strani: AKO: E 1, E 2, . . . , Em, TADA: H, P(H | E 1, E 2, . . . , Em) Bayesovo pravilo daje: P(E 1, E 2, . . . , Em | Hk) P(H | E 1, E 2, . . . , Em) = ------------------P(E 1, E 2, . . . , Em) m istodobnih Em (simptoma) zahtijeva 2 m (svi podskupovi) apriornih vjerojatnosti. Eksponencijalna složenost nedopustiva. Redukcija složenosti: Ei su međusobno nezavisni (vrlo jako pojednostavljenje). P(E 1, E 2, . . . , Em | Hk) = P(E 1 | Hk) · P(E 2 | Hk) · … · P(Em | Hk) P(E 1, E 2, . . . , Em) = P(E 1) · P(E 2) · … · P(Em) P(E 1 | Hk) P(H | E 1, E 2, . . . , Em) = P(Hk) ------P(E 1) P(E 2 | Hk) P(Em | Hk) ------. . . ------P(E 2) P(Em) 14

Predstavljanje nesavršenog znanja Računanje s faktorima izvjesnosti (CF) Određivanje CF za aktivirano pravilo Činjenice: Pravilo: s faktorima izvjesnosti CF 1. . . CFn Faktor izvjesnosti pravila CFR. Novi faktor izvjesnosti pravila nakon slaganja svih članova na AKO strani s odgovarajućim činjenicama: CFC = CFR min[CF 1 , . . . , CFn] Odabere se minimalni CF temeljem slaganja parova činjenica s AKO dijelovima u pravilu. Dobiveni minimalni CF množi izvorni CFR pravila. Slijedi faktor izvjesnosti zaključka (TADA strane pravila) CF C. 15

Predstavljanje nesavršenog znanja Upis nove činjenice kao rezultat zaključivanja Npr. : Činjenica: F 1 , CFF 1 =0. 9 Pravilo: AKO F 1, TADA (F 2 uz CFF 2 = 0. 7) , CFR = 0. 8 Pravilo se aktivira (F 1 AKO F 1) i nova činjenica F 2 upisuje se u skup činjenica, ali sa promijenjenim faktorom izvjesnosti CF F 2 : CFF 2 = 0. 9 x 0. 7 x 0. 8 = 0. 504 16

Predstavljanje nesavršenog znanja Višestruki doprinos istoj hipotezi Pravilo može svojim zaključkom upisati činjenicu Fn (uz faktor izvjesnosti CFFn ) , koja već postoji u skupu činjenica kao F (uz faktor izvjesnosti (CFF ). (Vidi raniji primjer uz pretpostavku da je F 1 = F 2). Obnovljena (ista) činjenica dobiva novi faktor izvjesnosti: CF = max [ CFFn , CFF ] 17

Predstavljanje nesavršenog znanja Ekspertni sustav MYCIN (Stanford Univ. , 1984) i faktori izvjesnosti Činjenice: (sensitive organism-1 penicillin -1. 0) ; org-1 nije osjetljiv na pencl. Pravila: Ako: Tada: E 1, E 2, . . . , Ek H, CF ; niz evidencija ; izvjesnost hipoteze H CF - faktor izvjenosti (confidence factor), -1, 1 +1 - potpuna potvrda hipoteze -1 - potpuna potvrda negacije hipoteze 0 - početna izvjesnost hipoteze (niti je potvđena niti odbačena) 18

Predstavljanje nesavršenog znanja Ekspertni sustav MYCIN (Stanford Univ. , 1984) i faktori izvjesnosti MB(H, E) - MD(H, E) CF = -------------1 - min MB(H, E), MD(H, E) MB [0, 1] - mjera vjerovanja (measure of belief) u H zbog E MD [0, 1] - mjera nevjerovanja (measure of disbelief) u H zbog E Za jedan E: MB(H, E) = MD(H, E) = 1 max( P(H E), P(H) ) - P(H) ------------------1 - P(H) 1 min( P(H E), P(H) ) - P(H) ------------------ P(H), P(H E) su apsolutne i uvjetne vjerojatnosti ako P(H) = 1 inače ako P(H) = 0 inače 19

Predstavljanje nesavršenog znanja Ekspertni sustav MYCIN (Stanford Univ. , 1984) i faktori izvjesnosti Za više E: MB(H, Ei Ek) = MB(H, Ei) + MB(H, Ek) - MB(H, Ei) MB(H, Ek) Za više hipoteza Hi : MB(H 1 H 2, E) = min(MB(H 1, E), MB(H 2, E)) MB(H 1 H 2, E) = max(MB(H 1, E), MB(H 2, E)) Za MD, min se zamjenjuje sa max i obrnuto. Strategija upravljanja: ulančavanje unatrag Konjunkcija AKO strane: min operacijom uz empirički prag CF > 0. 2. Zaključak: <CF_ako_strane> * <CF_tada_strane> Kombinacija pravila (više pravila govore o istom H) npr. za dva CF: oba CF > 0: CFnovi = CF 1 + CF 2 - CF 1*CF 2 oba CF < 0: CFnovi = CF 1 + CF 2 + CF 1*CF 2 inače: CFnovi = (CF 1 + CF 2) / (1 - min CF 1 , CF 2 ) 20

Predstavljanje nesavršenog znanja Ekspertni sustav MYCIN (Stanford Univ. , 1984) i faktori izvjesnosti Problemi: 1) Npr. za više MB i jedan MD: MB(H, Ei)=0. 8 za i=1, . . . , 10 (10 dokaza u korist hipoteze) MD(H, E 11)=0. 2 (1 dokaz protiv hipoteze) MBuk(H, Ei) 0. 999 CF (0. 999 - 0. 2)/(1 -0. 2), te ostaje vrlo blizu toj vrijednosti ma koliko dokaza u korist hipoteze H (nije sukladno intuiciji) 2) P(H 1) = 0. 8, P(H 1 | E) = 0. 9 P(H 2) = 0. 2, P(H 2 | E) = 0. 8 Veća uvj. vjer. -> -> -> CF(H 1 | E) = 0. 5 CF(H 2 | E) = 0. 75 niži CF: kontradikcija 3) CF(H, e) = CF(H, i) * CF(i, e) P(H | e) P(H | i) * P(i | e) ; i = među-hipoteza ; u teoriji vjer. ne vrijedi 21

Predstavljanje nesavršenog znanja DEMPSTER - SHAFER (1970) teorija - DST Problemi teorije vjerojatnosti: Izražavanje neznanja: postoje 2 hipoteze: A, B, i nema drugih informacija. Po teoriji vjerojatnosti: P(A) = P(B) = 0. 5, te P(H)+P( H)=1 DST: nema potvrde za takvo rasuđivanje. Definiramo: Okvir rasuđivanja (spoznaje) U= Hi , hipoteze (potpun skup međusobno isključivih događaja). Neka je U = {H 1, H 2, H 3, H 4}. Po teoriji vjerojatnosti pridjeljuje se pojedinoj hipotezi tako da: pi = 1. DST pridjeljuje tzv. osnovne vjerojatnosti svim podskupovima od U (u našem primjeru postoji 16 podskupova) za koje postoji neka potvrda. Npr. : m(H 1) = 0. 3 m(H 2) = 0. 2 m(H 3) = 0. 1 m(H 1, H 3) = 0. 4 (H 1 ili H 3) m(Ai) = 0 za ostale podskupove jer za njih nema potvrde. m(Ai) = 1 uvjet konzistentnosti (ovdje 0. 3+0. 2+0. 1+0. 4) 22

Predstavljanje nesavršenog znanja DEMPSTER - SHAFER (1970) teorija – DST m(Ak) nije vjerojatnost jer za p(Ak), Ak jedan i samo jedan događaj. Definicije: Fokalni elementi: svi podskupovi Ai za koje m(Ai) > 0. Jezgra: unija svih fokalnih elemenata; ovdje {H 1, H 2, H 3. Primjer izražavanja neznanja: U = {A, B). Postoji događaj A ili B i nema drugih informacija. Teorija vjerojatnosti: p(A)=0. 5, p(B)=0. 5 DST: pridjeljujemo osnovne vjerojatnosti svim podskupovima: m(0) = 0 ; potvrđeno je da postoji barem jedan događaj m(A) = 0 ; nije potvrđeno da je A m(B) = 0 ; nije potvrđeno da je B m(A, B) = 1 ; sigurno je ili A ili B 23

Predstavljanje nesavršenog znanja DEMPSTER - SHAFER (1970) teorija – DST Def. funkcija vjerovanja (Bel, belief) u događaj A (A je podskup U): Bel(A) zbraja sve osnovne vjerojatnosti svih podskupova od A: Bel(A) = m(Bj) gdje su Bj svi podskupovi od A. Bel(A)=m(A) za pojedinačne elemente, dok je Bel(A)>m(A) inače. Npr. neke vrijednosti Bel za gornji slučaj: Bel(H 1) = m(H 1) = 0. 3 ; jednako osnovnoj vjerojatnosti Bel(H 1, H 3) = m(H 1, H 3)+m(H 1)+m(H 3) = 0. 4 + 0. 3 + 0. 1=0. 8 > m(H 1, H 3) Obilježja Bel: Bel(0) = 0, nema vjerovanja u prazan skup Bel(U) = 1, u potpunom skupu je sva istina (to je ujedno m(Ai)) Vjerovanje u negaciju hipoteze A, t. j. Bel( A): Neka je A=H 1, a A je sve osim A, t. j. sve osim H 1: Bel(A) = m(H 1) = 0. 3 Bel( A) = Bel(H 2, H 3, H 4) = m(H 2) + m(H 3) + 0 (ostali m) = 0. 2 + 0. 1= 0. 3 Bel(A) + Bel( A) 1 24

Predstavljanje nesavršenog znanja DEMPSTER - SHAFER (1970) teorija – DST Def. vjerodostojnost (plauzibilnost) A: Pl(A) = 1 - Bel( A) - to je maksimalno moguće vjerovanje u A Pl(A) - Bel(A) - neizvjesnost u A. Bel(A), Pl(A) - interval sigurnosti vjerovanja u A Primjeri: 0, 0 hipoteza je neistinita 1, 1 hipoteza je istinita 0. 3, 1 hipoteza je djelomično istinita 0, 1 nema dokaza u korist hipoteze 0, 0. 8 hipoteza je djelomično neistinita (0. 2 u korist neistinosti) 0. 2, 0. 7 ima dokaza da je hipoteza istinita (0. 2) i nestinita (0. 3) Sustav znanja s pravilima i DST indikatorima: Ako: E 1. . . En, Tada: H, Bel(H), Pl(H) Problem: eksponencijalan skup apriornog znanja. Npr. 100 zavisnih događaja, teorija vjer. : 2100 , DST: 2200. 25