Course Artificial Intelligence Effective Period September 2018 Probabilistic
Course : Artificial Intelligence Effective Period : September 2018 Probabilistic Reasoning over Time Session 13 1
Random Variable • A random variable is a variable whose value is unknown or a function that assigns values to each of an experiment's outcomes. • Ex: letter X may be designated to represent the sum of the resulting numbers after three dice are rolled. In this case, X could be 3 (1 + 1+ 1), 18 (6 + 6), or somewhere between 3 and 18, since the highest number of a die is 6 and the lowest number is 1. 2
Decision Theory • Decision theory = probability theory + utility theory Proposition=dalil, sesuatu, masalah 3
Decision Theory Axioma Probability: Axioma: pernyataan yang dapat diterima sebagai kebenaran tanpa pembuktian 4
Bayes Rule A doctor knows that the disease meningitis causes the patient to have a stiff neck, say, 50% of the time. The doctor also knows some unconditional facts: the prior probability of a patient having meningitis is 1/50, 000, and the prior probability of any patient having a stiff neck is 1/20. Letting S be the proposition that the patient has a stiff neck and M be the proposition that the patient has meningitis Stiff neck: leher kaku 5
Time and Uncertainty • How we estimate the probability of changing random variable? – When a car is broken, remains broken during the process diagnosis (static) – On the other hand, a diabetic patient has changing evidence (blood sugar, insulin doses, etc) (dynamic) • We view the world as a series of snapshots (time slices) – Xt denotes the set of state variables at time t – Et denotes the observable evidences at time t 6
Markov Chains • Model rantai markov dikembangkan oleh A. A Markov tahun 1896. • Dalam analisis markov yang dihasilkan adalah suatu informasi probabilistik yang dapat digunakan untuk membantu pembuatan keputusan. 7
Markov Chains We will use Xt to denote the set of state variables at time t, which are assumed to be unobservable, and Et to denote the set of observable evidence variables. The observation at time t is Et = et for some set of values et. 8
Markov Chains • Analisis Markov (Markov chains) sebenarnya merupakan bentuk khusus dari model probabilistic. Penggunaan analisis Markov terhadap suatu masalah memerlukan pengetahuan tentang 3 keadaan, yaitu keadaan awal, keadaan transisi, dan keadaan steady state. First-order Second-order 9
Time and Uncertainty First-order Second-order • First-order Markov chain: P(Xt | Xt-1) • Second-order Markov chain: P(Xt | Xt-2, Xt-1) • Sensor Markov assumption: P(Et | X 0: t, E 0: t-1) = P(Et | Xt) • Stationary process: transition model and sensor model fixed P (narik I mogok) = 0, 8, berarti peluang besok narik jika sekarang mogok adalah 0, 8 10
Manfaat Aplikasi Membantu membuat keputusan dalam bisnis dan industri • Ganti Merk • Hutang Piutang • Operasi Mesin • Analisis Pengawasan • etc Informasi yang dihasilkan tidak mutlak menjadi suatu keputusan, karena sifatnya yang hanya memberikan bantuan dalam proses pengambilan keputusan. 11
Time and Uncertainty • The complete joint distribution is the combination of the transition model and sensor model 12
13
Markov Chains • 14
Markov Chains • 15
Markov Chains • Example – A child with a lower-class parent has a 60% chance of remaining in the lower class, has a 40% chance to rise to the middle class, and has no chance to reach the upper class. – A child with a middle-class parent has a 30% chance of falling to the lower class, a 40% chance of remaining middle class, and a 30% chance of rising to the upper class. – A child with an upper-class parent have no chance of falling to the lower class, has a 70% chance of falling to the middle class, and has a 30% chance of remaining in the upper class. 16
Markov Chains • Example – Assuming that 20% of the population belongs to the lower class, that 30% belong to the middle class, and that 50% belong to the upper class. 17
Markov Chains • Example – Markov transition matrix – Markov transition diagram – Initial condition 18
Markov Chains • Solution – Illustrate, consider population dynamics over the next 4 generations is : 19
Inference in Temporal Model • Filtering 20
Hidden Markov Models Hidden states H 1 H 2 Hi HL-1 HL X 1 X 2 Xi XL-1 XL Observed data 21
Hidden Markov Models 0. 9 0. 1 fair transition probabilities loaded 0. 1 1/2 3/4 1/2 H H T emission probabilities 1/4 T Fair/Loaded H 1 H 2 Hi HL-1 HL X 1 X 2 Xi XL-1 XL Head/Tail 22
Dynamic Bayesian Network • To construct a DBN, we must specify three kinds of information: – The prior distribution over the state variables P(X 0) – The transition model P(Xt+1 | Xt) – The sensor model P(Et | Xt) 23
Dynamic Bayesian Network • Example – Monitoring a battery-powered robot moving in the X-Y plane – State: • State for position and velocity • Measurement state • Battery level state • Battery charge level state – Describe the relation between states! 24
Dynamic Bayesian Network Monitoring a battery-powered robot moving in the X-Y State: Measurements Zt 25
References • Stuart Russell, Peter Norvig. 2010. Artificial Intelligence : A Modern Approach. Pearson Education. New Jersey. ISBN: 9780132071482 26
Quiz Survei dilakukan di kota dengan 1000 keluarga. Diperoleh data 600 keluiarga pelanggan toserba “SERBA” dan 400 pelanggan toserba “ADA”. Pada bulan itu diketahui: 1. Dari 600 keluarga pelanggan “SERBA” diperoleh data bahwa 400 keluarga TETAP belanja di “SERBA” dan 200 lainnya berbelanja di toserba “ADA” 2. Dari 400 keluarga pelanggan “ADA, dinyatakan 150 keluarga TETAP berbelanja di toserba “Ada”. Sedagnkan 250 lainnya berbebalnja di toserba “SERBA” Hitung: a. Matriks probabilitas transisi untuk masalah di atas b. Probabilitas untuk took “SERBA dan “ADA” pada bulan ketiga apabila di bulan pertama keluarga tersebut memilih untuk berbelanja di took “SERBA” c. Probabilitas took “SER”AN dan “ADA” pada bulan ketiga apabila pada bulan pertama keluarga tersebut memilih untuk berbebalnja di took “ADA” d. Nilai probabilitas pelanggan dalam keadan tetap. e. Jumlah perkiraan pelanggan dalam jangka Panjang untuk masing 2 toser tersebut https: //socs. binus. ac. id/2013/06/30/markov-chain/ 27
Jawab a. Matrkis transisi untuk menghitung probabilitas: Probabilitas bulan pertama “SERBA” dan bulan kedua “SERBA”= 400/600=0. 667 Probabilitas bulan pertama “SERBA” dan bulan kedua “ADA”=200/600=0. 33 Probabilitas bulan pertama “ADA” dan bulan kedua “SERBA”=250/400=0. 625 Probabilitas bulan pertama “ADA” dan bulan kedua “ADA=150/400 Matrik transisi SERBA ADA SERBA 0. 667 0. 33 ADA 0. 625 0. 375 Keterangan: Baris pertama kolom pertama : Bulan pertama “Serba”, bulan kedua “Serba” Baris pertama kolom kedua : Bulan pertama “Serba”, bulan kedua “Ada” Baris kedua kolom pertama : Bulan pertama “Ada”, bulan kedua “Serba” Baris kedua kolom kedua : Bulan pertama “Ada”, bulan kedua “Ada” 28
• b. Apabila pada bulan pertama, keluarga tersebut memilih untuk berbelanja di toko “Serba” artinya keluarga tersebut pasti memilih untuk berbelanja di toko “Serba”, jadi probabilitas keluarga tersebut datang ke toserba “Serba” adalah 1, dan probabilitas keluarga tersebut datang ke toserba “Ada” adalah 0. Sehingga matriks probabilitas untuk bulan pertama adalah [ 1 0] Apabila dilakukan perkalian antara matriks probabilitas pada bulan pertama dengan matriks transisi pada kasus ini maka akan diperoleh data: 29
• Probabilitas pada bulan kedua yang diperoleh memiliki nilai yang sama dengan matriks transisi pada baris pertama. Tentu saja demikian, karena perhitungan yang dilakukan adalah matriks pada bulan pertama dengan matriks transisi yang dibentuk dari data probabilitas pada bulan kedua. • Kemudian, untuk menghitung probabilitas pada bulan ketiga adalah dengan mengoperasikan perkalian matriks antara matriks probabilitas bulan kedua dengan matriks transisinya. Sehingga diperoleh: Jadi diperoleh probabilitas bulan ketiga, apabila pada bulan pertama memilih di toko “Serba”, untuk toserba “Serba” adalah 0. 653, dan toserba “Ada” adalah 0. 347. NB: Ingat bahwa jumlah probabilitasnya harus selalu satu (1) 30
• c. Apabila pada bulan pertama, keluarga tersebut memilih untuk berbelanja di toko “Ada” artinya keluarga tersebut pasti memilih untuk berbelanja di toko “Ada”, jadi probabilitas keluarga tersebut datang ke toserba “Ada” adalah 1, dan probabilitas keluarga tersebut datang ke toserba “Serba” adalah 0. Sehingga matriks probabilitas untuk bulan pertama adalah: [1 0] Apabila dilakukan perkalian antara matriks probabilitas pada bulan pertama dengan matriks transisi pada kasus ini maka akan diperoleh data: 31
Sedangkan untuk probabilitas bulan ketiga: Jadi diperoleh probabilitas bulan ketiga, apabila pada bulan pertama memilih di toko “Ada”, untuk toserba “Serba” adalah 0. 651, dan toserba “Ada” adalah 0. 349 d. Menghitung probabilitas keadaan tetap bisa dilakukan dengan melakukan operasi perhitungan persamaan sebagai berikut: 32
d. Menghitung probabilitas keadaan tetap bisa dilakukan dengan melakukan operasi perhitungan persamaan sebagai berikut: Persamaan 1: Persamaan 2: Karena jumlah probabilitas adalah sa maka Persamaan 3: 33
• e. Jumlah perkiraan pelanggan dalam jangka panjang bisa dihitung dengan mengalikan probabilitas keadaan tetap dengan jumlah total pelanggannya Toserba “Serba” = 0. 652 * 1000 = 652 pelanggan Toserba “Ada” = 0. 348 * 1000 = 348 pelanggan 34
- Slides: 34