LEARNING VECTOR QUANTIZATION LVQ Jaringan Syaraf Tiruan Pertemuan

LEARNING VECTOR QUANTIZATION (LVQ) Jaringan Syaraf Tiruan Pertemuan Ke 10

Learning Vector Quantization (LVQ) • Suatu metode untuk melakukan pembelajaran pada lapisan kompetitif yang terawasi. Suatu lapisan kompetitif akan secara otomatis belajar untuk mengklasifikasikan vektor-vektor input. • Pada jaringan LVQ digunakan arsitektur jaringan kompetitif dimana pada lapisan kompetitif secara otomatis belajar untuk mengklasifikasikan vektor-vektor input.

Arsitektur Jaringan Saraf LVQ

Algoritma 1. Tetapkan : w, max. Iter, eps, α 2. Masukan : a. input x(m, n); m = jumlah input; n = jumlah data b. target(1, n). 3. Tetapkan kondisi awal : a. epoch = 0; b. err = 1;

Algoritma 4. Kerjakan jika (epoch<Max. Iter) atau (α>eps) a. epoch = epoch+1; b. kerjakan untuk i =1 sampai n i. tentukan j sedemikian hingga ||x-wj|| minimum ii. perbaiki wj dengan ketentuan : • jika t = cj maka : wj(baru) = wj(lama) + α(x-wj(lama)) • jika t ≠ cj maka : wj(baru) = wj(lama) - α(x-wj(lama)) c. kurangi nilai α

Contoh • Diketahui data 10 input vektor dalam 2 kelas adalah sebagai berikut : Data Ke- Vektor Kelas 1 (1, 0, 0, 0, 1, 0) 1 2 (0, 1, 1, 0) 2 3 (0, 0, 1, 0, 0, 1) 1 4 (0, 0, 1, 0) 1 5 (0, 1, 0, 0, 0, 1) 1 6 (1, 0, 1, 1) 1 z 7 (0, 0, 1, 1, 0, 0) 2 8 (0, 1, 0, 0) 2 9 (1, 0, 0, 1) 2 10 (0, 1, 1, 1) 2

Dua input pertama akan dijadikan sebagai inisialisasi bobot : Vektor (w) 1. 2. (1, 0, 0, 0, 1, 0) (0, 1, 1, 0) Kelas 1 2

Sedangkan 4 input sisanya : Vektor (x) 1. 2. 3. 4. 5. 6. 7. 8. (0, 0, 1, 0, 0, 1) (0, 0, 1, 0) (0, 1, 0, 0, 0, 1) (1, 0, 1, 1) (0, 0, 1, 1, 0, 0) (0, 1, 0, 0) (1, 0, 0, 1) (0, 1, 1, 1) Kelas 1 1 2 2 Akan digunakan sebagai data yang akan dilatih

Arsitektur jaringan saraf untuk contoh Sebagai nilai awal dipilih learning rate (α = 0. 05), dengan pengurangan sebesar 0. 1*α; dan maksimum epoch (Max. Epoch = 10).

Epoch ke-1: Data ke-1 : (0, 0, 1, 0, 0, 1)

Bobot ke-1 baru : w 11 = w 11 + α*(x 11 - w 11) = 1 + 0, 05*(0 -1) = 0, 9500; w 12 = w 12 + α*(x 12 - w 12) = 0 + 0, 05*(0 -0) = 0, 0000; w 13 = w 13 + α*(x 13 - w 13) = 0 + 0, 05*(1 -0) = 0, 0500; w 14 = w 14 + α*(x 14 - w 14) = 0 + 0, 05*(0 -0) = 0, 0000; w 15 = w 15 + α*(x 15 - w 15) = 1 + 0, 05*(0 -1) = 0, 9500; w 16 = w 16 + α*(x 16 - w 16) = 0 + 0, 05*(1 -0) = 0, 0500; Jadi w 1 = (0, 9500 0, 0000 0, 0500 0, 0000 0, 9500 0, 0500)

Epho ke 1 Data ke-2: (0, 0, 1, 0)

Bobot ke-1 baru : w 11 = w 11 + α*(x 21 - w 11) = 0, 95 + 0, 05*(0 -0, 95) = 0, 9025; w 12 = w 12 + α*(x 22 - w 12) = 0, 00 + 0, 05*(0 -0, 00) = 0, 0000; w 13 = w 13 + α*(x 23 - w 13) = 0, 05 + 0, 05*(1 -0, 05) = 0, 0975; w 14 = w 14 + α*(x 24 - w 14) = 0, 00 + 0, 05*(0 -0, 00) = 0, 0000; w 15 = w 15 + α*(x 25 - w 15) = 0, 95 + 0, 05*(1 -0, 95) = 0, 9525; w 16 = w 16 + α*(x 26 - w 16) = 0, 05 + 0, 05*(0 -0, 05) = 0, 0475; Jadi w 1 = (0, 9025 0, 0000 0, 0975 0, 0000 0, 9525 0, 0475)

Epho ke 1 Data ke-3: (0, 1, 0, 0, 0, 1)

Bobot ke-1 baru: w 11 = w 11 + *(x 31 – w 11) = 0, 9025 + 0, 05*(0 -0, 9025) = 0, 8574; w 12 = w 12 + *(x 32 – w 12) = 0, 0000 + 0, 05*(0 -0, 0000) = 0, 0500; w 13 = w 13 + *(x 33 – w 13) = 0, 0975 + 0, 05*(1 -0, 0975) = 0, 0926; w 14 = w 14 + *(x 34 – w 14) = 0, 0000 + 0, 05*(0 -0, 0000) = 0, 0000; w 15 = w 15 + *(x 35 – w 15) = 0, 9525 + 0, 05*(1 -0, 9525) = 0, 9049; w 16 = w 16 + *(x 36 – w 16) = 0, 0475 + 0, 05*(0 -0, 0475) = 0, 0951; Jadi: w 1 = (0, 8574 0, 0500 0, 0926 0, 0000 0, 9049 0, 0951)

Epho ke 1 Data ke-4: (1, 0, 1, 1)

Bobot ke-1 baru: w 11 = w 11 + *(x 41 – w 11) = 0, 8574 + 0, 05*(1 -0, 8574) = 0, 8645; w 12 = w 12 + *(x 42 – w 12) = 0, 0500 + 0, 05*(0 -0, 0500) = 0, 0475; w 13 = w 13 + *(x 43 – w 13) = 0, 0926 + 0, 05*(1 -0, 0926) = 0, 1380; w 14 = w 14 + *(x 44 – w 14) = 0, 0000 + 0, 05*(0 -0, 0000) = 0, 0000; w 15 = w 15 + *(x 45 – w 15) = 0, 9049 + 0, 05*(1 -0, 9049) = 0, 9096; w 16 = w 16 + *(x 46 – w 16) = 0, 0951 + 0, 05*(1 -0, 0951) = 0, 1404; Jadi: w 1 = (0, 8645 0, 0475 0, 1380 0, 0000 0, 9096 0, 1404)

Epho 1 Data ke-5: (0, 0, 1, 1, 0, 0) •

Bobot ke-2 baru: w 21 = w 21 + *(x 51 – w 21) = 0 + 0, 05*(1 -0) = 0, 0000; w 22 = w 22 + *(x 52 – w 22) = 1 + 0, 05*(0 -1) = 0, 9500; w 23 = w 23 + *(x 53 – w 23) = 1 + 0, 05*(1 -1) = 1, 0000; w 24 = w 24 + *(x 54 – w 24) = 1 + 0, 05*(0 -1) = 1, 0000; w 25 = w 25 + *(x 55 – w 25) = 1 + 0, 05*(1 -1) = 0, 9500; w 26 = w 26 + *(x 56 – w 26) = 0 + 0, 05*(1 -0) =

Epho ke 1 Data ke-6: (0, 1, 0, 0) •

Bobot ke-2 baru: • w 21 = w 21 + *(x 61 – w 21) = 0, 0000 + 0, 05*(0 -0, 0000) = 0, 0000; w 22 = w 22 + *(x 62 – w 22) = 0, 9500 + 0, 05*(1 -0, 9500) = 0, 9525; w 23 = w 23 + *(x 63 – w 23) = 1, 0000 + 0, 05*(0 -1, 0000) = 0, 9500; w 24 = w 24 + *(x 64 – w 24) = 1, 0000 + 0, 05*(1 -1, 0000) = 1, 0000; w 25 = w 25 + *(x 65 – w 25) = 0, 9500 + 0, 05*(0 -0, 9500) = 0, 9025; w 26 = w 26 + *(x 66 – w 26) = 0, 0000 + 0, 05*(0 -0, 0000) = 0, 0000; • Jadi: w 2 = (0, 0000 0, 9525 0, 9500 1, 0000 0, 9025 0, 0000)

Epho ke 1 Data ke-7: (1, 0, 0, 1) •

Bobot ke-1 baru: • w 11 = w 11 - *(x 71 - w 11) = 0, 8645 - 0, 0266*(1 -0, 8645) = 0, 8577; w 12 = w 12 - *(x 72 - w 12) = 0, 0475 - 0, 0266*(0 -0, 0475) = 0, 0499; w 13 = w 13 - *(x 73 - w 13) = 0, 1380 - 0, 0266*(0 -0, 1380) = 0, 1449; w 14 = w 14 - *(x 74 - w 14) = 0, 0000 - 0, 0266*(1 -0, 0000) = 0, 0500; w 15 = w 15 - *(x 75 - w 15) = 0, 9096 - 0, 0266*(0 -0, 9096) = 0, 9551; w 16 = w 16 - *(x 76 - w 16) = 0, 1404 - 0, 0266*(1 -0, 1404) = 0, 0974;

Epho ke 1 Data ke-8: (0, 1, 1, 1) •

Bobot ke- 2 baru: • w 21 = w 21 + *(x 81 - w 21) = 0, 0000 + 0, 05*(0 -0, 0000) = 0, 0000; w 22 = w 22 + *(x 82 - w 22) = 0, 9525 + 0, 05*(1 -0, 9525) = 0, 9549; w 23 = w 23 + *(x 83 - w 23) = 0, 9500 + 0, 05*(0 -0, 9500) = 0, 9525; w 24 = w 24 + *(x 84 - w 24) = 1, 0000 + 0, 05*(1 -1, 0000) = 1, 0000; w 25 = w 25 + *(x 85 - w 25) = 0, 9025 + 0, 05*(0 -0, 9025) = 0, 9074; w 26 = w 26 + *(x 86 - w 26) = 0, 0000 + 0, 05*(0 -0, 0000) = 0, 0500; • Jadi: w 2 = (0, 0000 0, 9549 0, 9525 1, 0000 0, 9074 0, 0500)

Epho ke 2 • Learning Rate 0. 05 pada epho ke 1 • Maka Learning Rate pada epho ke 2: • = - (0, 1 * ) = 0, 05 – (0, 1 * 0, 05) = 0, 045

Epho ke 2 s. d 10 • Proses tersebut diteruskan untuk epoch ke-2 sampai ke-10, untuk setiap data dengan menggunakan cara yang sama. Setelah mencapai epoch yang ke-10 diperoleh bobot akhir: • w 1 = (0, 3727 0, 2161 0, 6347 -0, 2164 0, 7981 0, 4254) • w 2 = (0, 0000 0, 7969 0, 7900 1, 0000 0, 5869 0, 2171)

Pengujian • Apabila kita ingin mensimulasikan input: (0, 1, 1, 0), maka kita cari terlebih dahulu jarak input tersebut dengan kedua bobot. Nomor dari bobot dengan jarak yang terpendek akan menjadi kelasnya. Pengujian menggunakan bobot hasil pelatihan. • w 1 = (0, 3727 0, 2161 0, 6347 -0, 2164 0, 7981 0, 4254) • w 2 = (0, 0000 0, 7969 0, 7900 1, 0000 0, 5869 0, 2171)

Pengujian

Selesai