Hebb Rule Training Algorithms Algoritma Pembelajaran Algoritma Pelatihan

Pengertian n n Training/pelatihan langkah penting. Prinsip: n n n Training menentukan bobot koneksi Algoritma training memodifikasi bobot koneksi. Jaringan sama, training bisa berbeda.

Jenis pelatihan n Unsupervised: n n Input diberikan, output tidak ditentukan. Supervised: n Input diberikan, output ditentukan.

Unsupervised n Cocok untuk: n Klasifikasi n Data mining

Klasifikasi n n Pola data diberikan diolah oleh JST salah satu neuron pada output layer aktif. Pola tersebut diklasifikasikan kepada neuron yang aktif tsb.

Contoh klasifikasi n Jaringan n Kohonen Input: dot/pixel pada gambar tulisan tangan. Output: 26 neuron mewakili alpabet. Jaringan Kohonen meng-klasifikasi input menjadi 26 klas.

Data Mining n Data sangat banyak mana informasi yg penting ? n JST mengelompokan kita mengambil informasi penting.

Supervised n n Output ditentukan sesuai harapan pelatih. Perbedaan output perhitungan dgn output harapan parameter modifikasi.

Contoh supervised n Backpropagation n Simulated annealing n Genetic algorithm

Error Calculation n n Error digunakan untuk mengukur seberapa tepat output yg diharapkan. Algoritma pelatihan berhenti bila: Error < nilai yg ditentukan n Looping (epoch) mencapai nilai yg ditentukan. n

Training Algorithm n n n Salah satu algoritma pelatihan yang terkenal adalah Hebb’s Rule. Dikembangkan oleh Donald Hebb untuk jenis pelatihan supervised. Hebbs rule ditulis secara matematis: adalah learning rate ai dan aj adalah aktifasi untuk setiap neuron

Heb Algorithms n n Step 0 Inisialisasi semua bobot: Step 1 Untuk setiap pasangan input-target (s: t), do Steps 2 -4: n Step 2 n Step 3 n Step 4 wi = 0 (i = 1 to n) Isi input dgn data pelatihan: xi = si (i = 1 to n) Isi output dgn data target: y=t Modifikasi bobot: wi(new) = wi(old) + xiy (i=1 to n) Modifikasi bias: b(new) = b(old) + y

Penyederhanaan n n W(new) = W(old) + W W = XY w 1 = x 1 t w 2 = x 2 t (t=target)

Contoh Aplikasi 1 x 1 b w 1 w 2 x 2 y

Gerbang AND INPUT TARGET x 1 x 2 1 t 1 1 1 0 0 0 1 0

Langkah Perhitungan INPUT x 1 x 2 TARGET 1 t Weights Weight changes w 1 w 2 b w 1 w 2 b 0 0 0 1 1 1 0 0 0 0 1 1 1 0 0 0 0 1 1 1

Hasil Akhir n Setelah pelatihan selesai, diperoleh: w 1 = 1 n w 2 = 1 n b = 1 n n Dengan hasil yg diperoleh tersebut, kemudian diadakan pengujian atau simulasi

Pengujian / simulasi n n Pengujian atau simulasi adalah memasukkan data input baru pada bobot koneksi hasil pelatihan. Kalau output sesuai dengan target, maka pelatihannya disebut sukses.

Contoh simulasi n Dari hasil pelatihan diperoleh: w 1 = 1 n w 2 = 1 n b = 1 n n Data baru misalnya x 1 = 1 dan x 2 = 0 maka:

U = (1)(1)+(0)(1)+1 U=2 Agar hasilnya sesuai dgn target maka nilai Ɵ harus dipilih secara cermat. Dalam kasus ini nilai Ɵ misalnya 3. Maka f(u) = f(2) = 0

Gerbang OR INPUT TARGET x 1 x 2 1 t 1 1 1 0 0 1 0

Langkah Perhitungan INPUT x 1 x 2 TARGET 1 Weights Weight changes t w 1 w 2 b w 1 w 2 b y x 1 y x 2 y 0 0 0 1 1 1 0 0 1 0 y

Diskusi kelompok n n Dgn Heb rule, hitunglah bobot koneksi dan nilai bias-nya. Tentukan nilai Ɵ agar jaringan berfungsi sbg gerbang OR.