Bilginin Gsterimi Bilgi nsan veya Makina Nasl anlayacaz

“Bilgi”’nin Gösterimi “Bilgi” İnsan veya Makina Nasıl anlayacağız? Yorumlama Öngörme Uygun yanıt verme Depolanmış enformasyon veya model Nasıl gösterimi oluşturacağız? Kurallar: (1) Benzer sınıflardan benzer girişler ağda benzer gösterimler oluşturmalı ve böylece aynı kategoriye ait olarak sınıflanmalı, (2) Farklı sınıflara ayrılacak nesnelere, ağda çok farklı gösterimler atanmalı, (3) Belirli bir özellik önemli ise ağda onun gösterimi ile görevlendirilen hücre sayısı daha fazla olmalı,

Benzerliğin bir ölçütü - Norm V vektör uzayı olmak üzere, aşağıdaki dört özelliği sağlayan fonksiyon : normdur

Gösterim için bir yol İşlem uygulayacağımıza göre nasıl ifade edebiliriz? Bir T harfi Bir L harfi

Öğrenme Süreçleri Ağın içinde bulunduğu ortamdan etkilenerek parametrelerini değiştirmesi işlemi öğrenmedir. Öğrenme şekli, parametrelerin nasıl değiştirildiği ile belirlenir. Öğrenme Süreçleri Eğiticili Öğrenme Eğiticisiz Öğrenme Pekiştirmeli Öğrenme Özdüzenlemeli Öğrenme

Eğiticili Öğrenme Ortam Eğitici + Eğitilen Sistem -

Eğitici ortam hakkında bilgiye sahip Eğitilen sistem ortam hakkında bilgiye sahip değil ağırlıklar Eğitilen sisteme ilişkin. . . eğitim kümesinde içerilen hata aracılığı ile değiştiriliyor bilgi ve. . . . Eğiticinin ortam hakkında sahip olduğu bilgi, eğitilen sisteme aktarılıyor Burada rahatsız edici bir şey var, ne?

Pekiştirmeli Öğrenme Eğitilen Sistem δ Kritik Değer Atama davranış Ödül r Ortam Öğrenme işleminin her adımında istenilen yanıtı sağlayan bir eğitici yok Eğitilen sistem, sonuçta elde edilecek yanıta erişmek için gerekli davranışı eleştiriyi gözönünde tutarak bulmak zorunda

Özdüzenlemeli Öğrenme Ortam Eğitilen Sistem Bilgiye sahip ya da eleştiride bulunan bir eğitici yok Eğitilen sistem girişlerin istatiksel dağılımını belirledikten sonra sınıflamayı oluşturuyor.

Genlikte Ayrık Algılayıcı-GAA (Perceptron) x 1 x 2 w 2 x 1 w 1 x 2 w 1 v xn 1 wn wn+1 y y xn 1 wn wn+1

Ancak Rosenblatt’ın 1954’de önerdiği yapı bundan farklı Giriş Katmanı x 1 w 2 x 1 w 1 Çıkış Katmanı x 2 w 1 w 2 y y xn 1 wn wn+1 wm xn Giriş Katmanı Birinci Katman Çıkış Katmanı Bağlantı ağırlıkları, Sabit ağırlıklar, eğitim kümesi ile sabit fonksiyonlar belirlenen tek bir nöron

Genlikte Ayrık Algılayıcı aslında • Girişlere doğrudan bağlı tek bir nöron değil • Birinci katman değişmeyen bir yapıya sahip • Çıkış katmanı, tek bir nörondan oluşan eğitilebilir Birinci katmanda farklı bir yapı. Peki Rosenblatt neden birinci katmana gerek duymuş? fonksiyonları oluşturup, öğrenme ile bunlar cinsinden çıkışta istenilen fonksiyonu ifade etmek Tanım: Doğrusal ayrıştırılabilir küme (Linearly separable set) X kümesi R tane Xi alt kümesinden oluşsun. g i ‘ler x’in doğrusal fonksiyonu olmak üzere ise Xi kümeleri doğrusal ayrıştırılabilir kümelerdir.

Tanımı anlamaya çalışalım. . . (-1, 1) (-1, -1) (1, -1) R=? g’leri yazalım Bu iki kümenin doğrusal ayrıştırılabilir olduğunu göstermek için ne yapmalıyız? ve sağlayan a, b ve c’ler bulunmalı bir çözüm:

Özellikle, örüntüleri farklı sınıflara ayıran düzlem olarak kullanılıyor. Tanım: Karar Düzlemi (Decision Surface) Kümeleri ayıran düzlem. Tek bir nöron ile neler yapılabilir? Nöron sayısını artırarak ne yapılabilir ne yapılamaz?

Rosenblatt’ın Genlikte Ayrık Algılayıcısında neler oluyor? Girişler Katman 1’in çıkışı Ne oldu? n-boyutlu Örüntü uzayı bir vektör (pattern space) bir örüntüyü Bu dönüşüm genel temsil ediyor olarak doğrusal değil (pattern) x 1 x 2 Genlikte Ayrık Algılayıcı için karar düzlemi: w 1 w 2 y ? ? ? Genlikte Ayrık Algılayıcı ancak katman 1’in görüntü uzayındaki Doğrusal Ayrıştırılabilir örüntüleri. . . ise iki sınıfa ayırır. w m xn

Soru: Katman 1’de m işlem birimine sahip bir GAA, katman 1 görüntü uzayınındaki P tane örüntüyü 2 sınıfa kaç türlü Burada işi ne? ayırabilir? Yanıt: Hatırlatma: Soru: Herhangi bir doğrusal karar düzleminin GAA ile hesaplanabilme olasılığı nedir? Yanıt: m büyük bir sayı ise 2(m+1)’den daha az sayıdaki örüntüyü doğru şekilde sınıflayabilir. 0 < P <2(m+1)

Katman 1 örüntüleri doğrusal ayrıştırılabilecekleri görüntü uzayına taşır. Doğrusal ayrıştırılamayan örüntüleri doğrusal ayrıştırılabilir kılmak iki türlü olasıdır: (i) m (ii) P XOR Genlikte Ayrık Algılayıcı ile ifade etmek: (0, 1) (1, 1) (0, 0) (1, 0) (0, 1, 1) (0, 1) (1, 1) (0, 0, 0) (1, 0, 1) (1, 0) P=4, n=2 İki girişli, tek nöronun kapasitesi: 2*3=6 Kapasite açısından uygun ama doğrusal ayrıştırılabilir değiller m mi P mi değişti?

m mi P mi değişti? Şimdi Genlikte Ayrık Algılayıcı ile biraz iş yapalım x 1 w 2 x 2 w 1 Verilenler: y xm 1 wm Eğitim Kümesi Amaç: İki sınıfa ayırmak wm+1 Gerçeklenebilme Koşulu: Eğitim kümesi doğrusal ayrıştırılabilir ise:

Eğitim kümesi doğrusal ayrıştırılabilir değil ise: Öğrenme Kuralı: öğrenme hızı <1 olan pozitif bir sayı