Hata Fonksiyonlar Lojistik Fonksiyon Huber Fonksiyonu Talvar Fonksiyonu
Hata Fonksiyonları Lojistik Fonksiyon ß ß Huber Fonksiyonu ß ß
Talvar Fonksiyonu ß ß
Verilerin Ölçeklenmesi Geri Ölçekleme Eğitim Kümesi Ölçeklenmiş Veri Ölçekleme Doğrusal Ölçekleme: Logaritmik Ölçekleme: YSA Eğitilmiş YSA modeli Ölçekleme
Son İpuçları • ‘ler büyük ise ağırlıkların değişim aralığı küçülür; fiziksel gerçeklemeye uygun olur. Ancak girişlerdeki gürültüye tolerans azalır. • Ağırlıklar başlangıçta aynı seçilirse, değişimleri de aynı olabilir. Dolayısıyla ağırlıklar yenilendiğinde aynı kalabilirler. Bunu engellemek için başlangıç ağırlıkları sıfıra yakın sayılardan rastgele seçilmeli. • Her katman eklendiğinde geriye yayılım algoritması yavaşlar. Bunu engellemek için girişten çıkışa doğrudan bağlantılar yapılabilir.
• Geriye yayılım algoritması “en dik iniş” ve gradyen yönteme dayalı olduğundan, bu yöntemi iyileştirici tüm teknikler geriye yayılım algoritmasını da iyileştirmek için kullanılabilir. • İkinci türevleri kullanan lineer olmayan yöntemlerinden herhangi biri de kullanılabilir. eniyileme SONLU ADIMDA GLOBAL MİNİMUMA YAKINSAMASI GARANTİ DEĞİLDİR.
T ve L harfini ayırt eden bir ağ Bu harfleri ağa nasıl sunacağız? 25 X 1 boyutlu vektörler ile
Bu verilerin yanı sıra bozuk veriler de verelim. .
Bir de test kümesi oluşturalım. . . Test kümesinde sağlam veriler ve eğitim kümesindekilerden farklı bozuk veriler olsun
Mahmut Meral, Lisans Bitirme Ödevi, 2003 Giriş – Çıkış Modeline göre Dinamik Sistem Tanıma F(. ) Giriş-Çıkış Eşleme Fonksiyonu y[n+1] Çıkış Giriş Vektörü NARX (nonlinear autoregressive with exogenous inputs) modeli
Mahmut Meral, Lisans Bitirme Ödevi, 2003 Giriş u(n) z-1 u(n-1) z-1 u(n-m) Çok Katmanlı Ağ F(. ) y(n-k) z-1 y(n-1) z-1 y(n) z-1 Çıkış y(n+1)
Mahmut Meral, Lisans Bitirme Ödevi, 2003 Giriş u(n) z-1 Nonlineer Sistem F(. ) y(n+1) z-1 e(n)=y(n+1)- ŷ(n+1) z-1 + + z-1 z-1 z-1 Çok Katmanlı Ağ ŷ(n+1)
Mahmut Meral, Lisans Bitirme Ödevi, 2003 Billings sistemi test sonuçları o- gerçek değer *- ağın çıkışı
Mahmut Meral, Lisans Bitirme Ödevi, 2003 Feigenhoum sistemi için bir adım sonrasının öngörümü o- gerçek değer *- ağın çıkışı
Mahmut Meral, Lisans Bitirme Ödevi, 2003 Feigenhoum sisteminin otonom davranışı o- gerçek değer *- ağın çıkışı
Mahmut Meral, Lisans Bitirme Ödevi, 2003 Çok katmanlı ağın çekicisi Gerçek sistemin çekicisi
Eğiticisiz Öğrenme Amaç: Veri kümesinin belirli özelliklerini, özniteliklerini sadece veri kümesinden yararlanarak belirlemek Öbekleme Vektör Kuantalama gaos. org/~schleif/lvq_schema. png http: //perception. csl. illinois. edu/gpca/introduction/clustering 2. gif Veri Tanımlama
Yarışmalı Öğrenme (Competitive Learning) Amaç: Verilen örüntüleri öbekleme Verilenler: n boyutlu p tane vektör Ağ Yapısı: Öğrenme Kuralı: Öğrenme kuralı amaca göre değişiyor; ancak kural nasıl konulursa konulsun yapılan iş: Kazananı bul Ağırlığını değiştir nöronlara ilişkin ağırlıklar Kazananı belirlemek için eğitim kümesindeki tüm veriler için Nasıl bir yapı? hesaplanmalı
Kazanan nöron’a ilişkin ağırlık Ağırlıkları Güncelleme: diğerleri Amaç: Sınıflandırma için belirlenen bölgelerin düzenlenmesi Özdenetimli öznitelik belirleyici http: //www. dma. fi. upm. es/mabellanas/tfcs/fvd/images/voronoi. gif Vektör Kuantalama Eğitici Sınıflar Bir uygulama Vektör Kuantalama:
- Slides: 18