Parallel Dalm lemci Parallel Distributed Processing psikolog matematiki
Parallel Dağılmış İşlemci (Parallel Distributed Processing) psikolog, matematikçi J. L. Mc Clelland, D. E. Rumelhart harf ve kelime algısına yönelik çok katmanlı yapı önerdiler, 1981 Parallel distributed processing: Explorations in the microstructure of cognition Rumelhart, D. E. , Mc. Clelland, J. L. (1986) MIT Press: Cambrige, Mass Çok katmanlı yapılar, öğrenme kuralları, bilişsel psikoloji ve bilime ilişkin uygulamaları içeriyor.
Parallel Dağılmış İşlemci (Parallel Distributed Processing) Geriye yayılım Learning representations by back-propagating errors David E. Rumelhart*, Geoffrey E. Hinton† & Ronald J. Williams* Nature, 1986. We describe a new learning procedure, back-propagation, for networks of neurone-like units. The procedure repeatedly adjusts the weights of the connections in the network so as to minimize a measure of the difference between the actual output vector of the net and the desired output vector. As a result of the weight adjustments, internal 'hidden' units which are not part of the input or output come to represent important features of the task domain, and the regularities in the task are captured by the interactions of these units. The ability to create useful new features distinguishes back -propagation from earlier, simpler methods such as the perceptron-convergence procedure 1.
Ağ Yapıları Nasıl Farklılaşabilir? İleri yol Geri besleme Yinelemeli ağlar-Recurrent Networks Dinamik yapılar Çıkışlarda geçmişe ait verilerin de katkısı var Kaotik davranış da dahil çok farklı davranışları modellemek mümkün http: //www. willamette. edu/~gorr/classes/cs 449/rnn 1. html
Uyarlanabilir Yankılaşım Teorisi (Adaptive Resonance Theory- Grossberg ) http: //cns. bu. edu/~steve/
A crucial metatheoretical constraint is to insist upon understanding the behavioral data –which comes to us as static numbers or curves on a page – as the emergent properties of a dynamical process which is taking place moment-by-moment in an individual mind. One also needs to respect the fact that our minds can adapt on their own to changing environmental conditions without being told that these conditions have changed. One thus needs to frontally attack the problem of how an intelligent being can autonomously adapt to a changing world. Knowing how to do this, as with many other theoretical endeavors in science, is presently an art form. There are no known algorithms with which to point the way. Whenever we have attempted this task in the past, we have resisted every temptation to use homunculi, or else the crucial constraint on autonomous adaptation would be violated. The result has regularly been the discovery of new organizational principles and mechanisms, which we have then realized as a minimal model operating according to only locally defined laws that are capable of operating on their own in real time. The remarkable fact is that, when such a behaviorallyderived model has been written down, it has always been interpretable as a neural network. These neural networks have always included known brain mechanisms. The functional interpretation of these mechanisms has, however, often been novel because of the light thrown upon them by the behavioral analysis. The networks have also typically predicted the existence of unknown neural mechanisms, and many of these predictions have been supported by subsequent neurophysiological, anatomical, and even biochemical experiments over the years. Stephen Grossberg 5
Grossberg ‘e göre: • Algılama ve Bilişe İlişkin Temel Problem: – İnsanlar içinde bulundukları ortamın değişmez özelliklerini nasıl keşfediyor, öğreniyor ve tanıyor ? – Yaşam boyunca sürekli öğrenmeyi nasıl başarıyoruz ?
Yöntem Psikolojik postülalar Bu postülaları gerçekleyen minimum ağ yapısı bulunur Gerçeklenen ağın psikolojik ve nöral yetenekleri test edilir Daha ayrıntılı postülalar bulunur Yapılamayanların bulunması, gereken yeni psikolojik temeli gösterecektir
• Adaptif Rezonans Teorisi (ART) • Klasik şartlanma çalışmalarına dayanır • Sağlam matematiksel altyapı • Gerçek zamanda gerçek dünya verileri ile çalışma yeteneği • Temel düşünce birçok olayı açıklamak için genişletilerek yeni yapılar önerilmiştir
ART nasıl çalışıyor? Dikkat Altsistemi F 2 Kısa Süreli Bellek Yönlendirme Altsistemi Uzun Süreli Bellek Kontrol Birimi F 1 Kısa Süreli Bellek Giriş Mete Balcı, 2005 -2007 Nevroz Aslan, Bitirme Ödevi, 2003 Kontrol Birimi
Tüm bunlar nasıl yapılıyor? Mete Balcı, 2005 -2007 Nevroz Aslan, Bitirme Ödevi, 2003 I
Bir örnek
• Bilişsel Bilim – Neokorteks Hippokampüs – LGN (Lateral Geniculate Nucleus) Görsel Korteks • Mühendislik – Örüntü Sınıflandırma
Denetleyici Dikkat Sistemi Supervisory Attentional System D. A. Norman, T. Shallice tarafından 1980/1986 yıllarında önerilen, yönetimsel fonksiyonların bilişsel süreçleri kontrol eden ve yönlendiren bilişsel süreçler olduklarına ilişkin model. Model ile ADHD, Şizofreni, Parkinson gibi hastalıklar, frontal lob hasarlarındaki davranış bozuklukları için incelemeler yapılmıştır. http: //en. wikipedia. org/wiki/Supervisory_attentional_system#mediaviewer/File: Graphical_representation_of_the_Norman_%26_Shallice_model. png 16
D. A. Norman, T. Shallice, «Hierarchical Schemas and Goals in the Control of Sequential Behavior, » , 2006 . 17
. R. P. Cooper, T. Shallice, «Attention to action: willed and automatic control of behavior, » , 1986 18
Wisconsin Kart Sıralama Testi WCST • soyutlama, Referans kartlar • hipotez sınama, • zihinsel esneklik.
WCST-Testin Değerlendirilmesi • Doğru yanıtlar • Tamamlanan kategoriler • Perseveratif (ısrarcı) yanıtlar • Kurulumu sürdürmede başarısızlık (FMS)
WCST- önerilen model • Kuralın belirlenmesi Sınıflama kuralını belirlemek Uygulayıcının yanıtı “doğru” ise kuralı tutmak, “yanlış” ise kuralı değiştirmek • Kart Seçimi Sınıflama kuralına uygun referans kartı belirlemek
Referans Kartlar Kart belirleme Çalışma belleği Bir önceki kuralı tutmak veya yeni kuralı belirlemek için uygulayıcının yanıtını tutmak Rule Specifier Hipotez üreteci Uygulayıcının yanıtı”yanlış” ise alternatif kural üretme ve çalışma belleğine sunma Hypothesis Generator
Kartların kodlanması Renk 23 Şekil Sayı Kırmızı: [1000] Üçgen: [1000] 1: [1000] Sarı Yıldız : [0100] 2: [0100] Mavi : [0010] Artı : [0010] 3: [0010] Yeşil : [0001] Daire : [0001] 4: [0001] : [0100] renk şekil sayı
Benzetim Sonuçları Koşul 24 Ham. uzak Hop. eşik #Doğru cevap #Kategori % Pers. hata FMS Yorum 1 3 T 64. 6 3. 5 6. 0 0 9. 9 2. 8 0 0 Esnek 4 3 -2 T 64 1. 8 6. 0 0 9. 5 2. 1 0 0 Esnek 7 2 T 67. 6 3. 7 6. 0 0 14. 2 4. 6 0 0 Az Esnek 10 2 -1 T 70. 7 5. 5 6. 0 0 17. 9 3. 7 0 0 Az Esnek 2 3 T 1 73. 7 6. 1 1. 1 0. 5 19. 7 2. 9 3. 2 1. 6 Zihni dağınık 5 3 -2 T 1 75. 9 6. 1 1. 6 1. 0 17. 7 3. 4 2. 7 1. 3 Zihni dağınık 8 2 T 1 66. 3 9. 1 0. 4 0. 5 24. 6 4. 9 2. 6 2. 1 Katı/Dağ. 11 2 -1 T 1 73. 2 6. 3 1. 3 0. 5 21. 2 5. 0 2. 4 1. 2 3 3 T 2 66. 2 8. 4 0. 3 0. 5 26. 5 6. 4 2. 4 1. 8 Katı/Dağ. 6 3 -2 T 2 72. 6 7. 9 0. 8 25. 9 6. 2 3. 1 1. 7 Katı/Dağ. 9 2 T 2 66. 7 9. 9 0. 5 0. 7 27. 9 8. 6 2. 0 1. 5 Katı/Dağ. 12 2 -1 T 2 59. 8 6. 3 0. 1 0. 3 29. 1 6. 9 2. 0 0. 9 Katı/Dağ. 14 1 T 1 58. 8 6. 9 1. 1 0. 4 32. 4 6. 2 1. 1 0. 6 Katı 17 0 T 1 31. 5 4. 7 0 0 38. 6 4. 8 0 0 Katı 15 1 T 2 61. 9 8. 3 0 0 27. 7 6. 8 2. 4 1. 2 Katı 18 0 T 2 30. 4 4. 1 0 0 39. 4 3. 5 0 0 Katı 13 1 T 39. 4 0. 5 1. 0 0 67. 8 0. 5 0 0 Çok Katı 16 0 T 32. 8 2. 5 0. 1 0. 3 73. 0 1. 5 0 0 Çok Katı/Dağ.
- Slides: 24