Algoritmalar DERS 3 Bl ve FethetDivide and Conquer

Algoritmalar DERS 3 Böl ve Fethet(Divide and Conquer) • İkili arama • Sayı üstelleri • Fibonacci sayıları • Matriks çarpımı • Strassen’in algoritması September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 1

Böl-ve-hükmet tasarım paradigması 1. Problemi (anlık durumu) alt problemlere böl. 2. Altproblemleri özyinelemeli olarak çözüp, onları fethet. 3. Altproblem çözümlerini birleştir. September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 2

Birleştirme sıralaması 1. Bölmek: Kolay. 2. Hükmetmek: 2 altdiziyi özyinelemeli sıralama. 3. Birleştirmek: Doğrusal-zamanda birleştirme. September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 3

Birleştirme sıralaması 1. Bölmek: Kolay. 2. Hükmetmek: 2 altdiziyi özyinelemeli sıralama. 3. Birleştirmek: Doğrusal-zamanda birleştirme. T(n) = 2 T(n/2) + Θ(n) bölme ve birleştirme işi altprobl em boyutu altproblem sayısı September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 4

Master teoremi (hatırlatma) T(n) = a T(n/b) + f (n) URUM 1: f (n) = O(nlogba – ε), sabit ε > 0 ⇒ T(n) = Θ (nlogba). URUM 2: f (n) = Θ (nlogba) ⇒ T(n) = Θ (nlogba ). URUM 3: f (n) = Ω(nlogba + ε ), sabit ε > 0, düzenleyici koşul (regularity condition). ⇒ T(n) = Θ ( f (n)). September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 5

Master teoremi (hatırlatma) T(n) = a T(n/b) + f (n) URUM 1: f (n) = O(nlogba – ε), sabit ε > 0 ⇒ T(n) = Θ (nlogba). URUM 2: f (n) = Θ (nlogba) ⇒ T(n) = Θ (nlogba ). URUM 3: f (n) = Ω(nlogba + ε ), sabit ε > 0, düzenleyici koşul (regularity condition). ⇒ T(n) = Θ ( f (n)). Birleştirme sıralaması: a = 2, b = 2 ⇒ nlogba = nlog 22 = ⇒ DURUM 2 (k = 0) ⇒ T(n) n= Θ(n lg n) September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 6

İkili arama Sıralı dizide bir elemanını bulma: 1. Böl: Orta elemanı belirle. 2. Hükmet: 1 altdizide özyinelemeli arama yap. 3. Birleştir: Kolay. September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 7

İkili arama Sıralı dizide bir elemanını bulma: 1. Böl: Orta elemanı belirle. 2. Hükmet: 1 altdizide özyinelemeli arama yap. 3. Birleştir: Kolay. Örnek: 3 September 14, 2005 9' u bul. 5 7 8 9 12 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson 15 L 2. 8

İkili arama Sıralı dizide bir elemanını bulma: 1. Böl: Orta elemanı belirle. 2. Hükmet: 1 altdizide özyinelemeli arama yap. 3. Birleştir: Kolay. Örnek: 3 September 14, 2005 9'u bul. 5 7 8 9 12 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson 15 L 2. 9

İkili arama Sıralı dizide bir elemanını bulma: 1. Böl: Orta elemanı belirle. 2. Hükmet: 1 altdizide özyinelemeli arama yap. 3. Birleştir: Kolay. Örnek: 3 September 14, 2005 9'u bul. 5 7 8 9 12 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson 15 L 2. 10

İkili arama Sıralı dizide bir elemanını bulma: 1. Böl: Orta elemanı belirle. 2. Hükmet: 1 altdizide özyinelemeli arama yap. 3. Birleştir: Kolay. Örnek: 9'u bul. 3 September 14, 2005 5 7 8 9 12 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson 15 L 2. 11

İkili arama Sıralı dizide bir elemanını bulma: 1. Böl: Orta elemanı belirle. 2. Hükmet: 1 altdizide özyinelemeli arama yap. 3. Birleştir: Kolay. Örnek: 3 September 14, 2005 9'u bul 5 7 8 9 12 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson 15 L 2. 12

İkili arama Sıralı dizilimin bir elemanını bulma: 1. Böl: Orta elemanı belirle. 2. Hükmet: 1 altdizilimde özyinelemeli arama yap. 3. Birleştir: Kolay. Örnek: 3 September 14, 2005 9'u bul. 5 7 8 9 12 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson 15 L 2. 13

İkili arama için yineleme T(n) = 1 T(n/2) + Θ(1) altproblem sayısı altproblem boyutu bölme ve birleştime işi nlogba = nlog 21 = n 0 = 1 ⇒ DURUM 2 ⇒ T(n) = Θ (lg n). September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 15

Bir sayının üstellenmesi Problem: a n 'yi, n ∈ N iken hesaplama. Saf (Naive) algoritma: Θ(n). Böl-ve-fethet algoritması: a n/2 ⋅ a n/2 an= a (n– 1)/2 ⋅ a September 14, 2005 n çift sayıysa; n tek sayıysa. Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 17

Bir sayının üstellenmesi Problem: a n 'yi n ∈ N iken hesaplama. Saf (Naive) algorithm: Θ(n). Böl-ve-fethet algoritması: a n/2 ⋅ a n/2 an= a (n– 1)/2 ⋅ a n çift sayıysa; n tek sayıysa. T(n) = T(n/2) + Θ (1) ⇒ T(n) = Θ(lg n). September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 18

Fibonacci sayıları Özyinelemeli tanım: September 14, 2005 Copyright © 2001 -5 Erik D. Demaine

Fibonacci sayılarını hesaplama Aşağıdan yukarıya: • F 0, F 1, F 2, …, Fn'i sırayla, her sayı iki öncekinin toplamı olacak şekilde hesaplayın. • Yürütüm süresi: Θ(n). September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 21

Fibonacci sayılarını Aşağıdan yukarıya: hesaplama • F 0, F 1, F 2, …, Fn'i sırayla, her sayı iki öncekinin toplamı olacak şekilde hesaplayın. • Çalışma zamanı: Θ(n). Saf özyinelemeli kare alma (Naive recursive squaring): • Bu yöntem güvenilir değildir, yuvarlama hatalarına gebedir. September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 22

Özyineleme ile kare alma (Recursive squaring) September 14, 2005 Copyright © 2001 -5 Erik

Özyineleme ile kare alma September 14, 2005 Copyright © 2001 -5 Erik D. Demaine

Matrislerde çarpma Girdi A = [aij], B = [bij]. C = [cij] = A⋅

Standart algoritma for i ← 1 to n (i 1'den n'ye kadar) do for j ← 1 to n (j 1'den n'ye kadar) do cij ← 0 for k ← 1 to n do cij ← cij + aik⋅ bkj September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 28

Standart algoritma for i ← 1 to n (i 1'den n'ye kadar) do for j ← 1 to n (j 1'den n'ye kadar) do cij ← 0 for k ← 1 to n do cij ← cij + aik⋅ bkj Çalışma zamanı = Θ(n 3) September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 29

Böl-ve-fethet algoritması September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles

Böl-ve-Fethet algoritmasının çözümlemesi T(n) = 8 T(n/2) + Θ(n 2) altmatris sayısı altmatris boyutu September 14, 2005 altmatrisleri toplama işi Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 32

Böl-ve-Fethet algoritmasının çözümlemesi T(n) = 8 T(n/2) + Θ(n 2) altmatris sayısı nlogba altmatrisleri toplama işi altmatris boyutu = nlog 28 = n 3 ⇒ DURUM 1 ⇒ T(n) = Θ(n 3). September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 33

Böl-ve-Fethet algoritmasının çözümlemesi T(n) = 8 T(n/2) + Θ(n 2) altmatris sayısı nlogba altmatrisleri toplama işi altmatris boyutu = nlog 28 = n 3 ⇒ DURUM 1 ⇒ T(n) = Θ(n 3). Sıradan algoritmadan daha iyi değil. September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 34

Strassen’in fikri • 2× 2 matrisleri yalnız 7 özyinelemeli çarpmayla çöz. September 14, 2005

Strassen’in fikri • 2× 2 matrisleri yalnız 7 özyinelemeli çarpmayla çöz. P 1 P 2 P 3 P 4 P 5 P 6 P 7 = a ⋅ ( f – h) = (a + b) ⋅ h = (c + d) ⋅ e = d ⋅ (g – e) = (a + d) ⋅ (e + h) = (b – d) ⋅ (g + h) = (a – c) ⋅ (e + f ) September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 36

Strassen’in fikri • 2× 2 matrisleri yalnız 7 özyinelemeli çarpmayla çöz. P 1 P 2 P 3 P 4 P 5 P 6 P 7 = a ⋅ ( f – h) = (a + b) ⋅ h = (c + d) ⋅ e = d ⋅ (g – e) = (a + d) ⋅ (e + h) = (b – d) ⋅ (g + h) = (a – c) ⋅ (e + f ) September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 37

Strassen’in fikri • 2× 2 matrisleri yalnız 7 özyinelemeli çarpmayla çöz. P 1 P 2 P 3 P 4 P 5 P 6 P 7 = a ⋅ ( f – h) = (a + b) ⋅ h = (c + d) ⋅ e = d ⋅ (g – e) = (a + d) ⋅ (e + h) = (b – d) ⋅ (g + h) = (a – c) ⋅ (e + f ) September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 38

Strassen’in algoritması 1. Böl: A ve B'yi (n/2)×(n/2) 2. altmatrislere böl. + ve – kullanarak çarpılabilecek terimler oluştur. 2. Fethet: (n/2)×(n/2) altmatrislerde özyinelemeli 7 çarpma yap. 3. Birleştir: + ve – kullanarak (n/2)×(n/2) altmatrislerde C 'yi oluştur. September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 39

Strassen’in algoritması 1. Böl: A ve B'yi (n/2)×(n/2) 2. altmatrislere böl. + ve – kullanarak çarpılabilecek terimler oluştur. 2. Fethet: (n/2)×(n/2) altmatrislerde özyinelemeli 7 çarpma yap. 3. Birleştir: + ve – kullanarak (n/2)×(n/2) altmatrislerde C 'yi oluştur. T(n) = 7 T(n/2) + Θ(n 2) September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 40

Strassen'in çözümlenmesi T(n) = 7 T(n/2) + Θ(n 2) September 14, 2005 Copyright ©

Strassen'in çözümlenmesi T(n) = 7 T(n/2) + Θ (n 2) nlogba = nlog 27 ≈ n 2. 81 ⇒ DURUM 1 ⇒ T(n) = Θ(nlg 7). 2. 81 değeri 3'den çok küçük görünmeyebilir ama, fark üstelde olduğu için, koşma süresine etkisi kayda değerdir. Aslında, n ≥ 32 değerlerinde, Strassen’in algoritması günün makinelerinde normal algoritmadan daha hızlı çalışır. September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 43

Strassen'in çözümlenmesi T(n) = 7 T(n/2) + Θ (n 2) nlogba = nlog 27 ≈ n 2. 81 ⇒ DURUM 1 ⇒ T(n) = Θ(nlg 7). 2. 81 değeri 3' den çok küçük görünmeyebilir ama, fark üstelde olduğu için, yürütüm süresine etkisi kayda değerdir. Aslında, n ≥ 32 değerlerinde Strassen’in algoritması günün makinelerinde normal algoritmadan daha hızlı çalışır. Bugünün en iyi değeri (teorik merak açısından, Coppersmith– 2. 376. . . September 14, algorithm): 2005 Copyright © 2001 -5 Erik D. Demaine L 2. 44 Winograd Θ(n ). and Charles E. Leiserson

Sonuç • Böl ve Fethet algoritma tasarımının güçlü tekniklerinden sadece biridir. • Böl ve Fethet algoritmaları yinelemeler ve Ana (Master) metot kullanarak çözümlenebilir. (bu nedenle bu matematiğin pratiğini yapın). • Böl ve Fethet stratejisi genellikle verimli algoritmalara götürür. September 14, 2005 Copyright © 2001 -5 Erik D. Demaine and Charles E. Leiserson L 2. 45