ALOGORYTMY EWLUCYJNE FITNESS F COMPUTATION START FITNESS F

ALOGORYTMY EWLUCYJNE FITNESS F. COMPUTATION START FITNESS F. COMPUTATION INITIAL SUBPOPULATION SENDING CHROM. TO COMPUTERS AND RECEIVING FITNESS F. VALUE chromosome EVOLUTIONARY OPERATORS fitness f. value MIGRATION PHASE FITNESS F. COMPUTATION communication with other subpopulations SELECTION YES TERMINATION CONDITION NO END 1

LITERATURA: 1. Arabas J. , Wykłady z algorytmów ewolucyjnych, WNT, Warszawa, 2003 2. Michalewicz Z. , Algorytmy genetyczne + struktury danych = programy ewolucyjne, WNT, Warszawa, 1996 3. Goldberg D. E. , Algorytmy genetyczne i ich zastosowania, WNT, Warszawa, 2003 (1989) 4. L. Rutkowski, Metody i techniki sztucznej inteligencji, PWN, Warszawa, 2006 2

OPTYMALIZACJA: „działanie, mające na celu zwiększenie efektywności aż do osiągnięcia pewnego optimum”. • CEL GŁÓWNY: ULEPSZENIE. • CEL DRUGORZĘDNY: OSIĄGNIĘCIE OPTIMUM. 3

METODY OPTYMALIZACJI ANALITYCZNE PRZEGLĄDOWE LOSOWE (enumeracyjne) pośrednie bezpośrednie Metody analityczne bezpośrednie: • Poruszanie się po wykresie funkcji w kierunku wyznaczonym przez lokalny gradient (wspinaczka po najbardziej stromym zboczu z możliwych). 4

Metody analityczne pośrednie: • Poszukiwanie ekstremów lokalnych poprzez rozwiązanie układu równań (zwykle nieliniowych), otrzymanych poprzez przyrównanie gradientu funkcji celu do zera. • Dla funkcji gładkich, określonych na obszarze otwartym, poszukiwanie ekstremum można ograniczyć do zbioru punktów, w których nachylenie stycznej do wykresu jest równe zero w każdym kierunku. 5

ZALETY METOD ANALITYCZNYCH: • mają solidne podstawy matematyczne; • są szeroko stosowane. GŁÓWNA WADA METOD ANALITYCZNYCH: MAŁA ODPORNOŚĆ: 6

Funkcja trudna do optymalizacji metodami analitycznymi: 7

Funkcja niemożliwa do optymalizacji metodami analitycznymi: f(x) x 8

Czasem maksimum globalne nie jest pożądane: Preferowane są czasem rozwiązania, których otoczenie przyjmuje wartości bliskie temu ekstremum a nie te, dla których niewielkie oddalenie się od ekstremum powoduje gwałtowny spadek wartości funkcji. Np: w przypadku inwestycji kapitałowych, by nie ryzykować straty z powodu niezbyt precyzyjnie zdefiniowanej funkcji, bądź nieznacznej zmiany jakiegoś parametru funkcji. 9

METODY ENUMERACYJNE: • Sprowadzają się do przeszukiwania wszystkich punktów przestrzeni w poszukiwaniu optimum. • Algorytm niezwykle prosty lecz skuteczny jedynie w przypadku skończonych, małych przestrzeni. • Zwykle sprawdzenie wszystkich możliwości jest niemożliwe w rozsądnym czasie (tzw. przekleństwo wymiaru). 10

METODY LOSOWE: • W swej najprostszej postaci: bada się losowo całą przestrzeń zadania nie korzystając z innych informacji. • Poszukiwanie takie jest zwykle bardzo czasochłonne (zwykle jednak mniej niż metody enumeracyjne). Algorytmy genetyczne i ewolucyjne również zawierają element losowości (algorytm zrandomizowany). 11

EFEKTYWNOŚĆ 1 ideał. . . Metoda odporna Metoda wyspecjalizowana (analityczna) Metoda enumeracyjna, błądzenie przypadkowe 0 kombinatoryczny dyskretny jednomodalny wielomodalny PROBLEM 12

RODZAJE ZADAŃ OPTYMALIZACJI (w zależności od przestrzeni poszukiwań) Optymalizacja parametryczna (punkt x U jest wektorem zm. niezależnych): 1. Zadania ciągłe (przestrzeń poszukiwań jest iloczynem kartezjańskim zbioru liczb rzeczywistych U=Rn ). - wypukłe (zbiór dopuszczalny i f. celu są wypukłe); - optymalizacji globalnej (zb. dopuszczalny lub f. celu jest niewypukła). 13

2. Zadania dyskretne (wartości zm. należą do zbioru dyskretnego – skończonego lub przeliczalnego). 3. Zadania kombinatoryczne (każda ze zmiennych przyjmuje wartość logiczną). 4. Zadania mieszane. Stopień skomplikowania zadania zależy od: - postaci funkcji celu; - kształtu obszaru dopuszczalnego. Jeśli funkcja celu i zbiór dopuszczalny są wypukłe, to istnieje dokładnie jedno minimum funkcji. 14

OGRANICZENIA FUNKCJI CELU (za: J. Arabas) kostkowe wypukły obszar dop. niewypukły obszar dop. niespójny obszar dop. 15

MINIMA LOKALNE x 2 f(x) minimum funkcji bez ograniczeń obszar dopuszczalny MINIMA LOKALNE MINIMUM GLOBALNE minima funkcji z ograniczeniami 0 x funkcja z min. lokalnymi 0 x 1 min. lokalne wynikające z niewypukłości zb. ograniczającego (za: J. Arabas) 16

METODY ANALITYCZNE kontra AG METODY ANALITYCZNE ZALETY WADY ŚCISŁE ROZWIĄZANIE Funkcja celu musi być ciągła Hesjan funkcji celu musi być WYSOKA SZYBKOŚĆ dodatnio określony DZIAŁANIA Istnieje duże ryzyko zbiegnięcia się algorytmu do optimum lokalnego Obliczenia rozpoczynają się z jednego punktu ograniczając obszar poszukiwań optimum Wybór punktu startowego wpływa na zbieżność metody 17

METODY ANALITYCZNE kontra AG ALGORYTMY GENETYCZNE WADY ZALETY JEDYNĄ INFORMACJĄ POTRZEBNĄ DO DZIAŁANIA JEST WARTOŚĆ FUNKCJI CELU PRACA NA POPULACJI DOPUSZCZALNYCH ROZWIĄZAŃ L L Stosunkowo wolne Trudności z precyzyjnym znalezieniem optimum PRZESZUKIWANIE WIELOKIERUNKOWE 18

Karol Darwin (1859 „On the origin of species”): • Na świat przychodzi dużo więcej potomstwa, niż może pomieścić środowisko. • Przeżywają nieliczni, ale za to najlepsi (selekcja naturalna). 19

• Ewolucja przez dobór naturalny oznacza, że przeżywają i rozmnażają się osobniki najlepiej przystosowane do warunków środowiska. • Wynik przystosowania zależy od: - organizmu; - środowiska. 20

Gregor Johann Mendel (1822 -1884) - austriacki zakonnik, augustianin, prekursor genetyki. • Sformułował podstawowe prawa dziedziczenia (3 prawa Mendla), przeprowadzając badania nad krzyżowaniem roślin, głównie grochu jadalnego. 21

• W procesie ewolucji istotne jest zachowywanie różnorodności cech. • Siła ewolucji to nie zaawansowany proces doskonalenia jednostki, lecz utrzymywanie dużej liczby różnorodnych osobników (tzw. populacji), która ewoluuje jako całość. • W procesie krzyżowania cechy osobników mieszają się, mogąc dawać kombinacje cech dotąd nie występujące. • Mutacja pozwala na powstanie osobników niemożliwych do uzyskania poprzez krzyżowanie. 22

AG – CO TO JEST? • AG odwzorowują naturalne procesy ewolucji zachodzące w czasie. • Celem tych procesów jest maksymalne dopasowanie osobników do istniejących warunków życia. • Rolę środowiska spełnia tu funkcja oceniająca (funkcja celu). 23

• Łączą w sobie ewolucyjną zasadę przeżycia najlepiej przystosowanych osobników z systematyczną, choć zrandomizowaną wymianą informacji. • Pomimo elementu losowości AG nie błądzą przypadkowo, lecz wykorzystują efektywnie przeszłe doświadczenia. 24

John H. Holland, 1975: „Adaptation in Natural and Artificial Systems”: • Koncepcja algorytmu przeszukiwania opartego na zasadzie doboru naturalnego. • Procedurę probabilistycznego przeszukiwania dyskretnej przestrzeni stanów nazwał algorytmem genetycznym. 25

AG - TERMINOLOGIA 100011011 • gen – najmniejsza składowa chromosomu, decydująca o dziedziczności jednej lub kilku cech; • chromosom – uporządkowany ciąg genów (ciąg kodowy). Zwykle utożsamiany z osobnikiem; • locus – miejsce genu w chromosomie; • allel – wariant (stan) jednego genu warunkujący daną cechę; • populacja – pewna ilość osobników (chromosomów); 26

AG - TERMINOLOGIA 100011011 • genotyp – ogół genów danego osobnika; • fenotyp – ogół cech ujawniających się na zewnątrz (np. rozkodowana postać zmiennych projektowych); • mutacja – zmiana jednego lub kilku genów w chromosomie; • krzyżowanie – operacja mająca na celu wymianę materiału genetycznego między osobnikami. 27

ALGORYTMY NAŚLADUJĄCE PROCESY ZACHODZĄCE W NATURZE: • algorytmy genetyczne; • programowanie ewolucyjne (ewoluujące automaty); • programowanie genetyczne; • strategie ewolucyjne; • sieci neuronowe; • algorytmy mrówkowe; • algorytmy immunologiczne. 28

ZASTOSOWANIA PRAKTYCZNE AG (i AE): • harmonogramowanie; • wyznaczanie trasy połączeń kablowych; • sterowanie adaptacyjne; • rozgrywanie gier; • zadanie plecakowe; • zadanie komiwojażera; • sterowanie optymalne; • optymalizacja obsługi pytań w bazach danych; 29

• nieliniowe systemy dynamiczne – analiza danych; • przewidywanie; • projektowanie sieci neuronowych: architektury i wagi; • poruszanie robotem; • tworzenie programów; • planowanie; • znajdowanie kształtu molekuł białek; • tworzenie grafik i muzyki; • . . . 30

JAK DZIAŁA AG • Generowanie (zwykle losowo) populacji początkowej. • Ocena każdego osobnika na podstawie pewnej miary jego dopasowania • Każda następna iteracja (pokolenie) t : 1. Selekcja najlepszych osobników z pokolenia t-1 2. Transformacja z zastosowaniem operatorów genetycznych 31

SCHEMAT DZIAŁANIA AG: procedure algorytm_genetyczny begin t: =0 wybierz populację początkową P(t) oceń P(t) while (not warunek_zakończenia) do begin t: =t+1 wybierz P(t) z P(t-1) (selekcja) zmień P(t) (działanie operatorów genetycznych) oceń P(t) end 32

AG MUSI MIEĆ OKREŚLONE (DLA KAŻDEGO ZADANIA): 1. Podstawową reprezentację zmiennych potencjalnego zadania; 2. Sposób tworzenia początkowej populacji potencjalnych rozwiązań; 3. Funkcję oceniającą rozwiązania; 4. Podstawowe operatory; 5. Wartości różnych parametrów (rozmiar populacji, prawdopodobieństwa użycia operatorów gen. itp. ) 33

Przykład Znaleźć: max { f (x)=x 2} dla wartości całkowitych x z zakresu 0 -31. Populacja w chwili t: P(t)= {xt 1, . . . xtn); Założenia: - łańcuchy 5 -bitowe (x=0, 1, . . . , 31); - liczebność populacji n=4. 34

Ścisłe rozwiązanie: x= 1 1 1 x = 31; x 2 = 961. Populacja początkowa (losowanie): x 01 = 1 1 0 0 0 x 02 = 0 1 1 x 03 = 0 1 0 0 0 x 04 = 1 0 0 1 1 35

Sytuacja początkowa: Wartość Przystosowanie Prawd. wylosowania Oczekiwana osobnika liczba kopii Nr osobnika Osobnik 1 11000 24 576 0. 51 2. 05 2 01011 11 0. 43 3 01000 8 0. 06 0. 23 4 10011 19 121 64 361 0. 32 1. 27 Suma 1122 1. 00 4. 00 Średnia 281 0. 25 1. 00 Max 576 0. 51 2. 05 x f(x)=x 2 36

Selekcja: Metoda koła ruletki Każdemu ciągowi kodowemu odpowiada sektor koła ruletki o polu proporcjonalnym do przystosowania: <0, 0. 51) 1, <0. 51, 0. 62) 2, . . . 37

Po selekcji: Oczekiwana liczba kopii Liczba wylosowanych kopii Osobnik po selekcji Wartość Przystosowanie x f(x)=x 2 Prawd. wylosowania osobnika 1 2. 05 2 11000 24 576 0. 35 2 0. 43 1 11 0. 23 0 24 121 576 0. 07 3 01011 11000 4 1. 27 1 10011 19 361 0. 23 Suma 1634 1. 0 Średnia 409 0. 25 Max 576 0. 35 (x 2) Nr osobnika 0. 35 38

Krzyżowanie: jedno-punktowe 39

Krzyżowanie: wielo-punktowe 40

Krzyżowanie: pc = 0. 9 Partner Punkt krzyżowania Osobnik po krzyżowaniu 11000 2 4 2 01011 1 3 11000 4 10011 Osobnik po selekcji 1 Nr osobnika Wartość Przystosowanie x f(x)=x 2 Prawd. wylosowania osobnika 11001 25 625 0. 36 4 01010 10 0. 06 4 2 11011 27 100 729 3 2 10000 16 0. 15 Suma 256 1710 Średnia 428 0. 25 Max 729 0. 43 1. 0 było: 576 41

Mutacja: 42

Mutacja: pm = 0. 05 Osobnik po Nr osobnika krzyżow aniu Mutacja? Osobnik po mutacji Wartość Przystosowanie x f(x)=x 2 Prawd. wylosowania osobnika 1 11001 NNNNN 1 1 0 0 1 25 625 0. 35 2 01010 10 11011 27 100 729 0. 06 3 NNNNN 0 1 0 NNNNN 1 1 0 1 1 4 10000 NNNTN 1 0 0 18 324 0. 18 Suma 1778 1. 0 Średnia 447 0. 25 Max 729 0. 41 było: 729 43

44

Rozpatrywać można zawsze zadanie maksymalizacji: g (x ) = - f (x ) min f (x) = max g(x) = max{-f (x)} Zakłada się również, iż funkcja jest dodatnia w całej dziedzinie (selekcja!) max g(x) = max{g(x )+C} (jeśli g(x) jest ograniczona z dołu) 45

C 46

KODOWANIE LICZB RZECZYWISTYCH Założenia: • f (x 1, . . . xk): Rk→R • Di = [ai, bi] R • f (x 1, . . . xk) > 0 dla każdego xi Di • dokładność do c liczb znaczących po przecinku Wykonanie: 1. Podział Di = [ai, bi] na r = (bi - ai) 10 c podprzedziałów. 2. Wyznaczenie najmniejszej liczba całkowitej m: (bi - ai) 10 c 2 m – 1 47

ODKODOWYWANIE: 1. Przekształcenie łańcucha binarnego o długości m na liczbę dziesiętną x’; 2. Obliczenie rzeczywistej wartości liczby: 48

Przykład: f (x) = x sin(10 p x) +1 max{ f (x)} x [-1, 2] • Liczba miejsc po przecinku: c = 6 • Dziedzina funkcji: Na ilu bitach trzeba zakodować liczbę (wyznaczenie m)? 49

ai = -1; bi = 2; c = 6 liczba podprzedziałów: r = (bi - ai) 10 c = 3· 106 (bi - ai) 10 c 2 m – 1 [2 - (-1)] 106+1 = 3 000 001 2 m 2 097 152 = 221 3 000 001 222 = 4 194 304 m = 22 50

Mając ciąg bitów: 110010101010101 Odkodowywanie: 1. Przekształcenie łańcucha na liczbę dziesiętną x’: x =3319125 2. Obliczenie rzeczywistej wartości liczby: =1. 374025 ai = -1; bi = 2; c = 6 51

000000000000 x = 0 11111111111 x = 4194303 ai = -1; bi = 2 52

Przykład: f (x) = 21. 5 + x 1 sin(4 px 1) + x 2 sin(20 px 2) max{f (x 1, x 2)} • x 1 [-3. 0, 12. 1] • x 2 [4. 1, 5. 8] • c 1 = c 2 = 4 53

r 1 = (b 1 - a 1) · 10 c = 15. 1· 104 x 1: 15. 1· 104 2 m – 1 131 032 = 217 151 001 218 = 262 144 m 1 = 18 r 2 = (b 2 - a 2) · 10 c = 1. 7· 104 x 2: 1. 7· 104 2 m – 1 16 384 = 214 17 001 215 = 32 768 m 2 = 15 m = m 1 + m 2 = 33 110010101100111010101 54

Inne metody kodowania: Kodowanie logarytmiczne β[bin] α (-1) 2 [αβbin]2=(-1) e Pierwszy bit α jest bitem znaku funkcji wykładniczej Drugi bit β jest bitem znaku wykładnika funkcji wykładniczej Pozostałe bity bin reprezentują wykładnik funkcji wykładniczej 55

Inne metody kodowania: Kodowanie logarytmiczne Za pomocą 5 bitów można zakodować liczby z przedziału [-e 7, e 7] Stosowane w celu zmniejszenia długości chromosomów w algorytmie genetycznym Wykorzystuje się je w problemach o wielu parametrach i dużych przestrzeniach przeszukiwań 56

Inne metody kodowania: Kodowanie za pomocą wektora liczby rzeczywistych Wymaga specjalnych operatorów mutacji i krzyżowania 57

Inne metody selekcji: Selekcja rangowa Osobniki ustawione są kolejno zgodnie z wartością funkcji przystosowania – od najlepszego do najgorszego. Każdy osobnik ma numer określający jego pozycję na liście, czyli swoją rangę Liczba kopii każdego osobnika wprowadzona do kolejnej populacji jest zdefiniowana przez wcześniej ustaloną funkcję, która zależy od rangi osobnika 58

Inne metody selekcji: Selekcja turniejowa Osobniki w populacji zostają podzielone na podgrupy (losowo, z powtórzeniami), najczęściej 2 lub 3 osobniki Z każdej z nich wybierany jest osobnik najlepszy (deterministycznie lub z uwzględnieniem elementu losowego) Nadaje się zarówno do minimalizacji jak maksymalizacji funkcji i Praktyka pokazuje, że działa lepiej niż selekcja za pomocą koła ruletki 59

Wielkości zadawane przed uruchomieniem AG: • • liczebność populacji, prawdopodobieństwo krzyżowania, prawdopodobieństwo mutacji, inne (zależy od algorytmu). Zazwyczaj wartości dobiera się eksperymentalnie (metodą prób i błędów), indywidualnie dla rozwiązywanego problemu. . . choć istnieją pewne ogólne zalecenia. . . 60