Informatica Generale Alessandra Di Pierro email dipierrodi unipi

Informatica Generale Alessandra Di Pierro email: dipierro@di. unipi. it Ricevimento: Giovedì ore 14. 30 -17. 30 presso Dipartimento di Informatica, Via Buonarroti, 2 stanza 362 DE Tel. 050. 2212. 779 o per posta elettronica Pagina web del corso: http: //www. di. unipi. it/~dipierro/IG 03. html 1

I problemi risolubili dal computer Complessità Problemi intrattabili Problemi indecidibili 2

La complessità degli algoritmi • Nella prima parte del corso – abbiamo visto alcuni esempi di algoritmi – abbiamo visto come alcuni algoritmi sono ‘più veloci’ di altri • Adesso: – vogliamo approfondire introducendo misure ‘quantitative’ della velocità di un algoritmo (la complessità) • per confrontare due algoritmi fra di loro • per stabilire se un certo problema si può risolvere in tempo ragionevole o no 3

La complessità degli algoritmi (2) • Un esempio: ricerca di un Autore in schede ordinate: • algoritmo stupido : controllo tutte le schede dalla prima • algoritmo ‘lettera iniziale’ : troviamo la prima scheda relativa alla lettera iniziale del campo Autore e da quella procediamo in sequenza • algoritmo ‘del dizionario’ : dividiamo ripetutamente le schede a metà eliminando ogni volta la metà che sicuramente non contiene la scheda cercata – la valutazione di complessità associa ad ogni algoritmo una espressione numerica che descrive il numero di operazioni effettuate (in media) 4

La ricerca ‘stupida’ 1. Apri il classificatore 2. Prendi la prima scheda 3. Confronta il campo autore e titolo con quelli cercati 4. Se sono uguali, allora la ricerca è terminata, altrimenti prendi la scheda successiva e vai al passo 3 5. Se le schede sono esaurite, allora il libro cercato non esiste. 5

La ricerca ‘stupida’ (2) Numero operazioni elementari richieste • Complessità 1 1. Apri il classificatore 2. Prendi la prima scheda 1 (lettura) 3. Confronta il campo autore e titolo con quelli cercati 1 (confronto) 4. Se sono uguali, allora la ricerca è terminata, altrimenti prendi la scheda successiva e vai al passo 3 2 (lettura e confronto) 5. Se le schede sono esaurite, allora il libro cercato non esiste. 1 (confronto) 6

La ricerca ‘stupida’ (3) Numero operazioni elementari richieste • Complessità 1 1. Apri il classificatore 2. Prendi la prima scheda 1 (lettura) 3. Confronta il campo autore e titolo con quelli cercati 1 (confronto) 4. Se sono uguali, allora la ricerca è terminata, altrimenti prendi la scheda successiva e vai al passo 3 2 (lettura e confronto) 5. Se le schede sono esaurite, allora il libro cercato non esiste. 1 (confronto) ? Quante volte sono ripetuti 3 -4 -5 ? 7

La ricerca stupida (4) schedario 1 N Situazione iniziale Numero complessivo delle schede 8

La ricerca stupida (5) schedario 1 2 ………. K N Situazione dopo aver esaminato K schede 9

La ricerca stupida (6) schedario 1 2 ………. K N Situazione dopo aver esaminato K schede I passi 3 -4 -5 vengono ripetuti finché non trovo la scheda. Supponendo che le schede vengano tutte cercate con la stessa frequenza si ha in media un numero di ripetizioni dell’ordine di N/2 10

La ricerca ‘stupida’ (7) Numero operazioni elementari richieste • Complessità totale 1 1. Apri il classificatore 2. Prendi la prima scheda 1 (lettura) 3. Confronta il campo autore e titolo con quelli cercati 1 (confronto) 4. Se sono uguali, allora la ricerca è terminata, altrimenti prendi la scheda successiva e vai al passo 3 2 (lettura e confronto) 5. Se le schede sono esaurite, allora il libro cercato non esiste. 1 (confronto) (Tl + Tc )*N/2 Tl - tempo di lettura Tc - tempo di confronto 11

La ricerca ‘stupida’ (8) • Costo complessivo : (Tl + Tc )*N/2 – facciamo un conto numerico (Tl = 0. 01 ms, Tc = 10 ns, N= 400 000) (0. 01 )*200 000 = 2000 ms = 2 secondi 12

La ricerca stile ‘dizionario’ 1. Apri il classificatore 2. Prendi la scheda X al centro dello schedario 3. Confronta il campo autore e titolo di X con quelli cercati 4. Se sono uguali, allora termina, altrimenti prosegui 5. Se il campo autore di X è minore di quello cercato allora prosegui la ricerca sulla metà inferiore delle schede altrimenti considera la metà superiore 6. Se la metà selezionata al passo 5 è vuota allora termina (lo schedario non contiene il libro cercato) altrimenti scegli come X la scheda al centro della metà scelta e vai al passo 3 13

La ricerca stile ‘dizionario’ (2) schedario Situazione iniziale 14

La ricerca stile ‘dizionario’ (3) Ogni volta elimino la metà delle schede, oppure mi fermo perché ho trovato la scheda cercata Ogni volta divido il numero N delle schede per 2, mi fermo quando N è diventato 1 o 0 Al più eseguo x passi dove x è il logaritmo in base 2 di N (log 2 N) Scheda cercata! 15

La ricerca stile ‘dizionario’ (4) 1. Apri il classificatore 2. Prendi la scheda X al centro dello schedario 1 3. Confronta il campo autore e titolo di X con quelli cercati 1 (confronto) 4. Se sono uguali, allora termina, altrimenti prosegui 5. Se il campo autore di X è minore di quello cercato allora prosegui la ricerca sulla metà inferiore delle schede altrimenti considera la metà superiore 1 (confronto) 6. Se la metà selezionata al passo 5 è vuota allora termina (lo schedario non contiene il libro cercato) altrimenti scegli come X la scheda al centro della metà scelta e vai al passo 3 1 (lettura e confronto) 16

La ricerca stile ‘dizionario’ (5) I passi 3 -6 sono effettuati log 2 N volte. Quindi la complessità in questo caso è : (Tl + Tc) * log 2 N che valutato con (Tl = 0. 01 ms, Tc = 10 ns, N= 400 000) da (0. 010001) * log 2 400 000 = (0. 010001) * 19 = 0. 19 ms = 0. 0019 sec 17

Complessità : considerazioni • È importante stabilire la complessità (velocità) di un algoritmo per capire se un problema è o meno risolubile in tempi ragionevoli dal calcolatore • Esistono problemi per cui non esiste un algoritmo di risoluzione che termina in tempi ragionevoli ! 18

Complessità : considerazioni (2) • Problemi indecidibili : quelli per i quali non può esistere un algoritmo di soluzione che termina sempre (in tempo finito) per qualsiasi insieme dei dati in ingresso – es : problema del barbiere che fa la barba solo a tutti coloro che non se la fanno da soli (paradosso di Russel) : • esiste un algoritmo che dato X umano risponde SI se X si fa la barba da solo e NO altrimenti? 19

Complessità : considerazioni (3) • Il barbiere che fa la barba solo a tutti coloro che non se la fanno da soli (cont. ) – la risposta è NO, perché un tale algoritmo A porterebbe ad una contraddizione se applico A al barbiere stesso (X = barbiere) • infatti se A(barbiere) risponde SI significa che il barbiere si rade da solo … 20

Complessità : considerazioni (3 a) • Il barbiere che fa la barba a tutti coloro che non se la fanno da soli (cont. ) – la risposta è NO, perché un tale algoritmo A porterebbe ad una contraddizione se applico A al barbiere stesso (X = barbiere) • infatti se A(barbiere) risponde SI significa che il barbiere si rade da solo …contro la sua caratteristica di radere solo chi non si rade da solo • analogamente per la risposta NO 21

Complessità : considerazioni (4) • Altro esempio : trovare un algoritmo che decide se un programma P termina dato un certo insieme dei dati in ingresso D (problema di Turing o della terminazione) – primo tentativo: applicare P a D ed aspettare il risultato … – …. E se P(D) non termina ? – Turing ha dimostrato che l’esistenza di un simile algoritmo provocherebbe un paradosso 22

Complessità : considerazioni (5) • Quindi esistono problemi intrinsecamente insolubili (problemi indecidibili) – per fortuna sono pochi • Esistono però anche problemi risolubili ma solo con algoritmi di complessità molto elevata (problemi intrattabili) – che sono purtroppo molto frequenti … 23

Complessità : considerazioni (5) • Problemi intrattabili – Sono problemi che richiedono di esplorare tutte le possibili combinazioni di un insieme di dati in ingresso – La loro complessità ha fattori come 2 N (N numero dei dato in ingresso) – Con fattori esponenziali nella formula di complessità i tempi di risposta dell’algoritmo crescono rapidamente con il numero N dei dati in ingresso (es. anni) • nel nostro esempio (ricerca) con N=40, avremo 10995116 sec cioè circa 127 giorni (4 mesi e mezzo) 24

Complessità : considerazioni (6) • Problema dei ponti di Königsberg (Eulero) A a f b Fiume Pregel B e D Isola Kneiphof ponti c d g C problema : stabilire se esiste un itinerario attraverso la città che traversi ciascun ponte una sola volta 25

Complessità : considerazioni (7) • Problemi dei ponti di Königsberg (Eulero) arco A nodo a b f B e D d c g C grafo di Königsberg : un nodo per ogni pezzo di terra e un arco per ogni ponte 26

Complessità : considerazioni (8) • Problemi dei ponti di Königsberg (Eulero) A a b f B e D d c g C grafo di Königsberg : un nodo per ogni pezzo di terra e un arco per ogni ponte 27

Complessità : considerazioni (9) • Problemi dei ponti di Königsberg (Eulero) – nel grafo di Königsberg non esiste un itinerario con le caratteristiche cercate – Eulero risolse il problema per un grafo qualsiasi mostrando che condizione necessaria e sufficiente è la presenza di nodi da cui si dipartono solo numeri pari di archi – Quindi il problema si risolve esaminando una sola volta tutti i nodi 28

Complessità : considerazioni (10) • Problema del commesso viaggiatore A a b f B e D d c g C trovare una cammino che tocchi tutti i nodi una e una sola volta (nodi = città, archi = collegamenti) 29

Complessità : considerazioni (11) • Problema del commesso viaggiatore A a b f B e D d c g C una soluzione per il grafo di Königsberg 30

Complessità : considerazioni (12) • Simile al problema dei ponti • Però il TSP è intrattabile (NP-completo): per grafi generali TSP non può essere risolto senza considerare tutte le possibili combinazioni di cammini • Morale : – parecchi problemi pratici sono intrattabili – spesso problemi simili hanno caratteristiche computazionali diverse – per problemi intrattabili bisogna abbandonare l’idea di algoritmo esatto per passare agli algoritmi approssimati 31