Einfhrung in die Informatik II Automaten Prof Bernd

Einführung in die Informatik II Automaten Prof. Bernd Brügge, Ph. D Institut für Informatik Technische Universität München Sommersemester 2004 1. Juli 2004 Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 12

Organisatorisches: Planung der restlichen Vorlesungen v Ø v v v 29. Juni w UML Zustandsdiagramme, Modell-Sicht-Steuerung Konzept, 1. -6 Juli w Automaten und Grammatiken 8. -13 Juli: Überleitung zu maschinennaher Programmierung w Übersetzung von Java in eine maschinenahe Sprache 15. Juli: Maschinennahe Programmierung w Laufzeitkeller, Unterprogrammaufruf, Halde 20. Juli: Codierung 20. Juli: Zentralübung: Fragestunde zur Klausur. w Alle Fragen bis zum 19. Juli per E-Mail an herzog@in. tum. de werden berücksichtigt. 22. Juli: Vergleich von Modellierungs-&Programmierkonzepten, Abschluss 24. Juli: Klausur, zwischen 13: 00 - 16: 00, w Klausurmerkblatt wird am 20. Juli verteilt Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 2

Ziele dieser Vorlesung v v v Sie können ein Objekt mit interessantem dynamischen Verhalten als endlichen Automaten modellieren. Sie verstehen, dass UML-Zustandsdiagramme eine Notation für endliche Automaten sind. Sie verstehen, dass endliche Automaten und reguläre Grammatiken äquivalente Interpretationen desselben Konzeptes sind. Sie können aus einem endlichen Automaten eine reguläre Grammatik erstellen, dieselbe Sprache akzeptiert wie der Automat. Sie können für eine gegebene reguläre Grammatik den entsprechenden endlichen Automaten konstruieren. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 3

Modellierung mit endlichen Automaten v v Ein Automat ist ein Modell, dass zur Modellierung von vielen Problemen verwendet werden kann. Die Ursprünge für endliche Automaten kamen aus folgenden Anwendungsdomänen: Biologie (Mc. Collough & Pitts, "A logical calculus of the ideas immanent in nervous activity", 1943) w Modellierung des menschlichen Gehirns: Ein Gehirn besteht aus etwa 235 Neuronen (ca. 35 Milliarden), und es sollte möglich sein, den Zustand jedes Neurons durch einige Bits zu beschreiben. Elektrotechnik (Mealy, "A method for synthesizing sequential circuits", 1955) w Entwurf von Schaltkreisen aus einer endlichen Zahl von Gattern, die nur einen von 2 Werten annehmen können. Linguistik (Chomsky "Three models for the description of language", 1956) w Beschreibung von Grammatiken für die natürliche Sprache Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 4

Endliche Automaten in der Informatik v v v Interaktive Systeme: w Spezifikation der Eingaben, die in einem interaktiven System akzeptierbar sein sollen. Compilerbau: w Zur lexikalischen Analyse von Programmen, d. h zur Erkennung von Schlüsselwörtern und Bezeichnern Softwaretechnik: w Zur Beschreibung von Systemen, die durch die dynamischen Eigenschaften eines einzigen Objektes bestimmt werden. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 5

Endliche Automaten v Ein endlicher Automat ist ein gutes Werkzeug zur Modellierung von Problemen aus der Wirklichkeit, wenn folgende Eigenschaften vorliegen. w Diskrete Ein-/Ausgabe: t Das System reagiert nur auf diskrete Eingabe-Werte und gibt nur diskrete Werte aus. w Endliche Anzahl von Zuständen: t Das System kann nur in einer endlichen Zahl von internen Konfigurationen sein, die wir Zustände nennen. w Gedächtnislosigkeit: t t Der Zustand, in dem das System gerade ist, umfasst die gesamte Information über die Vergangenheit des Systems Nur dieser Zustand entscheidet bei der nächsten Eingabe, was der nächste Zustand ist. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 6

Beispiel für einen endlichen Automaten v Die Steuerung eines Fahrstuhls kann man mit einem endlichen Automaten modellieren. w Diskrete Ein-/Ausgabe: t Eingabe: Welche Knöpfe wurden in welchen Etagen gedrückt, aber noch nicht bedient? t Ausgabe: In welche Richtung (hoch, runter) und wie weit muss der Fahrstuhl als nächstes fahren? w Endliche Anzahl von Zuständen: t Der Fahrstuhl bedient nur eine endliche Anzahl von Etagen. w Gedächtnislosigkeit: t Die Steuerung weiss nicht, welche Etagen der Fahrstuhl bis jetzt schon besucht hat. t Wichtig ist derzeitige Zustand: Wo steht der Fahrstuhl? Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 7

Ein altes Problem: Wolf, Kohl und Ziege v Eine Hirte steht mit einem Wolf, einer Ziege und einem Kohlkopf am linken Ufer eines Flusses. Sie wollen den Fluss überqueren. v Es gibt eine Fähre, die hin und her fährt. Die Fähre ist allerdings so klein, dass sie höchstens den Hirten und einen weiteren Passagier gleichzeitig transportieren kann. v Es gibt folgende Einschränkungen: w Allein gelassen, frisst der Wolf die Ziege w Allein gelassen, frisst die Ziege den Kohlkopf Ziel: Alle sollen den Fluss erfolgreich überqueren, ohne dass irgend jemand gefressen wird v Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 8

Wie modellieren wir das Problem? v Sollen wir Anwendungsfälle mit Ereignisfolgen probieren? w Akteure: Wolf, Hirte, Ziege, … w Ereignisfolge: t t t v v v Alle sind am linken Ufer Der Hirte fährt mit der Ziege zum rechten Ufer Dort lässt er die Ziege, Dann fährt er allein zum linken Ufer. . . Sollen wir ein Klassendiagramm erstellen? Das Problem hat viele Objekte. Abbott's Analyse ergibt: Hirte, Wolf, Ziege, Kohlkopf, Fluss, Ufer, überqueren, fressen, transportieren, Fähre, Kapazität. Brauchen wir dafür ein Sequenzdiagramm? Oder können wir das ganze Problem allein mit einem Zustandsdiagramm modellieren? Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 9

Analyse des Hirte-Wolf-Ziege-Kohl-Problems v v v Wir führen folgende Bezeichnungen ein: H ist der Hirte, W der Wolf, Z die Ziege und K der Kohl. bezeichnet die leere Menge. Wir identifizieren eine Klasse Steuerung mit einem Attribut Uferverteilung vom Typ Zeichenkette mit Werten wie "HWZK- ", "WK-HZ", usw. Die Attributwerte modellieren die Besetzung der beiden Uferseiten folgendermaßen: HWZK- : WK-HZ: Alle Beteiligten sind am linken Ufer. Wolf und Kohl am linken Ufer, Hirte und Ziege am rechten Ufer. K-HWZ: -HWZK: Kohl am linken Ufer, Hirte, Wolf und Ziege am rechten Ufer. Alle Beteiligten sind am rechten Ufer. Insgesamt kann Uferverteilung höchstens 24 = 16 verschiedene Werte annehmen, w Wir haben also 16 Zustände (davon sind nicht alle erstrebenswert). w Als Namen für die Zustände nehmen wir die Werte der Uferverteilung : t HWZK- ist unser Anfangszustand, den Endzustand -HWZK wollen wir erreichen. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 10

Modellierung des Problems mit UML-Zustandsdiagramm HKZW- Z KW-HZ HKW-Z H W K K-HWZ Eingabe: ZH W ZK H Z W-HKZ Z Z HKZ-W HWZ-K akzeptiert! ZH K Z W HZ ebenfalls akzeptiert! Copyright 2004 Bernd Brügge W K Z-HKW H HZ-KW Einführung in die Informatik II TUM Sommersemester 2004 Z -HKWZ 11

Verfeinert Modellierung des Problems HKZW- Z H KW-HZ Z HKW-Z H W W K K-HWZ Z Akzeptierbare Eingaben: ZZZHHHWZKHZ ZHWZKKKKKKKKKKKHZ usw. K W-HKZ Z Z HKZ-W K Z HWZ-K K W W Z-HKW H H Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 HZ-KW Z -HKWZ Z 12

Endlicher Automat v Definition: Ein endlicher Automat ist ein 5 -Tupel A = ( ∑, Q, , q 0 , F): ∑ ist ein endlicher Zeichenvorrat (also ein Alphabet) Q ist eine nichtleere endliche Menge von Zuständen : Q ∑ Q ist eine Übergangsfunktion wobei gilt: (q, a) ist ein definierter Zustand für jeden Zustand q und Eingabe a ∑ q 0 Q ist ein Anfangszustand F ist eine Menge von Endzuständen Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 13

Arbeitsweise eines endlichen Automaten 0 1 1 Lese. Kopf L Steuerung S: Besteht aus Zuständen Q und Übergangsfunktion Copyright 2004 Bernd Brügge 0 0 1 10 1 0 Eingabeband E mit Symbolen aus ∑ 1 S Clemens Harlfinger: Folie für Präsentatio ausblenden! Einführung in die Informatik II TUM Sommersemester 2004 14

Clemens Harlfinger: Arbeitsweise eines endlichen Automaten Eingabeband E mit Symbolen aus ∑ Folie für Präsentation einblenden! 0 Copyright 2004 Bernd Brügge 1 1 0 0 1 10 1 0 Einführung in die Informatik II TUM Sommersemester 2004 1 15

Ein endlicher Automat ist ein Algorithmus Unser Modell: Bandende. Erreicht() == True Bandende. Erreicht() == False 0 1 1 0 Lese. Kopf L Steuerung. SS== (q q 0 0, 0) Steuerung 0 1 0 1 Eingabeband E mit Symbolen aus ∑ Der Algorithmus: Setze die Steuerung S auf den Anfangszustand; // S = q 0; Positioniere Lesekopf L am Anfang des Eingabebandes E; akzeptiert = ist. Endzustand(q 0); while not Bandende. Erreicht() do { Lies Symbol unter dem Lesekopf L; // L = ai; Berechne den neuen Zustand aus S und L; // S = (S, L); Ist der neue Zustand ein Endzustand? Wenn ja, akzeptiert = true; } // while not Bandende. Erreicht() return akzeptiert; Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 16

Darstellungsmöglichkeiten für die Übergangsfunktion • Die Übergangsfunktion eines endlichen Automaten lässt sich auf verschiedene Art und Weise darstellen: • als Graph Übergangsgraph (bei der Modellierung) • als Tabelle Übergangstabelle • als Menge von Produktionen (bei der Beschreibung von Grammatiken) Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 17

Übergangsgraph: Übergangsfunktion als Graph v v Ein endlicher Automat kann als gerichteter Graph G dargestellt werden, wenn wir folgende Zuordnungen festlegen: w die Menge der Zustände Q ist die Menge der Knoten des Graphen mit q 0 als Anfangszustand w Zwei Knoten q 1 und q 2 im Graphen sind durch eine mit der Eingabe a beschriftete gerichtete Kante verbunden, wenn es einen Übergang vom Zustand q 1 nach q 2 gibt, d. h. wenn (q 1, a) = q 2 gilt. Den gerichteten Graphen nennen wir Übergangsgraph w UML-Zustandsdiagramme sind also Übergangsgraphen. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 18

Beispiel für einen Übergangsgraphen v v Wir wollen einen Prüfer bauen, der eine vorgegebene Zeichenkette aus '0' und '1' nur dann akzeptiert, wenn die Kette eine gerade Anzahl von 0'en und eine gerade Anzahl 1'en hat. Beispiel: 110101 wird akzeptiert, 1101011 wird nicht akzeptiert v Übergangsgraph: 1 q 0 Ungerade: Eine 1 zuviel q 1 1 0 Gerade 0 0 Ungerade: Eine 0 zuviel Copyright 2004 Bernd Brügge 0 q 2 1 q 3 1 Ungerade: Eine 1 und eine 0 zuviel Einführung in die Informatik II TUM Sommersemester 2004 19

Alternative Notation für Übergangsgraphen v v In der Softwaretechnik benutzen wir UML-Zustandsdiagramme für die Notation von endlichen Automaten. In der Automatentheorie hat sich vorher schon eine einfachere Notation etabliert: w Zustände werden als Kreise gezeichnet w Der Anfangszustand hat einen kleinen gerichteten Pfeil w Der Endzustand besteht aus 2 konzentrischen Kreisen 1 q 0 1 Zusätzlicher Pfeil: Startzustand 0 0 Kreis: Zustand 0 0 Doppelkreis: Endzustand q 1 q 2 1 q 3 1 Bei endlichen Automaten ohne größere Komplexität werden wir diese Notation öfters benutzen. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 20

Übergangsfunktion als Tabelle v Definition Übergangstabelle: Tabellenförmige Darstellung der Übergangsfunktion eines endlichen Automaten. Eingabe aus ∑ Zustände Copyright 2004 Bernd Brügge j a b q 0 (q 0, a) (qo, b) (qo, j) (qo, z) q 1 (q 1, a) (q 1, b) (q 1, j) (q 1, z) . . . qi (qi a) . . . qn (qn a) . . . (qi, b). . . (qn, b) . . . (qi, j). . . (qn, j) Einführung in die Informatik II TUM Sommersemester 2004 . . . z . . . (qi, z). . . (qn, z) 21

Übergangstabelle für den Gleichheitsprüfer Eingabe 0 1 q 0 q 2 q 1 q 3 q 0 Zustand q 2 q 0 q 3 q 1 q 2 Erweiterung der Übergangsfunktion von einzelnen Zeichen auf Zeichenketten: (q, aw) = ( (q, a), w) a , w * Anfangszustand: q 0 v Beispiel: Eingabe 110101 (q 1, 1) = q 0 (q 0, 1) = q 1 (q 2, 1) = q 3 (q 0, 0) = q 2 (q 3, 0) = q 1 (q 1, 1) = q 0 Für diese Folge von Berechnungen schreiben wir auch verkürzt: * q 0 (q 0, 110101) v Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 22

Übergangsfunktion als Produktionenmenge (q 0, a) = q kann man auch als Produktion sehen: q 0 a q Die Übergangsfunktion definiert dann eine Menge von Produktionen Beispiel: Die eben durchgeführte Folge von Berechnungen (q 0, 1) = q 1 (q 3, 0) = q 1 (q 1, 1) = q 0 (q 0, 0) = q 2 (q 2, 1) = q 3 kann als Ableitungsfolge gesehen werden: q 0110101 q 0 1 q 110101 q 11 q 00101 q 00 q 2101 q 21 q 301 q 30 q 11 q 0 Für diese Ableitungsfolge schreiben wir manchmal verkürzt: * q 0 110101 und sagen, das Wort 110101 wird vom Automaten erkannt. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 q 110101 q 00101 q 2101 q 301 q 11 q 0 23

Sprache eines Automaten v Die von einem endlichen Automaten A akzeptierte Sprache L(A) ist definiert als * qf mit qf F} L(A) = { x | x ∑*, q 0 x Alle Eingabeworte, die den Automaten A vom Anfangszustand in einen Endzustand überführen, sind also Teil der Sprache L(A) Wolf-Kohl-Ziege Automat W: ZHWZKKKKKKKHZ L(W), KZHW L(W) Gleichheits-Checker P: 110101 L(P), 1101011 L(P) Im Übergangsgraphen entspricht ein x L(A) einem Weg vom Anfangszustand q 0 zu einem Endzustand. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 24

Endliche Automaten mit Ausgabe v v v Endliche Automaten, wie wir sie bis jetzt definiert haben, besitzen nur eine Eingabe, aber keine richtige Ausgabe: Die Ausgabe ist ein binäres Signal: "Die Eingabe ist akzeptiert" oder "Die Eingabe ist nicht akzeptiert" Es gibt Probleme, die mit endlichen Automaten modellierbar sind, bei denen die Ausgabe wichtiger ist als der erreichte Endzustand. Beispiel: MVV-Fahrkartenautomat. w w v Ich wähle einen Fahrschein aus, z. B. eine Tageskarte. Ich werfe den korrekten Geldbetrag in den Automaten. Jetzt erwarte ich, dass der Fahrschein ausgegeben wird. Ob der Automat dabei in einem Endzustand ist, interessiert mich absolut nicht. Es gibt viele Arten von Automaten, die Ausgabe ermöglichen. w Wichtige Varianten sind die Mealy-, Moore- und Harel-Automaten. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 25

Moore-Automat v v Ein Moore-Automat ist ein 6 -Tupel M = (Q, , T, , , qo), wobei Q, , und qo wie beim endlichen Automaten definiert sind. T ist das Ausgabealphabet, und ist eine Abbildung von Q nach T. w In einem Zustand wird also ein Zeichen t T ausgegeben. Jeder MVV-Kartenautomat enthält zwei Moore-Automaten, wobei das Eingabealphabet immer aus erlaubten Geldstücken besteht: w Fahrscheinausgabe F: Wenn der korrekte Geldbetrag eingegeben worden ist, wird ein Zustand erreicht, in dem der Fahrschein ausgegeben wird. w Wechselgeldausgabe W: Wenn mehr als der korrekte Geldbetrag eingeben wurde, muss ein Zustand erreicht werden, in dem das zuviel eingezahlte Geld ausgegeben wird. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 26

Mealy-Automat v v Ein Mealy-Automat ist ein 6 -Tupel M = (Q, , T, , , qo) wobei Q, , T, und qo wie beim Moore-Automaten definiert sind. ist allerdings eine Abbildung von Q nach T. w Beim Übergang von einem Zustand zu einem anderen Zustand wird also bei Eingabe a ein Zeichen t T ausgegeben. Jeder MVV-Kartenautomat enthält einen Mealy-Automaten: w Eingabealphabet sind wieder die erlaubten Geldstücke. w Anzeige des fehlenden Betrages F: Nach dem Einwurf jedes Geldstückes wird der noch fehlende Betrag auf dem Bildschirm angezeigt. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 27

Harel-Automat v v Die durch UML-Zustandsdiagramme beschreibbaren Automaten nennen wir Harel-Automaten. Ein Harel-Automat hat w eine Zustandsmenge Q, die hierarchisch organisiert sein kann (durch Superzustände) w eine Eingabemenge von Ereignissen w eine Ausgabemenge T w eine Menge von Prädikaten für Wächter w einen Anfangszustand q 0 Ereignis [Wächter] /Aktion T w Zwei Funktionen mit Ausgabe: t Übergangsfunktion : Q T Q t Zustandsausgabe : Q T Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 28

Endliche Automaten vs Harel-Automaten v v Die Eingabe in einem endlichen Automaten entspricht den Ereignissen in einem Harel-Automaten. Die Ereignisse kommen dabei aus der Modellierung der Anwendungsdomäne. Die Ausgabe in einem endlichen Automaten ist äquivalent zu einer Aktion oder einer Aktivität im entsprechenden Harel-Automaten. w Ein UML-Zustandsdiagramm beschreibt einen Mealy-Automaten, wenn es keine Wächter und keine Aktivitäten enthält, sondern nur Aktionen der Form a/t. w Ein UML-Zustandsdiagramm beschreibt einen Moore-Automaten, wenn es keine Wächter und keine Aktionen enthält, sondern nur Aktivitäten der Form do/print(t) Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 29

Automaten mit -Übergängen v Ein endlicher Automat kann auch Transitionen ohne spezifische Eingabe ausführen. In diesem Fall verallgemeinern wir die Übergangsfunktion folgendermaßen: : Q (∑ { }) Q, wobei gilt: (q, a) ist ein definierter Zustand für jeden Zustand q und jede Eingabe a ∑ { }. Erstaunlich: Die Sprachen von Automaten mit -Übergängen sind nicht mächtiger als die von endlichen Automaten. Satz: Jeder Automat mit -Übergängen kann in einen äquivalenten endlichen Automaten (ohne -Übergänge) transformiert werden. Beweis Hauptstudium (Automatentheorie) Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 30

Beispiel für einen Automaten mit -Übergängen HKZW- Z H KW-HZ Z HKW-Z H W -Übergang W K K-HWZ K W-HKZ -Übergang Z Z Z HKZ-W Im allgemeinen wird in UML-Zustandsdiagrammen das leere Wort nicht gezeigt Copyright 2004 Bernd Brügge K Z HWZ-K K W W Z-HKW H H Einführung in die Informatik II TUM Sommersemester 2004 HZ-KW Z -HKWZ Z 31

Nichtdeterministischer endlicher Automat Bisher haben wir angenommen, dass : Q ∑ Q für die Berechnung von Zustandsübergängen eine Funktion ist. • Für jedes Paar Zustand/Eingabe gibt es nur einen neuen Zustand. • Solche Automaten nennen wir deterministisch. • Im allgemeinen Fall kann man von einem gegebenen Zustand q bei Eingabe eines Zeichens mehr als einen Zustand bekommen. • Beispiel: (q 1 , a) = q 3 und (q 1 , a) = q 4 • ist dann keine Funktion, sondern eine Relation. Ein endlicher Automat, bei dem eine Relation ist, heißt nichtdeterministisch. Erstaunlich: Die Sprachen, die von nichtdeterministischen endlichen Automaten akzeptiert werden, sind nicht mächtiger als die von deterministischen endlichen Automaten. • Satz: Jeder nichtdeterministische endliche Automat kann in einen äqui -valenten deterministischen endlichen Automaten transformiert werden. v Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 32

Ein weiteres Beispiel: Erkennung von Zahlen v v Wir wollen einen endlichen Automaten konstruieren, der Bezeichner akzeptiert. Ein Bezeichner muss mit einem Buchstaben anfangen, gefolgt von beliebig vielen Buchstaben oder Ziffern. Endlicher Automat A: w Eingabealphabet = { b, z } wobei b ein Buchstabe ist und z eine Ziffer w Übergangsdiagramm: q 0 b z q 1 b Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 33

Grammatik für Bezeichner v v v Für die eben definierten Bezeichner können wir auch eine Grammatik entwickeln, und zwar mit den Produktionen P: { Bezeichner 'b' Zahl. Buchstabe | 'b' Zahl. Buchstabe 'z' Zahl. Buchstabe | 'z' } Diese Grammatik akzeptiert dieselbe Sprache wie der eben entwickelte Automat ! Dies ist kein Zufall, sondern liegt an einem tieferen Zusammenhang zwischen Automaten und Grammatiken, den wir jetzt genauer herausarbeiten. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 34

Einschub: Reguläre Grammatik (Chomsky-3 -Grammatik) v v Gegeben sei eine Chomsky-Grammatik G = (T, N, P, Z). Seien A und B Nichtterminale aus N und a ein Terminal aus T. Wir definieren eine Rechtslineare Produktion als eine Produktion der Form A a. B Wir definieren eine Linkslineare Produktion als eine Produktion der Form A Ba Definition: Eine Grammatik ist eine reguläre Grammatik oder auch Chomsky-3 -Grammatik, wenn sie neben terminierenden Produktionen entweder nur links- oder nur rechtslineare Produktionen enthält. Beispiele: P = {A a. B, A a, B a. B} P = {A Ba, B Ba} P = {A Ba, B a. B} P = {A BA, B a. B} Copyright 2004 Bernd Brügge G ist regulär G ist nicht regulär Einführung in die Informatik II TUM Sommersemester 2004 35

Regulär oder nicht regulär? P = {A a. B, A a, B a. B} Grammatik ist regulär (Produktionen sind terminal oder rechtslinear) P = {A Ba, B a, A } Grammatik ist nicht regulär (hat eine sog. -Produktion, die weder rechts- noch linkslinear ist) P = {A Ba, B a. B} Grammatik ist nicht regulär (hat sowohl rechts- als auch linkslineare Produktionen) P = {A BA, B a. B} Copyright 2004 Bernd Brügge Grammatik ist nicht regulär (hat eine Produktion, die weder rechts- noch linkslinear ist) Einführung in die Informatik II TUM Sommersemester 2004 36

Automaten und Grammatiken v v v Wir hatten L(A) als die Sprache definiert, die von einem Automaten A akzeptiert wird. Für eine gegebene Chomsky-Grammatik G = ( , N, P, Z) hatten wir L(G) als die Sprache definiert, die von G erzeugt wird (siehe Info I - Vorlesung 4, Folie 32). Satz über Äquivalenz zwischen endlichen Automaten und regulären Grammatiken w Eine Menge L * ist genau dann die Sprache L = L(A) eines endlichen Automaten A, wenn es eine reguläre Grammatik G = ( , N, P, Z) gibt, so dass L = L(G). w Die Äquivalenz ist beschränkt auf die nichtleeren Worte aus L: Eine reguläre Grammatik kann nicht im Sprachschatz haben, es gibt aber endliche Automaten, die erkennen (Welche? ) Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 37

Endliche Automaten und reguläre Grammatiken • • Zurück zu unserem Satz: • Immer wenn wir einen endlichen Automaten haben, der eine Sprache L(A) akzeptiert, können wir eine reguläre Grammatik konstruieren, die denselben Sprachschatz akzeptiert. • Dasselbe gilt auch umgekehrt. Wir führen den Beweis in beiden Richtungen. 1. Gegeben eine reguläre Grammatik endlicher Automat 2. Gegeben ein endlicher Automat reguläre Grammatik Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 38

Reguläre Grammatik Endlicher Automat v Der Beweis ist konstruktiv, d. h. wir zeigen, wie für eine beliebige vorgegebene reguläre Grammatik der entsprechende Automat konstruiert werden kann. Sei eine reguläre Grammatik G = (T, N, P, Z) gegeben. v Die Produktionen in P haben also alle die Form A a. B, A a v Für rechtslineare Produktionen wird der Beweis analog geführt Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 39

Reguläre Grammatik Endlicher Automat (3) Aus der Grammatik G = (T, N, P, Z) konstruieren wir den Automaten A = ( , Q, , q 0, F) folgendermaßen: =T Q = N {qf} q 0 = Z F = {qf} Eingabealphabet : Alle Terminale T Zustandsmenge Q: Alle Nichtterminale N plus ein neuer Endzustand qf Anfangszustand q 0: Das Axiom Z Endzustandsmenge F: Neu eingeführter Zustand qf (A, a) = B wenn A a. B P (A, a) = qf wenn A a P Für jede Produktion aus P berechnen wir einen Wert für die Übergangsfunktion (Der Rest von ist undefiniert) Das heißt: Für jede reguläre Grammatik können wir einen endlichen Automaten konstruieren, der dieselbe Sprache akzeptiert. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 40

Endlicher Automat Reguläre Grammatik Aus dem Automaten A = ( , Q, , q 0, F) konstruieren wir die Grammatik G = (T, N, P, Z) folgendermaßen: T= N=Q Terminale T: Alle Elemente aus dem Eingabealphabet Nichtterminale N sind alle Zustände von Q P: 1. 2. Z = q 0 Für jedes (A, a) = B definieren wir eine Produktion A a. B Für jedes Eingabesymbol a, das aus Zustand A zu einem Endzustand qf F führt, d. h. (A, a) = qf, definieren wir eine Produktion A a Als Axiom Z nehmen wir den Anfangszustand q 0 Das heißt: Für jeden endlichen Automaten können wir eine reguläre Grammatik konstruieren, dieselbe Sprache (bis auf ) akzeptiert. q. e. d. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 41

Beispiel: Konvertierung einer Grammatik in endlichen Automaten v G = (T, N, P, Z), wobei gilt: T = { 'b', 'z'} N = { Bezeichner, Zahl. Buchstabe} P={ Bezeichner 'b' Zahl. Buchstabe | 'b' Zahl. Buchstabe 'z' Zahl. Buchstabe | 'z' } Z = Bezeichner Copyright 2004 Bernd Brügge bzzzz, bzbz L(G), z, zb L(G) Einführung in die Informatik II TUM Sommersemester 2004 42

Konstruktion des Automaten = T = {b, z} Q = N qf = {Bezeichner, Zahl. Buchstabe, qf} q 0 = Z = Bezeichner F = qf (A, a) = B wenn A a. B P (Bezeichner, b) = {Zahl. Buchstabe, qf} // Bezeichner 'b' Zahl. Buchstabe (Zahl. Buchstabe, b) = {Zahl. Buchstabe, qf} // Zahl. Buchstabe 'b‘Zahl. Buchstabe (Zahl. Buchstabe, z) = {Zahl. Buchstabe, qf} // Zahl. Buchstabe 'z' Zahl. Buchstabe b Bezeichner z b Zahl. Buchstabe qf b z b Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 43

Zusammenfassung (1) Mealy-Automat: Ausgabe nur bei Zustandsübergängen Moore-Automat Ausgabe nur bei Zuständen Endlicher Automat: Keine Ausgabe, Endzustände Harel-Automat Übergänge haben Ereignis, Wächter und Operation, Zustände haben Ausgabe Zeichnen wir als UML-Zustandsdiagramm Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 44

Zusammenfassung (2) v v v Endlicher Automat zur Modellierung von dynamischen Aspekten in Systemen Verschiedene Darstellungen für die Übergangsfunktion: w Übergangsgraph, Übergangstabelle, Produktionenmenge Wichtige Automaten mit Ausgabe: Mealy, Moore, und Harel UML-Zustandsdiagramme sind Übergangsgraphen für Harel-Automaten. Endliche Automaten und reguläre Grammatiken sind verschiedene Interpretationen desselben Sachverhaltes w Viele Einsichten über Automaten erhalten wir, weil wir zwischen diesen Interpretationen hin und her wechseln können. w Da ein Übergangsgraph ein Graph ist, können wir auch Kenntnisse aus der Graphentheorie zum Verständnis der Eigenschaften von endlichen Automaten verwenden. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 45

Einführung in die Informatik II Automaten Prof. Bernd Brügge, Ph. D Institut für Informatik Technische Universität München Sommersemester 2004 6. Juli 2004 Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 462

Ziele dieses Vorlesungsabschnitts v v v Sie können einen nichtdeterministischen endlichen Automaten in einen endlichen Automaten transformieren w mit dem Myhill-Verfahren Sie können zeigen, dass eine gegebene Sprache nicht regulär ist w mit dem Pumping-Lemma Sie verstehen, dass es Sprachen gibt, die man mit endlichen Automaten nicht erkennen kann w Chomsky-2 -Sprachen Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 47

Wiederholung: Alternative Notation für Übergangsgraphen v v In der Softwaretechnik benutzen wir UML-Zustandsdiagramme für die Notation von endlichen Automaten. In der Automatentheorie hatte sich schon vorher eine einfachere Notation etabliert: w Zustände werden als Kreise gezeichnet w Der Anfangszustand hat einen kleinen gerichteten Pfeil w Der Endzustand besteht aus 2 konzentrischen Kreisen 1 q 0 1 Zusätzlicher Pfeil: Startzustand 0 Copyright 2004 Bernd Brügge 0 Kreis: Zustand 0 0 Doppelkreis: Endzustand q 1 q 2 1 q 3 1 Einführung in die Informatik II TUM Sommersemester 2004 48

Übung: Welche Sprache akzeptiert dieser Automat? q 0 0 0 q 3 0 q 4 Der Automat akzeptiert 0011, denn die Folge von Zuständen q 0, q 3, q 4 endet in q 4, einem Endzustand 1 q 1 1 1 0 Allgemein akzeptiert der Automat alle Eingaben, die entweder mit 00 oder mit 11 anfangen. Beispiele: 001, 0001, 110, 1101 q 2 Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 49

Und welche Sprache akzeptiert dieser Automat? 1 0 q 0 1 0 1 0 q 3 ? q 1 0 Eingabebeispiel: 01001 q 4 Der Automat akzeptiert 01001: Es gibt eine Folge von Zuständen q 0, q 3, q 4 die in q 4, einem Endzustand, endet Allgemein akzeptiert der Automat alle Eingaben, die mindestens 2 konsekutive Einsen oder Nullen enthalten. Beispiele: 001, 0001, 110, 1101, . . . 1 1 0 q 2 In welcher Reihenfolge finden die Zuständsübergänge statt? • Was machen wir z. B in Zustand q 0, wenn wir eine 0 lesen? • Bleiben wir in q 0 oder gehen wir nach q 3? • Blieben wir immer in q 0, würde 01001 nicht akzeptiert werden. • Wann tun wir was? Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 50

Nichtdeterministische endliche Automaten v v Endliche Automaten mit Zuständen, die für dieselbe Eingabe mehr als einen Übergang erlauben, hatten wir nichtdeterministisch genannt. Das Konzept der nichtdeterministischen endlichen Automaten spielt eine große Rolle in mehreren Gebieten der Informatik, insbesondere im Übersetzerbau und beim Beweisen von Theoremen. Wir hatten schon erwähnt, dass nichtdeterministische endliche Automaten keine mächtigeren Sprachen akzeptieren, als deterministische endliche Automaten. w Das werden wir nun im folgenden beweisen. Eine solche Äquivalenz gilt nicht für alle Arten von Automaten (gilt nicht für unendliche Automaten und Kellerautomaten). Hauptstudium Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 51

Gedankenmodell: Ein nicht-deterministischer endlicher Automat hat mehrere Steuerungen Eingabeband E mit Symbolen aus ∑ 0 1 1 0 0 1 0 1 Lese. Kopf L Algorithmus: Steuerung S= S 1 q 0 Steuerung S 2 Setze die Steuerung S auf den Anfangszustand; // S = q 0; Akzeptiert = ist. Endzustand(S); While not Bandende. Erreicht() do { Lies Symbol unter dem Lesekopf // L = a 1; P = (q 0, 0) = {S 1, S 2} Berechne die Menge P aller Zustände aus S und L; // P = (S, L); = {S 1, S 2, …Sn} ; //P enthält eine Menge von Steuerungen Si. Alle Steuerungen zeigen auf dasselbe Eingabesymbol, können aber in verschiedenen Zuständen sein // In einer Java-Implementation können die Steuerungen als Threads implementiert werden Ist eine der Steuerungen in P in einem Endzustand? Wenn ja, Akzeptiert = true; } // while not Akzeptiert Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 52

Zustandsbaum eines nicht-deterministischen endlichen Automaten 1 1 0 q 0 0 0 q 3 0 q 4 1 Zustandsbaum: Gerichteter Graph für eine gegebene Eingabe, wobei die Zustände die Knotenwerte sind, und die Kanten mit dem jeweiligen Eingabesymbol beschriftet sind. • Der Anfangszustand ist die Wurzel des Zustandsbaumes. q 1 1 1 0 q 2 0 q 0 Copyright 2004 Bernd Brügge q 0 1 0 Wurzel des Zustandsbaums für die Eingabe 01001 1 q 3 0 0 q 1 q 0 1 0 q 3 1 q 3 0 q 4 Einführung in die Informatik II TUM Sommersemester 2004 1 q 4 53

Ein nicht-deterministischer endlicher Automat kann also immer in mehr als einem Zustand sein 0 q 0 1 0 0 q 1 q 3 0 q 0 1 0 q 3 1 q 3 0 q 4 {q 0 , q 3} {q 0 , q 1} 1 q 4 {q 0 , q 3} {q 0 , q 3 , q 4} {q 0 , q 1 , q 4} Alles Elemente der Potenzmenge von Q, die wir mit P(Q) bezeichnen v Wir verallgemeinern die Übergangsfunktion : Q ∑ Q deshalb zu : Q ∑ P(Q) Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 55

Nicht-deterministischer Endlicher Automat: Definition v Definition: Ein nichtdeterministischer endlicher Automat ist ein 5 -Tupel A = (∑, Q, nea, q 0 , F), wobei gilt: w ∑, Q, q 0 und F (Eingabe, Zustände, Anfangszustand und Endzustände) sind wie beim deterministischen Automaten definiert. • Die Übergangsfunktion nea: Q ∑ P(Q) bildet dabei Tupel (Zustand, Eingabe) auf eine Teilmenge der Potenzmenge von Q ab. • nea ist eine Erweiterung von wie folgt: nea(q, ) = {q} nea(q, wa) = {p | r nea(q, w) (r, a) = p} d. h. ausgehend von einem Zustand q lesen wir die Zeichenkette w. Dann gibt es einen Zustand r, von dem wir aus mit dem Eingabezeichen a zum Zustand p gehen können. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 56

Die Äquivalenz von nicht-deterministischen und deterministischen endlichen Automaten v v Satz: Sei L eine von einem nicht-deterministischen endlichen Automaten akzeptierte Sprache. Dann existiert ein deterministischer endlicher Automat, der L auch akzeptiert. Beweisidee: Der Beweis baut darauf auf, dass wir für einen gegebenen nicht-deterministischen endlichen Automaten NEA einen deterministischen endlichen Automaten DEA bauen können, der NEA simuliert. w Jeder Zustand im DEA wird dabei rein syntaktisch aus den Zustandsteilmengen (die "Ellipsen" auf Folie 55) von NEA konstruiert. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 57

Äquivalenz-Beweis v Wir beginnen mit einem nicht-deterministischen endlichen Automaten NEA = (∑, Q, nea , q 0 , F). Aus diesem konstruieren wir einen deterministischen endlichen Automaten DEA = (∑', Q', ', q 0', F') wie folgt: w ∑' = ∑ w Q' = P(Q). Die Zustände in DEA sind also Elemente der Potenzmenge der Zustände von NEA. t t v Elemente von Q' bezeichnen wir als DEA-Zustand [q 1, q 2, …, qn]. Ein Zustand ist ein DEA-Zustand [q 1, q 2, …, qn], wenn der NEA in einem der korrespondierenden Zustände q 1, q 2, …oder qn ist. w q 0'= [ q 0 ] w F' ist die Menge aller DEA-Zustände [q 1…, qi , . . . , qn] in Q', bei denen mindestens ein Element qi aus F ist. Jetzt müssen wir "nur noch" die Übergangsfunktion ' des deterministischen Automaten aus nea konstruieren. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 58

Äquivalenz-Beweis (2) v Wir definieren die Übergangsfunktion des deterministischen Automaten DEA wie folgt: '([q 1, q 2, …, qn], a) = [p 1, p 2, …, pn] genau dann wenn nea({q 1, q 2, …, qn}, a) = {p 1, p 2, …, pn} ' für DEA-Zustand [q 1, q 2, …, qn] bei Eingabe a wird so berechnet: w Wir wenden die nea vom NEA auf jeden der NEA-Zustände v q 1, q 2, …, qn für a an, was mehrere Zustandsmengen ergibt. w Diese Zustandsmengen vereinigen wir dann zur Menge {p 1, p 2, . . . , pn}, woraus wir den DEA-Zustand [p 1, p 2, . . . , pn] erhalten. Illustratives Beispiel: NEA: nea(q 1 , a)={p 1}, nea(q 2, a)={p 2, p 7}, nea(q 3, a)={p 2, p 3, p 12} {p 1 p 2, p 3, p 7 , p 12} => [p 1 p 2, p 3, p 7 , p 12] DEA: '([q 1, q 2, q 3]), a) = [p 1 p 2, p 3, p 7 , p 12] Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 59

Äquivalenz-Beweis (3) Jetzt sind wir soweit, den Beweis der Äquivalenz zu machen. Wir benutzen dabei vollständige Induktion über die Länge der Eingabe-Zeichenkette x. D. h. für alle x beliebiger Länge gilt: '(q 0', x) = [p 1, p 2, …, pn] genau dann, wenn nea(q 0, x) = {p 1, p 2, …, pn} v Induktionsanfang: |x| = 0. Als Eingabe ist also nur das leere Wort möglich. Beide Automaten akzeptieren genau dann, wenn q 0 ein Endzustand ist ( '(q 0', ) = nea (q 0, ), aufgrund der Konstruktion von DEA (siehe Folie 59), wo q 0'= [ q 0 ]. Also L(DEA) = L(NEA). v Induktionsschritt: Annahme: Für alle Eingaben der Länge |x| ≤ m akzeptieren die Automaten dieselbe Sprache L(DEA) = L(NEA). '(q 0', x) = [p 1, p 2, …, pn] genau dann, wenn nea(q 0, x) = {p 1, p 2, …, pn} v Nun betrachten wir Eingaben der Länge m+1, d. h. alle xa, wobei a ein beliebiges Element aus ∑ ist. Wir müssen jetzt zeigen, dass genau dann, wenn xa vom nichtdeterministischen endlichen Automaten erkannt wird, es auch vom deterministischen endlichen Automaten erkannt wird. v Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 60

Äquivalenz-Beweis (4) (1) Aufgrund der Induktionshypothese gilt für |x| ≤ m : '(q 0', x) = [p 1, p 2, …, pn] genau dann, wenn nea(q 0, x) = {p 1, p 2, …, pn} w d. h. die Eingabe von x wird von DEA genau dann erkannt, wenn sie auch von NEA erkannt wird. (2) Zur Erinnerung: Die Übergangsfunktion ' von DEA war definiert als: '([p 1, p 2, …, pn], a) = [r 1, r 2, …, rn] genau dann, wenn nea({p 1, p 2, …, pn}, a) = {r 1, r 2, …, rn} (3) Außerdem gilt: '(q 0' , xa) = ' ( '(q 0' , x), a) Aus diesen 3 Gleichungen erhalten wir: '(q 0', xa) = [r 1, r 2, …, rn] genau dann, wenn nea(q 0, xa) = {r 1, r 2, …, rn} d. h. die Eingabe von xa führt auf einen DEA-Zustand genau dann, wenn die Eingabe von xa einen der korrespondierenden Zustände im NEA ergibt. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 61

Äquivalenz-Beweis (5) v v Um diese Richtung des Beweises zu beenden, müssen wir nur noch sicherstellen, dass '(q 0', x) genau dann in F' ist, wenn beim nichtdeterministischen endlichen Automaten die Berechnung (q 0, x) einen Zustand ergibt, der in F ist. Für den vollständigen Beweis der Äquivalenz von NEA und DEA muss noch gezeigt werden, wie aus einem DEA ein NEA konstruiert wird: w nichts zu tun, da jeder DEA bereits ein NEA ist Damit gilt also: L(NEA) = L(DEA) q. e. d Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 62

Beispiel: Konstruktion eines DEA aus einem NEA v Gegeben sei ein NEA = (∑, Q, nea, q 0 , F) mit w Eingabealphabet ∑ ={0, 1} w Zustandsmenge Q ={q 0 , q 1} w Übergangsfunktion nea(q 0 , 0) = {q 0 , q 1} nea(q 0 , 1) = {q 1} nea(q 1 , 0) = nea(q 1 , 1) = {q 0 , q 1} w Anfangszustand q 0 w Endzustandsmenge F = {q 1} Copyright 2004 Bernd Brügge 0 0 q 0 1 1 Einführung in die Informatik II TUM Sommersemester 2004 q 1 1 63

Beispiel: Konstruktion eines DEA aus einem NEA (2) v Wir konstruieren nun den DEA= (∑', Q', ', [q 0], F') wie folgt: w Eingabealphabet: ∑'= ∑ = {0, 1} w Zustandsmenge: Q' = {[q 0 ], [q 1 ], [q 0 , q 1]} denn die Potenzmenge von Q={q 0 , q 1} ist P(Q) = { , {q 0}, {q 1}, {q 0, q 1}} w Übergangsfunktion ': '([q 0], 0) = [q 0 , q 1] '([q 0], 1) = [q 1] '([q 1], 0) = '([q 1], 1) = [q 0, q 1] '([q 0 , q 1], 0) = [q 0, q 1] denn nea(q 0 , 0) nea(q 0 , 1) nea(q 1 , 0) nea(q 1 , 1) = {q 0 , q 1} = {q 1} = = {q 0 , q 1} nea({q 0 , q 1}, 0)= nea(q 0 , 0) nea(q 1 , 0) = {q 0 , q 1} denn '([q 0 , q 1], 1) = [q 0, q 1] denn nea({q 0 , q 1}, 1)= nea(q 0 , 1) nea(q 1 , 1) = {q 1} {q 0 , q 1} = {q 0 , q 1} w Anfangszustand: [q 0] w Endzustände: F' = {[q 1], [q 0, q 1]} (denn q 1 ist ein Endzustand in NEA) Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 64

Myhill-Verfahren: Einfachere Konstruktion des DEA v Wenn der NEA als Übergangsgraph vorliegt, lässt sich der korrespondierende DEA relativ leicht konstruieren. 0 0 1 q 1 1 Die Übergangsfunktion ' für DEA konstruieren wir, indem wir die Zustände der Übergangstabelle schrittweise nur nach Bedarf erstellen. Wir fangen mit dem Anfangszustand [q 0] an. Eingabe 0 1 [q 0] [q 0 , q 1] [q 0 , q 1] Zustände 2: [q 0 , q 1] wird hinzugefügt 4: [q 1] wird hinzugefügt [q 1] 3: [q 1] ist neu 1: [q 0 , q 1] ist neu Neue Zustände werden also nur dann in die Spalte Zustände hinzugefügt, wenn sie als Resultat einer Zustandsberechnung in der Übergangstabelle auftauchen. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 65

Myhill-Verfahren (2): Aus der Übergangstabelle erzeugen wir dann den Übergangsgraph von DEA Eingabe aus ∑' 0 1 Zustände [q 0] [q 0 , q 1] [q 0 , q 1] [q 1] 0 [q 0 , q 1] 0 1 [q 0] Copyright 2004 Bernd Brügge [q 1] 1 Einführung in die Informatik II TUM Sommersemester 2004 1 66

Sprachen erzeugen interessante Probleme v v Wenn wir Sprachen durch eine Grammatik oder durch einen Automaten spezifizieren, gibt es viele interessante Fragen. w Sind zwei Sprachen, die wir mit verschiedenen Grammatiken spezifiziert haben, äquivalent? (Beispiel: Ist Java äquivalent mit C++? ) w Sind zwei Sprachen, die von verschiedenen Automaten akzeptiert werden, äquivalent? (Beispiel: Zwei Java-Compiler auf verschiedenen Plattformen) w Ist die Sprache, die von einem endlichen Automaten akzeptiert wird, endlich oder unendlich? w Ist die Sprache regulär oder nicht? Wir nennen eine Sprache regulär, wenn sie von einem endlichen Automaten erkannt wird, oder von einer regulären Grammatik erzeugt wird. w Im Rest dieses Vorlesungsabschnitts beschäftigen wir uns mit einem wichtigen Werkzeug, mit dem wir zeigen können, dass bestimmte Sprachen nicht regulär sind. => Pumping Lemma Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 67

Pumping-Lemma: Vorbereitungen v v Gegeben sei ein endlicher Automat A = (∑, Q, , q 0 , F) mit n Zuständen. Als Eingabe nehmen wir eine Zeichenkette a 1 a 2…. am, wobei m ≥ n gilt. Die Zeichenkette hat also mindestens die Länge n. Wir konstruieren jetzt eine ganz spezielle Übergangsfunktion : (q 0 , a 1 a 2…. am) = qi für i = 1, 2, . . . , m, d. h. ist so konstruiert, dass folgendes gilt: (q 0 , a 1) = q 1 (q 0 , a 1 a 2) = q 2 (q 0 , a 1 a 2 a 3) = q 3 … (q 0 , a 1 a 2…. am) = qm Erkenntnis: Da der Automat nur n Zustände hat und m ≥ n ist, ist es nicht möglich, dass die Zustände q 0, q 1, q 2, q 3, …, qm in der Übergangsfunktion alle verschieden sind! w Diese Erkenntnis ist das Kernstück des Pumping-Lemmas. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 68

Pumping-Lemma: Vorüberlegungen (2) v Schauen wir unsere Übergangsfunktion einmal im Übergangsgraphen für die Eingabe a 1 a 2…am der Länge m an: aj+1 aj+2…. ak q 0 a 1 a 2…. aj qj =qk ak+1 ak+2…. am qm Da die Eingabe m ≥ n Zeichen enthält und wir daher mindestens n+1 Zustände q 0, …, qm durchlaufen, wir aber nur n verschiedene Zustände haben, muss es zwei Indizes j und k geben, 0 ≤ j < k ≤ m, für die gilt: qj = qk Das Teilwort aj+1 aj+2…. ak hat dabei mindestens die Länge 1. Im Weiteren gehen wir davon aus, dass wir die kleinsten Indizes j, k finden (d. h. die Länge des Teilworts a 1 a 2…ak ist kleiner gleich n). Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 69

Pumping-Lemma: Vorüberlegungen (3) aj+1 aj+2…. ak q 0 v a 1 a 2…. aj qi =qk ak+1 ak+2…. am qm Da qm ein Endzustand ist, ist a 1 a 2…am in L(A), d. h. in der von A akzeptierten Sprache. Es ist aber auch a 1 a 2…aj ak+1 ak+2…am in L(A), also die Eingabe, die Schleife aj+1 aj+2…. ak beim Zustand qi =qk vermeidet. Und es ist a 1 a 2…aj aj+1 aj+2…ak ak+1 ak+2…am in L(A), d. h. die Eingabe, die zweimal über die Schleife beim Zustand qi =qk geht. Dies können wir natürlich verallgemeinern. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 70

Pumping-Lemma: Vorüberlegungen (4) aj+1 aj+2…. ak q 0 v v a 1 a 2…. aj qi =qk ak+1 ak+2…. am qm Es gilt für ein beliebiges i ≥ 0: w Wenn qm ein Endzustand ist und a 1 a 2…. am in L(A), dann ist auch a 1 a 2…. aj (aj+1 aj+2…. ak)i ak+1 ak+2…. am in L(A), d. h. eine Eingabe, die i-mal über die Schleife bei qi =qk geht. Wir haben also folgendes: w Gegeben sei eine lange Eingabezeichenkette E, die von einem endlichen Automaten A akzeptiert wird w Dann können wir immer eine Teilzeichenkette in E finden, die wir "aufpumpen" können. w Die daraus resultierende Zeichenkette wird auch von A akzeptiert. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 71

Pumping-Lemma für reguläre Sprachen v Lemma: Sei L(A) eine von einem endlichen Automaten akzeptierte Sprache, also eine reguläre Sprache. Dann gibt es eine Konstante n >0, mit der folgendes gilt: w Sei z ein beliebiges Wort mit der Länge |z| ≥ n. Dann ist es möglich, z als Konkatenation von Teilwörtern u, v und w zu schreiben: z = uvw, wobei |uv| ≤ n und |v| ≥ 1. w Damit ist dann auch uviw in L(A) für ein beliebiges i ≥ 0. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 72

Pumping-Lemma für reguläre Sprachen: Beweis z = uvw in L(A) => uviw in L(A) für ein beliebiges i ≥ 0 Beweis: Ausgangspunkt ist der Übergangsgraph aus unseren Vorüberlegungen. Wir belegen z, u, v und w einfach wie folgt: z = a 1 a 2…. am u = a 1 a 2…. aj v = aj+1 aj+2…. ak w = ak+1 ak+2…. am v= aj+1 aj+2…. ak q. e. d q 0 Copyright 2004 Bernd Brügge u= a 1 a 2…. aj qi =qk w = ak+1 ak+2…. am Einführung in die Informatik II TUM Sommersemester 2004 qm 73

Anwendungen des Pumping-Lemmas v v Wir benutzen das Pumping-Lemma mit Vorliebe dann. wenn wir zeigen wollen, dass eine bestimmte Sprache nicht von einem endlichen Automaten erkannt werden kann. Wir benutzen dabei die Beweismethode "Beweis durch Widerspruch": w Wir nehmen an, die Sprache ist regulär, d. h. von einem endlichen Automaten erkennbar. w Dann wählen wir geschickt eine hinreichend lange Zeichenkette z. w Wir zeigen, dass es für jede mögliche Zerlegung z = uvw eine aufgepumpte Zeichenkette uviw gibt, die nicht in der Sprache liegt. w Das ist ein Widerspruch zur Annahme, denn nach dem Pumping. Lemma müssen alle aufgepumpten Zeichenketten in der Sprache liegen. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 74

"Algorithmus" für das Ausführen von Beweisen mit dem Pumping-Lemma 2 -Personenspiel: Kontrahent behauptet, die Sprache L ist regulär. Sie behaupten, dass die Sprache L nicht regulär ist. 1) Der Kontrahent behauptet, dass L regulär ist, also muss das Pumping-Lemma gelten. 2) Sie bitten Ihren Kontrahenten, eine beliebige endliche Zahl n auszuwählen. n ist beliebig, aber einmal ausgewählt ist n fest. 3) Sie wählen nun geschickt eine Zeichenkette z aus L mit |z| ≥ n. Die Wahl von z ist im allgemeinen von n abhängig. 4) Sie bitten Ihren Kontrahenten, z in u, v und w aufzubrechen, wobei die Einschränkungen |uv| ≤ n und |v| ≥ 1 aus dem Pumping-Lemma einzuhalten sind. 5) Dann zeigen Sie, dass für mindestens ein i die nach dem Pumping-Lemma aufgepumpte Zeichenkette uviw nicht in L ist. Das ist ein Widerspruch zur Annahme 1), denn es würde bedeuten, dass das Pumping-Lemma nicht gilt. 6) Wenn der Kontrahent alle möglichen Zerlegungen ausprobiert hat, haben Sie gewonnen: L kann nicht regulär sein. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 75

Beispiel für eine nicht-reguläre Sprache v v v Gegeben sei die Sprache L = { akbk | k > 0 } Beispiel für L: a =( und b = ). Dann gilt unter anderem w In L: (), (()), ((())), (((()))) w Nicht in L: (, ), ((, ())), (()(, ))(( Kontrahent behauptet, L ist regulär. Sie behaupten, L ist nicht regulär. Kontrahent wählt n = 4. Sie wählen die Zeichenkette z = (((()))) L Kontrahent hat jetzt prinzipiell drei Möglichkeiten, z in u, v und w aufzubrechen: u v w 1. Er wählt v weit links in z = (((()))), so dass es nur öffnende Klammern, z. B. ((, besitzt: Dann hat uv 2 w = (((((())))zwar genau so viele schließende Klammern wie z, aber mindestens eine öffnende Klammer mehr uv 2 w liegt nicht in L. 2. Er wählt v weit rechts in z, so dass es nur schließende Klammern besitzt: Dann hat uv 2 w zwar genau so viele öffnende Klammern wie z, aber mindestens eine schließende Klammer mehr uv 2 w liegt nicht in L. 3. Er wählt v in der Mitte von z, so dass es aus öffnenden und schließenden Klammern besteht: Dann liegt in uv 2 w mindestens eine öffnende Klammer hinter einer schließenden Klammer. . . ( ). . . ) (. . . ( ). . . uv 2 w liegt nicht in L. Wegen des Pumping-Lemmas muss uv 2 w aber in L liegen. Widerspruch für jede Zerlegung! L kann nicht regulär sein. q. e. d. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 76

Alternativer Beweis v v Gegeben sei die Sprache L = { akbk | k > 0 } Beispiel für L: a =( und b = ). Dann gilt unter anderem w In L: (), (()), ((())), (((()))) w Nicht in L: (, ), ((, ())), (()(, ))(( v Kontrahent behauptet, L ist regulär. Sie behaupten, L ist nicht regulär. Kontrahent wählt n = 4. Sie wählen die Zeichenkette z = (((()))) L v Wegen der Bedingung |uv| ≤ n aus dem Pumping-Lemma kann der Kontrahent z nur so in u, v und w aufbrechen, dass v nur aus öffnenden Klammern (. . . ( besteht. Dann hat uv 2 w zwar genau so viele schließende Klammern wie z, aber mindestens eine öffnende Klammer mehr als z uv 2 w liegt nicht in L. Wegen des Pumping-Lemmas muss uv 2 w aber in L liegen. Widerspruch für jede Zerlegung! L kann nicht regulär sein. q. e. d. v Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 77

Es gibt eine Grammatik für L = { akbk | k > 0} Die Chomsky-Grammatik G = (T, N, P, Z) mit N = {Z}, T = {a, b} und P = { Z a. Zb, Z ab} erkennt die Sprache L = { akbk | k > 0 } v Beispiel einer Ableitung: Z a. Zb aa. Zbb a 3 Zb 3 . . ak-1 Zbk-1 akbk v G ist nicht regulär, denn die Produktion Z a. Zb ist weder linkslinear noch rechtslinear. v Man bezeichnet solche Produktion als kontextfrei. v Eine Grammatik, die kontextfreie Produktionen enthält, bezeichnet man als Chomsky 2 oder kontextfreie Grammatik => mehr über Grammatiken in Info IV v Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 78

Zusammenfassung v v v Für jede Sprache, die von einem nichtdeterministischen endlichen Automaten akzeptiert wird, gibt es einen äquivalenten deterministischen endlichen Automaten. Wir brauchen daher zwischen deterministischen und nichtdeterministischen endlichen Automaten nicht zu unterscheiden und sprechen deshalb nur von endlichen Automaten. Das Pumping-Lemma ist ein wichtiges Werkzeug, wenn man zeigen möchte, dass eine bestimmte Sprache nicht regulär ist, also von einem endlichen Automaten nicht erkannt werden kann. Copyright 2004 Bernd Brügge Einführung in die Informatik II TUM Sommersemester 2004 79