Seminar ber Algorithmen Einfhrung in die Spieltheorie Wieland

Seminar über Algorithmen Einführung in die Spieltheorie Wieland Rhenau Freie Universität Berlin, Institut für Informatik SS 2006 Wieland Rhenau, rhenau@inf. fu-berlin. de 1

Inhalt • Motivation der Spieltheorie • Geschichtlicher Hintergrund • Das „Nash Gleichgewicht“ • Spiele, Strategien und Lösungen • Spieltypen und Eigenschaften • Ausblick • Quellen Wieland Rhenau, rhenau@inf. fu-berlin. de 2

Motivation der Spieltheorie I • Spieltheorie ist Teilgebiet der Mathematik § Beschäftigt sich mit Gesellschafts-/Strategiespielen und Strategien der Spieler und Lösungen • Allgemein: Interaktionssysteme mit mehreren Akteuren deren Strategien wirken sich auf andere Akteure aus • Die Spieltheorie ist: § Keine einzelne Theorie an sich § Sammlung von Analysewerkzeugen (Algorithmen) § Anwendungsgebiete: Informatik, Wirtschafts- und Sozialwissenschaften, Psychologie Wieland Rhenau, rhenau@inf. fu-berlin. de 3

Motivation der Spieltheorie II • Relevant für die Informatik: • Algorithmische Spieltheorie § Interaktive Systeme wie Internet/dezentrale Netzwerke § Akteure teilen sich Ressourcen § Bsp: Netzwerkentwurf, Routing, Load Balancing… § Ziel: Finden von Gleichgewicht(en) und dominanten Strategien • Entwickeln von Strategien § Optimale Lösung für alle Akteure § Stauvermeidung § Ressourcen sparen Wieland Rhenau, rhenau@inf. fu-berlin. de 4

Geschichtlicher Hintergrund • Ursprung der Spieltheorie: § John von Neumann 1928 § Analyse von Gesellschaftsspielen allgemeine Theorie § zuvor von Anderen nur einzelne Aspekte betrachtet § „Theory of Games and Economic Behavior” 1944 - Neumann und Oskar Morgenstern § Beginn der modernen Spieltheorie von Neumann [2] • Anfänglich auf wirtschaftliche Fragestellungen angewendet Morgenstern [3] Wieland Rhenau, rhenau@inf. fu-berlin. de 5

Das „Nash Gleichgewicht“ I • John Forbes Nash Jr. § Mathematiker, der Theorie von Morgenstern und Neumann erweiterte § Resultat: Nash Equilibrium 1949 • Nash Gleichgewicht (Equilibrium) § Beschreibt Zustand, in dem kein Spieler einen Vorteil gegenüber den anderen erreicht, wenn er alleine seine Strategie ändert § Nash hat dieses Gleichgewicht definiert und den Existenzbeweis erbracht Wieland Rhenau, rhenau@inf. fu-berlin. de 6 Nash [4]

Das „Nash Gleichgewicht“ II • Mathematische Darstellung eines Spiels in Normalform • Ist Tripel G aus Menge von Spielern I wobei • Σi ist Strategiemenge des Spielers i • Strategieprofil Strategie des Spielers i ist beste Antwort auf Strategien aller Gegenspieler • Und Auszahlungsfunktion Hi für jeden Spieler i, abhängig von seiner gewählten Strategie und der Strategie der anderen Spieler • Es existiert kein Strategieprofil, welches eine höhere Auszahlung liefert Wieland Rhenau, rhenau@inf. fu-berlin. de 7

Das „Nash Gleichgewicht“ III • Finden von Nash Gleichgewichten § Einfacher Fall: 2 Spieler, Normalform(simultan) § Matrix Darstellung möglich • Algorithmus: § Für alle Spieler i=1, …n werden die Auszahlungen resultierend aus der Strategie und der möglichen Strategien der anderen Spieler als Tupel dargestellt § Das Auszahlungsoptimum wird für i=1, . . n Spieler markiert § Alle Felder, in denen alle Werte der Tupel markiert sind, sind „Nash Gleichgewichte“! Wieland Rhenau, rhenau@inf. fu-berlin. de 8

Spiele, Strategien und Lösungen I • Spieltheorie schafft ein Modell für Interaktionssysteme § System wird als Spiel betrachtet § Spielt ist definiert durch: Wer sind Spieler (Entscheidungsträger)? Welche Strategien sind wählbar (Σi für alle i)? Welche Reihenfolge haben die Spielzüge? Was sind die Konsequenzen jeder Kombination an Entscheidungen aller Spieler (Hi für alle i)? • Komplexe Spiele: § Welche Informationen hat jeder Spieler über die Anderen? § Welche Annahmen trifft jeder über die anderen? • Ziel eines Spielers: § Optimierung des Wertes der Auszahlungsfunktion Wieland Rhenau, rhenau@inf. fu-berlin. de 9

Spiele, Strategien Lösungen II • Lösungskonzepte: § Nach Definition des Spiels Ermittlung optimaler Strategien § Berechnung: Ergebnis bei Verfolgung dieser Strategien durch alle Spieler § Aktion==Handlung in bestimmter Situation § Strategie== Funktion die Spielsituation eine Aktion zuweist • Reine vs. Gemixte Strategien § Reine Strategie Funktion die jeder Situation im Spiel genau eine Aktion zuteilt § Gemixte Strategie Wahrscheinlichkeitsverteilung über gesamte Aktionsmenge, danach wird zufällig eine Aktion vom Spieler gewählt (Beispiel später) Wieland Rhenau, rhenau@inf. fu-berlin. de 10

Spiele, Strategien, Lösungen III • Darstellungen eines Spiels § Zwei Arten: Normalform und extensive Form § Grundsätzlich alle Spiele in beiden darstellbar • Normalform für einstufige Spiele § Darstellung in Matrix mit Werten der Auszahlungsfunktion § Spieler 1 Zeilen – Spieler 2 Spalten Wieland Rhenau, rhenau@inf. fu-berlin. de 11

Spiele, Strategien, Lösungen IV • Extensive Form § Sequenzielle Spiele § Also mehrstufig (über mehrere Runden) § Darstellung durch gerichtete Graphen § Jeder Knoten ist Situation von dem Spieler ein Aktion durchführen, Pfeile sind Aktionen § Jede Aktion führt zu neuer Spielsituation § Letzter Knoten bedeutet Spielende § „Spielbaum“ Wieland Rhenau, rhenau@inf. fu-berlin. de 12

Spiele, Strategien, Lösungen V • Einmalige vs. Wiederholte Spiele • Einmaliges Spiel „one-shot-game“ § Eine Durchführung § Danach Auszahlung • Wiederholte Spiele § Durchführung mehrmals hintereinander § Auszahlungen werden summiert § Strategisch relevant: Spieler kennen Rundenzahl? § Ist Wiederholung unendlich „Superspiel“ Wieland Rhenau, rhenau@inf. fu-berlin. de 13

Spiele, Strategien, Lösungen VI • „kooperative“ vs. „nicht-kooperative“ Spieltheorie • „kooperative Spieltheorie“ § Spieler können (bindende) Verträge abschließen § Handeln demnach nicht 100%-ig egoistisch • „nicht-kooperative“ Spieltheorie § Jeder Spieler sieht nur seinen eigenen Vorteil § Bezogen auf Einsatz und Forschung relevanter § Reale Probleme bieten oft keine Kooperation der Konkurrenten Wieland Rhenau, rhenau@inf. fu-berlin. de 14

Eigenschaften von Spielen • Nullsummen-Eigenschaft § Die Summe aller Auszahlungen ergibt 0 § Was einer gewinnt, verliert der andere • Perfekte Information § Jedem Spieler ist in Entscheidungssituation bisheriger Spielablauf (Entscheidungen der Mitspieler) bekannt § Beispiel: Schach • Perfektes Erinnerungsvermögen § Information aus vorherigen Entscheidungssituationen sind weiterhin bekannt § Beispiel: Skat aus bereits gespielten Karten kann man Wahrscheinlichkeiten oder sichere Information gewinnen Wieland Rhenau, rhenau@inf. fu-berlin. de 15

Spieltypen I • Einfaches Beispiel: „Goal-Kick“ -2 x 2 Matrix § Ein Schütze, ein Torwart § Vereinfacht: nach links/rechts schießen links/rechts springen § Es existiert kein Nash-Gleichgewicht § Der Verlierer kann immer Strategie ändern und damit gewinnen! Wieland Rhenau, rhenau@inf. fu-berlin. de 16

Spieltypen II • Coordination Game (oder Kampf der Geschlechter, …) § § § Zwei Personen wollen zusammen spielen Möglichkeiten: Fußball oder Tennis Beide wollen zusammen spielen Jeweils aber das andere Spiel Zwei Gleichgewichte entstehen, jedoch keines dominant Dominanz ein Gleichwicht bringt höhere Auszahlungswerte als ein anderes Wieland Rhenau, rhenau@inf. fu-berlin. de 17

Spieltypen III • Spiel mit dem Untergang § Zwei Autos fahren aufeinander zu § Wer ausweicht ist der „Angsthase“ Zwei Nash Gleichgewichte in reiner Strategie: Fahrer 1 ausweichen/Fahrer 2 weiterfahren und Fahrer 1 weiterfahren/Fahrer 2 ausweichen Ein Nash Gleichgewicht in gemixten Strategien ausweichen/ausweichen § Weil: beide weichen mit Wahrscheinlichkeit von ½ aus § § Wieland Rhenau, rhenau@inf. fu-berlin. de 18

Spieltypen IV • Gefangenen Dilemma § § § Zwei Gefangene werden verhört Haben keine Absprachemöglichkeit Ausgangspunkt ist rationales Verhalten beider Gestehen ist individuell immer besser Wenn ich gestehe komme ich frei wenn der andere schweigt Wenn ich gestehe 4 Jahre und nicht 5 wenn er gesteht § Individuell: Gestehen immer besser jedoch nicht kollektiv Nashgleichgewicht ist pareto-ineffizient Wieland Rhenau, rhenau@inf. fu-berlin. de 19

Preis der Anarchie • Wiederholtes Spiel konvergiert gegen Nash. Gleichgewicht § falls Akteure egoistisch § falls selbe Rahmenbedingungen gelten • Nash-Gleichgewicht nicht zwangsweise Optimum! § jeder Spieler optimiert nur seine Auszahlung § Es könnte auch u. U. jeder einzelne besser sein wenn sie nicht im Nash-Gleichgewicht sind § Gefangenen Dilemma als Beispiel § Preis der Anarchie: Quotient aus der besten Lösung (Optimum) und dem Nash-Gleichgewicht Wieland Rhenau, rhenau@inf. fu-berlin. de 20

Braess Paradoxon I • Braess Paradoxon (nach Dietrich Braess) § Zusätzliche Handlungsalternative kann bei rationalem Verhalten Verschlechterung für alle bedeuten § Ursprung in der Verkehrsplanung § 1968 von Braess entwickelt § Vier Städte sind durch Autobahnen/Landstraßen verbunden § Auf Autobahnen ist man schneller als auf Landstraßen § trotz kürzeren Strecken § Alle wollen optimale Fahrzeit T= Fahrtzeit in min P= Verkehrsfluss (1000 Fahrzeuge pro Stunde) Gesamtmenge 6000 § (Rechenbeispiel [2]) Wieland Rhenau, rhenau@inf. fu-berlin. de 21

Braess Paradoxon II • T(Autobahn)= (50+P)min • T(Landstraße)=(0+10 P)min • Mit Verkehrsdichte steigt die Fahrtdauer • Jeder Fahrer (Pendler) fährt daher konstant • Optimale Verteilung: jeweils die Hälfte der 6000 Fährt Route ABD und die anderen 3000 fahren ACD Fahrzeit für alle Fahrer von: (50+3)min+(0+30)min= 83 min • Damit ist die Strecken optimal ausgelastet und die Fahrzeit ist für alle im Gleichgewicht Wieland Rhenau, rhenau@inf. fu-berlin. de 22

Braess Paradoxon III • Bau einer Verbindungsstraße § Überwindet Hindernis § Sehr kurze Strecke mit T(10+P)min • Gleichgewicht aller Fahrtdauern: § 2. 000 Fahrer wählen die Strecke ABD § 2. 000 Fahrer wählen die Strecke ACD § 2. 000 Fahrer wählen die Strecke ABCD • Dauer für alle: 92 min! § Landstraßen werden mehr genutzt § höhere Fahrtdauer auf AB und CD Wieland Rhenau, rhenau@inf. fu-berlin. de 23

Braess Paradoxon IV • Fahrtdauern im Nash Gleichgewicht § ändert ein Fahrer die Route, braucht er selbst länger § Fahrer seiner alten Route weniger Zeit nicht das Ziel eines einzelnen • Beispiel für Änderungen: § 3. 000 Fahrer ABD=93 min § 2. 000 Fahrer ACD=82 min § 1. 000 Fahrer ABCD=81 min • Fahrt dauert 1 min länger § Würde kein Fahrer machen • FAZIT: egoistisches Handeln des Einzelnen ergibt insgesamt ein suboptimales Gleichgewicht für alle • Streckenneubau nutzlos! Wieland Rhenau, rhenau@inf. fu-berlin. de 24

Diskretes (atomares) Load Balancing Game I • n Benutzer wollen Jobs durchführen • m Rechner stehen zur Verfügung • Jeder Benutzer möchte einen Job dauerhaft von einer Maschine durchführen lassen (also nicht Round Robin) • pi ist die „Jobgröße“ vom Benutzer i • Menge der Rechner • A ist die Zuweisung eines Jobs pi auf einen Rechner j • L ist die Gesamtlast eines Rechners j Wieland Rhenau, rhenau@inf. fu-berlin. de 25

Diskretes (atomares) Load Balancing Game II • Da jeder Nutzer egoistisch ist, kann die Spieltheorie eingesetzt werden • Beispiel: 4 Benutzer und 3 Rechner • Antwortzeit ist rj(L) • die Jobgrößen seien (pi =1 für i=1, 2, 3, 4) • Lasten: Rechner 1=2, Rechner 2=1 Rechner 3=1 • ri(L) = i. L • Antwortzeiten sind: Rechner 1+Rechner 2 = 2 Rechner 3 = 3 Wieland Rhenau, rhenau@inf. fu-berlin. de 26

Diskretes (atomares) Load Balancing Game III • Formulierung des Nash Gleichgewichts § Eine ausführbare Zuweisung A ist ein Nash Gleichgewicht, wenn kein Benutzer i das einseitige Bedürfnis hat, seinen Job auf einem anderen Rechner zuzuweisen. § und für alle • Einfaches Beispiel mit 2 Benutzern und 2 Rechnern § p 1 = p 2 =1 und S 1 = S 2 = {1, 2} § Beide Jobs gleich groß und beide Benutzer können auf beide Maschinen zugreifen § r 1(L) =2 und r 2(L) =L § Rechner 1 hat konstante Antwortzeit § Rechner 2 hat Antwortzeit = linear zur Last Wieland Rhenau, rhenau@inf. fu-berlin. de 27

Diskretes (atomares) Load Balancing Game IV • 4 mögliche Zuweisungen • {(1, 1), (2, 1)} ist nicht im Gleichgewicht • Die anderen 3 Möglichkeiten stellen alle ein Nash Gleichgewicht dar Wieland Rhenau, rhenau@inf. fu-berlin. de 28

Diskretes (atomares) Load Balancing Game V • Jedes diskrete Load Balancing Game hat ein Nash Gleichgewicht • Man beginnt mit irgendeiner Zuweisung • Alle Spieler wechseln gleichzeitig die Rechner, wenn sie unzufrieden sind • Findet man eine Funktion, (Zuweisung ist Argument) deren Wert sich verringert mit jedem Wechsel, wird der Vorgang des Wechselns irgendwann terminieren, weil kein Spieler mehr in eine für ihn bessere Situation kommen kann. Wieland Rhenau, rhenau@inf. fu-berlin. de 29

By the Way • Es gibt keinen Nobelpreis für Mathematik • Bisher 6 Wirtschaftsnobelpreise für spieltheoretische Arbeiten: • 1994 an John Forbes Nash Jr. , John Harsanyi und Reinhard Selten • 1996 an William Vickrey • 2005 an Robert Aumann und Thomas Schelling Wieland Rhenau, rhenau@inf. fu-berlin. de 30

Ausblick • Anwendungen Informatik: § Entwicklung von Routingverfahren in dezentralen Netzwerken/ ad hoc Netzwerken (Sensornetze) § Lösungen für Load Balancing bei knappen Ressourcen • Anwendungen Wirtschaft: § u. a. Konzeptionen von Versteigerungen, z. B. von Rundfunk - und Mobilfunklizenzen § Duopolisten teilen Marktsegmente • Spieltheorie im Alltag: § Filme: „A beautiful Mind“ (angelehnt an Nash), Π, Memento… § Tools zum „Finden“ von Gleichgewichten und dominanten Strategien bei http: //www. gametheory. net Wieland Rhenau, rhenau@inf. fu-berlin. de 31

Quellen • [1] http: //www. cs. cornell. edu/courses/cs 684/2005 fa/ • [2] http: //de. wikipedia. org/wiki/John_von_Neumann • [3] http: //www. gametheory. net/dictionary/People/Oskar. Morgenstern. html • [4] http: //nobelprize. org/economics/laureates/1994/nash-autobio. html • [5] http: //www. gametheorie. net • [5] http: //de. wikipedia. org/wiki/Spieltheorie • [6] Osborne & Rubenstein „A Course in Game Theory“, 1994 • [7] Garing, Lücking, Monien, Tieman „Nash Equilibria, the Price of Anarchy and the Fully Mixed Nash equilibrium Conjecture“ University of Paderborn Wieland Rhenau, rhenau@inf. fu-berlin. de 32

Danke!!! Fragen? !? ! Wieland Rhenau, rhenau@inf. fu-berlin. de 33