Dpartement de mathmatiques et physique Facult des Sciences

Département de mathématiques et physique Faculté des Sciences appliquées Introduction à l’Intelligence Artificielle Nathanaël Ackerman Le 2 décembre 2004

Introduction et Historique • • Premières définitions et dichotomies Historique : dates, noms, programmes… Domaines d’application actuels Conclusions – Deux perspectives sur l’historique du domaine – Le « pourquoi » de l’IA • Concepts clés • Bibliographie

Partie 1 : Premières définitions et dichotomies

Définitions • Choix du nom 1956, conférence de Dartmouth • « L’intelligence artificielle est la science qui consiste à faire à des machines ce que l’homme fait moyennant une certaine intelligence » M. Minsky • Problème de récursivité dans la définition

La « complexité » mentale est-elle comparable à la complexité informatique ? La définition de Minsky exclut des domaines majeurs de l’IA : – La perception (vision et parole) – La robotique – La compréhension du langage naturel – Le sens commun

Dictionnaires • Qu’est-ce que l’intelligence ? • Qu’est-ce que l’artificiel ?

Remarques • La définition du terme « intelligence » change. • L’intelligence est liée à l’homme dans ses facultés de compréhension, et d’apprentissage, et observable grâce au comportement (adaptabilité). • Renvoi à des questions fondamentales : qu ’est-ce que la compréhension? Qu ’est-ce que l ’apprentissage ? Qu ’estce que la connaissance ?

• Les tentatives de définitions de l’IA, sont floues quant aux domaines d’application et s’inscrivent plutôt dans une perspective cognitiviste de simulation du cerveau humain. Elles excluent la possibilité d’une forme d’intelligence non humaine. • Le terme artificiel a une connotation relativement péjorative et induit une tension conflictuelle entre l’homme et l’ordinateur. L ’ordinateur reste subordonné à l ’homme.

Définition « opérationnelle » • « L’IA est le domaine de l’informatique qui étudie comment faire à l’ordinateur des tâches pour lesquelles l’homme est aujourd’hui encore le meilleur. » E. Rich • Définition essentiellement évolutive, l ’IA est innovatrice :

Homme Perception Processus actions internes Vision Monde Raisonnements Motricité Résolution de problèmes Robot Planification Apprentissage Audition Emotion Créativité Monde Langage Parler

Domaines connexes • • • Philosophie des sciences, de la connaissance, de l’esprit Logique Linguistique Neurophysiologie Psychologie cognitive Optimisation mathématique Automatique et contrôle Statistique Théorie des graphes Aquisition et traitement d’images Dynamique des systèmes chaotiques Programmation robotique …

Dichotomies • • Strong AI vs Weak AI Niveau de compétence vs niveau de performance Algorithmique vs non algorithmique Vision analytique vs vision émergente de la résolution de problèmes • Sciences du naturels vs sciences de l’Artificiel • . . .

Strong AI VS Weak AI • Point de vue essentiellement philosophique relatif à la conscience des machines • La conscience peut-elle émerger de manipulations purement syntaxiques ? (cf Chambre Chinoise, Searle 81) • Hypothèse d ’un système physique de symboles (Newell 1980); la conscience du thermostat (D. Chalmers) • Matrix

Niveau de compétence VS Niveau de performance • Distinction introduite par Chomsky : faire « comme » ou faire « aussi bien que » . • L’oiseau et l ’avion volent … • Jeux d ’échecs : les GMI réfléchissent différemment de Deep Blue • Question fondamentale en Sciences Cognitives : l ’aspect séquentiel du processeur limite-t-il la validité de l ’approche connexionniste?

Algorithmique vs non Algorithmique • Un algorithme est une séquence finie d ’instructions qui permet de résoudre un problème en un temps fini. • La définition de l ’IA comme domaine de la programmation non algorithmique est équivoque.

Vision analytique vs vision émergente • Décomposition de problèmes en sous-problèmes plus simples à résoudre (analyse procédurale, système experts basés sur la logique des prédicats) • Distribution des tâches à un ensemble d ’agents qui interagissent (NN, OO, Ant Algorithm) • Dans la même veine : – IA classique vs IA NN – IA symbolique vs IA numérique

Plus court chemin (méthode analytique) f(x) x

Plus court chemin (approche émergente) f(x) x x

Sciences naturelles vs Sciences de l’artificiel • Compréhension des phénomènes de la nature • Cette compréhension passe par la construction de modèles capables de réaliser des simulations. D’où la possibilité d ’explorer effectivement les conséquences des postulats initiaux; éthologie des programmes informatiques • Sciences normatives par opposition au caractère descriptif des sciences naturelles.

Caractéristiques de l’IA VS informatique classique • Informatique plus symbolique • Aspects plus déclaratif, moins procédural • On privilégie la satisfaction à l’optimisation (sauf si l’on introduit des méta-règles heuristiques) • Données incomplètes, inexactes, conflictuelles • La notion de représentation d’un problème est fondamentale • Pluridisciplinaire: logique, psycho-cognitive, biologie, neurosciences, philosophies, mathématiques …

Partie 2 : Historique : dates, noms, programmes…

Automates : recréer la vie

Machines Programmables Métier à tisser (Jacquard 1805) Machine Analytique (Babbage & A. Ada Lovelace 1837)

Quelques approches théoriques avant 1900 • XIII : Raymond Lulle (Ars Magna) • XVIII : Gottfried Wilhelm Leibnitz (calculus Ratiocinator) • XIX : – George Boole, The Laws of Thaught, 1854; – Gottlob Frege (1879 – logique des prédicats)

Tentative de Leibnitz substance = 2 material = 3 immaterial = 5 animate = 7 inanimate = 11 sensitive = 13 insensitive = 17 rational = 19 irrationnal = 23 … Human = 2 x 3 x 7 x 13 x 19 = 10374 Mineral = 2 x 3 x 11 = 66 103674 mod 66 0 => a human is not a mineral Transitivité de l’héritage

Formalisation du raisonnement • Logique des propositions syntaxe inductive permettant d’écrire des formules Sémantique vérifonctionnelle (+ table de vérité) (A (A B)) B modus ponens ( B (A B)) A) modus tollens • Logique des prédicats

1900 -1945 • David Hilbert – 23 problèmes (Second Congrès International des mathématiques à Paris, 1900) • Russell et Whitehead – Principia mathematica (1913) • Emil Post – Systèmes de production • Gödel – théorème d’incomplétude (1931) • Turing – machine universelle (1936) – pas d’a priori sur la non prouvabilité d’un théorème

La machine universelle

Neurone formel Mac Cullogh & Pitts (1943) 1 0 0. 3 -1 0. 5 1 1

Cybernétique (1947) • Norbert Wiener, s’inspirant de la biologie, introduit la notion de rétroaction dans les systèmes de traitement de l’information. • Idée des boucles réentrantes fondamentales en IA et Sciences Cognitives. input Système output controle feedback

ENIAC 1945 • Electrical and Numerical Integrator and Calculator • Architecture de Von Neumann: ranger les données et les instructions dans une « mémoire » ; le processeur – séparé – réalise les calculs. • 1900 tubes à vides, 1500 relais, des milliers de résistances, capacités … 200 KW • 10 khz (addition)

The Turing Test (1950)

Dartmouth 1956 « Chaque aspect de l’apprentissage, ou tout autre caractéristique de l’intelligence, peut en principe être décrit si précisément qu’il est possible de construire une machine pour le simuler » • • • Minsky : le dinosaure… Newell et Simon (Prix Nobel d’économie 1978) John Mc. Carthy Claude Shannon : théorie mathématique de l’information et de la communication (1960) Selfridge : Pandemonium

Approche Symbolique • Newell et Simon (CMU) – Logic Theorist : démonstration des théorèmes des Principia Mathematica de Russell et Whitehead – General Problem Solver (GPS 59) • Weizenbaum – Eliza (1966) simule un psycholgue rogerien • Dans la lignée de A. Turing – Traduction automatique du langage – Jeux d’ échecs

Exemples typiques de problèmes (années 50 -60) • Le fermier, le loup, la chèvre et le choux • Les recipients : comment obtenir 1 litre d’eau, avec deux récipients de capacité 2 litres et 5 litres (ce dernier étant rempli au départ) • Intégration symbolique de sin(x). cos(x) • Voyageur de commerce • Les huits reines • Les tours de Hanoi • Le Singe et les bananes

Résultats • Première catégorisations sur les strucutres de données : arbre de recherche, définition d’un espace d’états, … • Algorithme de recherche : A, A*, … • Succès de l’application de la logique des prédicats • Mac. Syma et GPS • Échec flagrant de la traduction automatique : la sémantique émerge du contexte; peu de moyen pour représenter le sens commun •

Recherche dans un arbre

Algorithme A* - problème du taquin 0 + 4 2 8 3 1 6 4 7 5 1 + 5 2 8 3 1 6 4 7 5 2 + 4 2 8 3 14 76 5 1 + 3 2 8 3 1 4 76 5 2 + 3 2 3 1 8 4 76 5 1 + 5 2 8 3 1 6 4 75 2 + 3 2 8 3 1 4 76 5 3 + 4 2 3 1 8 4 76 5 3 + 2 2 3 1 8 4 76 5 3 + 4 2 8 3 71 4 6 5 3 + 3 8 3 2 1 4 76 5 4 + 1 1 2 3 8 4 76 5 5 + 2 1 2 3 7 8 4 65 5 5 + 0 1 2 3 8 4 76 5 GOAL

Approche connexionniste • Mac Cullogh & Pitts – Développement du neurone formel (1943) • Hebb – relie les comportements de conditionnement simple à une loi de renforcement synaptique (1949) • Selfridge – Pandemonium (1956) • Rosenblatt – modèle du Perceptron (1958)

Le perceptron • réseau de neurones à 2 couches inspiré du système visuel • Définition d’une règle d’apprentissage – La règle delta

Les années 70 – début 80 • Période d’ombre pour l’approche connexionniste – Minsky et Papert, Perceptrons, 1969 – Impossibilité de l’apprentissage du XOR • Renforcement de l’approche symbolique : – Travaux sur la représentation de la connaissance : réseaux sémantiques, Scripts (Shank 1977), approche déclarative – Etude des micromondes : SHRDLU (Winograd, 1972) – Développement des Systèmes Experts, apparition de Prolog (1972)

Réseaux sémantiques Winston 1970

Ontologie Web (2002)

Réseaux sémantiques

SHRDLU : the Block World Winograd 1972

SHRDLU 2001 HMM + NN Analyse Syntaxique Analyse Sémantique

Systèmes Experts Base de connaissance (BC) mémoire à long terme Base de faits (BF) mémoire de travail Moteur d’inférence (MI) • Chainage avant (Rules) ou arrière (Prolog) • Dendral (1965), Mycin (1974); Prospector(1983)

Mycin (1974 - …) • Aide au diagnostic / thérapie dans le domaine médical (septicémies, méningites …) • Connaissances représentées explicitement sous forme de règles • Prise en compte de l’incertain • Réelle compétence • Capacité à expliquer le raisonnement

Mycin – exemple de règles • Si le site de culture est le sang, et que le germe est positif à la coloration de Gram et que la porte d’entrée est l’appareil gastro-intestinal et que • L’abdomen est le site d’infection ou • Le bassinet est le site d’infection Alors • Il y a de très fortes présomptions pour que les entérobactéries soient la classe d’organismes que la thérapie devra traiter.

Années 80 • Récession de l’approche symbolique due aux déclarations non tenues : – Échec de la généralisation des micromondes – Manque de souplesse des systèmes experts • Succès dans des domaines ciblés, intégration dans la vie économique : informatique de gestion … • Renaissance de l’approche connexionniste : – Hopfield, mémoire autoassociative, 1982 – Rumelhart & Mc. Clelland, Parallel Distributed Processes, MIT Press, 1985

Le perceptron multi-couches

Hopfield • Mémoires auto-associatives par un apprentissage hebbien • Utilisation des résultats de la physique statistique et des verres de spins

Partie 3: Domaines actuels

Domaines actuels de recherche • Machine Learning, reinforcement learning • Datamining : classification supervisée et non supervisée; combinaison de classificateurs • Vision artificielle, reconnaissance des formes • Reconnaissance et traitement de la parole, sens commun • Définition de méthodes métaheuristiques : ants algorithm, local search, algorithme génétique

• Systèmes multiagents (intelligence distribuée, planification multiagents) • Agents intelligents (sur internet); Objets Intelligents • Programmation automatique • Philosophie de l’Esprit : Hard Problem of consciousness

• Robotique sensorielle (Cog, Kismet) • Artificial Life • Chimie computationnelle • Etude du chaos dans les réseaux de neurones • Evolutionary robotics

Images

Conclusions

Perspective philosophique • Emulation de la pensée raisonnée • Trois étapes : – Représentation de la connaissance – Mode déductif : le raisonnement – Mode inductif : l’apprentissage

Perspective technologique • Développement de la puissance de calcul des ordinateurs (loi de Moore) • Changement de paradigme : la technologie a pris une longueur d’avance; distinction difficile entre intégration technologique et véritable progrès scientifique.

Conclusions • Deux acceptions dans la définition : – Programme scientifique et technologique visant à doter l’ordinateur de capacités telles que la vision, l’acquisition des connaissances, la prise de décisions … habituellement attribuées à l’intelligence humaine (démarche pragmatique). – Étude des mécanismes de l’intelligence en général, l’ordinateur est un moyen de simulation (démarche cognitive). • Réel échange entre l’homme et la machine (le Pourquoi? de la définition opérationnelle) – – – Enseignement intelligemment assisté Réalité augmentée Éthologie artificielle: S. Wolfram, A new kind of Science, 2002. Hans Moravec & nanotechnologies ICCS 2002, Boston, Massachussets

COURS à l’ULB • INFO 362 : éléments de logique et d’intelligence artificielle (Pierre Gaspart – 4ème info - FSA) • MATH 304 : Intelligence artificielle (Pierre Gaspart – 5ème FSA) • INFO 373 : méthodes numériques en Intelligence artificielle (Hugues Bersini – 5ème - FSA) • INFO 087 : Intelligence artificielle (Pascal Francq - Infodoc – Philo et Lettres) • COGN 00 X : Introduction à l’intelligence artificielle (Nathanael Ackerman – DEA Sciences Cognitives - PSycho)

Bibliographie • A. Barr, E. A. Feigenbaum, The Handbook of Artificial Intelligence, W. Kaufmann, Inc. , Palo Alto, 1981. • Cornuéjols A. , Miclet L. , Apprentissage Artificiel, concepts et algorithmes, Eyrolles, Paris, 2002. • D. Crevier, The tumultuous History of the search for Artificial Intelligence, Harper Collins Publishers, Inc. , New York, 1993. (Flammarion, coll. Champs, 1997). • J. -P. Delahaye, L ’intelligence et le calcul, de Gödel aux ordinateurs quantiques, Belin, Pour la Science, 2002. • J. -P. Haton, M. -C. Haton, l ’Intelligence Artificielle, PUF, coll. Que sais-je ? , 3 d ed. , 1993.

• Haykin S. , Neural Networks, a comprehensive foundation, Prentice Hall, 2 nd ed. , 1999. • Hofstader D. , Gödel, Escher, Bach : an Eternal Golden Braid, Basic Books, USA, 1979 (Intereditions/ Masson, Paris, 1985) • Nilsson N. J. , Principles of Artificial Intelligence, Palo Alto, Tioga Publishing Co. , 1980. • N. J. Nilsson, Artificial Intelligence: A New Synthesis, Artificial Intelligence, n° 125, pp 227 -232, Elsevier, 2001. • J. -F. Le Ny et al. , Intelligence naturelle et Intelligence Artificielle, Symposium de l ’APSLF (Rome, 1991), PUF, Paris, 1993. • M. Minsky, The Society of Mind, Basic Books, First Touch. Stone ed. , New York, 1988.

• Rich E. , Knight K. , Artificial Intelligence, Mc. Graw Hill Inc. (International Edition), USA, 1991. • Searle J. R. , The mystery of consciousness, Granta Books, GB, 1997. (Odile Jacob, Paris, 1999) • Searle J. R. , Minds, Brains and Programs, the Behavioral and Brain Sciences, 1981 • Turing A. M. , Computing Machinery and Intelligence, Mind, 1950. • Pour la Science, L ’Intelligence, n° spécial, décembre 1998

Revues Scientifiques • AI communications, The European Journal on Artificial Intelligence, IOS Press, The Nederlands, published quarterly. • AI Magazine, AAAI Press, USA, published quarterly. • Artificial Intelligence, Elsevier Science, The Nederlands, published monthly. • Artificial Life, MIT Press, Cambridge, Massachussets, published quarterly.

• IEEE Intelligent Systems, IEEE Press, published 6 times in a year. • JETAI : Journal of Experimental and theoretical Artificial Intelligence, Taylor and Francis Ltd, UK. , published quarterly. • Journal of the ACM, NY, published 6 times a year.