Lthique des STIC Regard sur lvolution de linformatique

  • Slides: 60
Download presentation
L’éthique des STIC : Regard sur l’évolution de l’informatique Jean-Paul Haton LORIA/INRIA, Université de

L’éthique des STIC : Regard sur l’évolution de l’informatique Jean-Paul Haton LORIA/INRIA, Université de Lorraine à Nancy Institut Universitaire de France Académie Lorraine des Sciences Nancy 12 mars 2015 1

Plan de l’exposé q Les tendances • • La loi de Moore et la

Plan de l’exposé q Les tendances • • La loi de Moore et la suite… Le stockage de données L’informatique ubiquitaire, la grille, le « nuage » Internet et la toile q La machine « intelligente » • Diffuser et exploiter des connaissances • Robotique q Conclusion ” I think there is a world market for about five computers. ” Thomas J. Watson Sr. , IBM Founder, 1943 2

Loi de Moore. JP Haton ALS 2015 13 nm 3

Loi de Moore. JP Haton ALS 2015 13 nm 3

Stockage de données - Le stockage magnétique évolue toujours… - L’ADN est pour bientôt

Stockage de données - Le stockage magnétique évolue toujours… - L’ADN est pour bientôt - Mais le microfilm (analogique) revient ! : CEA / ARNANO : photolithographie - 10000 pages A 4 sur un disque de 20 cm - Grande pérennité (2000 ans!) - Indépendance des évolutions technologiques - Lecture aisée Défi : concevoir l’ordinateur de l’après-Silicium…et l’utiliser JP Haton ALS 2015 4

Informatique ubiquitaire • Mariage de l’informatique et de l’électronique • Un ancêtre : l’informatique

Informatique ubiquitaire • Mariage de l’informatique et de l’électronique • Un ancêtre : l’informatique embarquée • Principe : traitement de l’information intégrée dans des objets communicants • Ubiquité et disparité des machines : Etiquettes RFID Contrôleurs d’accès Cartes de paiement Clefs, télécommandes Passeports électroniques Puce de Héra Appareils médicaux implantés GPS Montres Smartphones Tablettes Ordinateurs portables Fermes, Centres de calcul 5

Plan de l’exposé q Les tendances • • La loi de Moore et la

Plan de l’exposé q Les tendances • • La loi de Moore et la suite… Le stockage de données L’informatique ubiquitaire, la grille, le « nuage » Internet et « la toile » q La machine « intelligente » • Diffuser et exploiter des connaissances • Robotique q Conclusion 6

Plan de l’exposé q Les tendances • • La loi de Moore et la

Plan de l’exposé q Les tendances • • La loi de Moore et la suite… Le stockage de données L’informatique ubiquitaire, la grille, le « nuage » Internet et « la toile » q La machine « intelligente » • Diffuser et exploiter des connaissances • Robotique q Conclusion 7

Turing et l’intelligence des machines… I propose to consider the question, « Can machines

Turing et l’intelligence des machines… I propose to consider the question, « Can machines think? » JP Haton ALS 2015 8

Kasparov vs Deep Blue : 1997 Défi : le jeu de Go 9

Kasparov vs Deep Blue : 1997 Défi : le jeu de Go 9

Watson au jeu Jeopardy Et ensuite… : aide à la décision médicale (Cancer Institute

Watson au jeu Jeopardy Et ensuite… : aide à la décision médicale (Cancer Institute LA), banque (DBS Singapour, Caixabank Espagne), services financiers Défi : « Watson » dans sa poche 10

Capitaliser, diffuser, exploiter les connaissances q Fouille de données ( « Big Data »

Capitaliser, diffuser, exploiter les connaissances q Fouille de données ( « Big Data » ) q Conduite de procédés et mémoires d’entreprise q Web sémantique q Réseaux sociaux : Facebook et al. q La voie statistique q Médecine et santé q Education : MOOC JP Haton ALS 2015 11

Capitaliser, diffuser, exploiter les connaissances q Fouille de données ( « Big Data »

Capitaliser, diffuser, exploiter les connaissances q Fouille de données ( « Big Data » ) q Conduite de procédés et mémoires d’entreprise q Web sémantique q Réseaux sociaux : Facebook et al. q La voie statistique q Médecine et santé q Education : MOOC JP Haton ALS 2015 12

La fouille de données : applications. Marketing direct: population à cibler (âge, sexe, profession,

La fouille de données : applications. Marketing direct: population à cibler (âge, sexe, profession, habitation, région, …) pour un publipostage. . Gestion et analyse des marchés : profils des consommateurs . Détection de fraudes: cartes bancaires, télécommunications . Gestion de stocks. Détection de plagiat (cf. Ephorus) . Bioinformatique et Génome: ADN, … . Médecine: aide au diagnostic, choix du médicament . Mais aussi : « Article 1 - Les données personnelles de tout être humain . espionnage par GSM et GPS , traduisent ses valeurs culturelles et sa vie privée. Elles ne peuvent . aspect majeur : agréger, traiter et recouper les données être réduites à une marchandise » . érosion progressive de la vie privée (articuler protection des données et respect de la personne : Forum d’Avignon). 13

Principes de la charte « Éthique et Big data » Principe de traçabilité Fournir

Principes de la charte « Éthique et Big data » Principe de traçabilité Fournir les informations pour que les données soient utilisées en toute confiance, concernant leur description, leurs processus de fabrication, de transformation, de vérification et de diffusion. Principe de respect des droits de propriété intellectuelle Vérifier que les droits de propriété intellectuelle sont respectés et préciser la nature de la propriété intellectuelle sur les données. Principe de respect des cadres légaux Identifier les règlements spécifiques à la nature des données traitées ou diffusées et s’assurer que ces règlements sont respectés. JP Haton ALS 2015 14

Vos données et vous… • Une production en croissance constante (cf. enquête CNIL), encore

Vos données et vous… • Une production en croissance constante (cf. enquête CNIL), encore accrue par l’Internet des objets (objets communicants, cf. Sigfox) • Apple : stockage de la voix (SIRI) • Traces numériques ( CB, Vélib, métro, etc. ) • Rendre leurs données personnelles aux individus (FING en France, Midata en GB, Blue Button aux USA, …) • In memoriam…: « mémorialiser » , fermer le compte ou nommer un legacy contact (cf. Facebook, Google/Gmail, Microsoft) • Facebook : évolution de la Privacy Policy sur les données personnelles • Vendez vos données! 15

Internet des objets JP Haton ALS 2015 16

Internet des objets JP Haton ALS 2015 16

Vos données et vous… • Une production en croissance constante (cf. enquête CNIL), encore

Vos données et vous… • Une production en croissance constante (cf. enquête CNIL), encore accrue par l’Internet des objets (objets communicants, cf. Sigfox) • Apple : stockage de la voix (SIRI) • Traces numériques ( CB, Vélib, métro, etc. ) • Rendre leurs données personnelles aux individus (FING en France, Midata en GB, Blue Button aux USA, …) • In memoriam…: « mémorialiser » , fermer le compte ou nommer un legacy contact (cf. Facebook, Google/Gmail, Microsoft) • Facebook : évolution de la Privacy Policy sur les données personnelles • Vendez vos données. . . ou léguez vos données à la science! 17

Big Data ou Big Brother… - TIA (Total Information Awareness, 2003) - NSA (National

Big Data ou Big Brother… - TIA (Total Information Awareness, 2003) - NSA (National Security Agency) : Snowden Défi : transformer le déluge de données en - Réseau Echelon (interception des communications publiques bibliothèques de connaissances fiables pour tous et privées) …et d’autres dans le monde! et… faire évoluer la société (Avignon) 18

Capitaliser, diffuser, exploiter les connaissances q Fouille de données ( « Big Data »

Capitaliser, diffuser, exploiter les connaissances q Fouille de données ( « Big Data » ) q Conduite de procédés et mémoires d’entreprise q Web sémantique q Réseaux sociaux : Facebook et al. q La voie statistique q Médecine et santé q Education : MOOC JP Haton ALS 2015 19

Capitaliser, diffuser, exploiter les connaissances q Fouille de données ( « Big Data »

Capitaliser, diffuser, exploiter les connaissances q Fouille de données ( « Big Data » ) q Conduite de procédés et mémoires d’entreprise q Web sémantique q Réseaux sociaux : Facebook et al. q La voie statistique q Médecine et santé q Education : MOOC JP Haton ALS 2015 20

Web « sémantique » q Compréhension partagée de l’information § Entre les personnes §

Web « sémantique » q Compréhension partagée de l’information § Entre les personnes § Entre les applications et les objets § Entre tous ! q Ontologies et métadonnées JP Haton ALS 2015 21

Linked Data: données « 5 étoiles » (T. Berners-Lee) JP Haton ALS 2015 22

Linked Data: données « 5 étoiles » (T. Berners-Lee) JP Haton ALS 2015 22

Google : Page. Rank et al. Page. Rank, PR (L. Page et S. Brin,

Google : Page. Rank et al. Page. Rank, PR (L. Page et S. Brin, 1998) : notoriété d’une page du Web -Principe du calcul : fondé sur la notion de backlinks (liens pointant vers la page considérée) = marche aléatoire et point fixe. . . et une ingénierie informatique extraordinaire (fermes…) - Simple et efficace (succès du moteur de Google : 3, 5 milliards de requêtes/jour) - … mais : Politique du secret (manque d’information sur PR et son évolution)… Tricher pour être mieux indexé (spamdexers) Manipuler le Web (bombardement, Google bombing: lié au principe de PR) Nombre de liens affichés discutable… etc… JP Haton ALS 2015 23

Internet et les langues - Langues des utilisateurs : • 1 - Anglais, 536

Internet et les langues - Langues des utilisateurs : • 1 - Anglais, 536 millions • 2 - Chinois, 444, 9 millions • 3 - Espagnol, 153, 3 millions • 4 - Japonais, 99, 1 millions • 5 - Portugais, 82, 5 millions • 6 - Allemand, 75 millions • 7 - Arabe, 65 millions • 8 - Français, 60 millions • 9 - Russe, 59, 7 millions • 10 - Coréen, 40 millions Les pages de la toile (en 2012) : - Anglais : 45% - Allemand 7% - Français : 5% - Ces 10 langues représentent 83% des internautes, le moteur Google est disponible en 26 langues … mais 90 % des langues du monde ne sont pas sur Internet JP Haton ALS 2015 24

Capitaliser, diffuser, exploiter les connaissances q Fouille de données ( « Big Data »

Capitaliser, diffuser, exploiter les connaissances q Fouille de données ( « Big Data » ) q Conduite de procédés et mémoires d’entreprise q Web sémantique q Réseaux sociaux : Facebook, FOAF et al. q La voie statistique q Médecine et santé q Education : MOOC JP Haton ALS 2015 25

Réseaux sociaux JP Haton ALS 2015 26

Réseaux sociaux JP Haton ALS 2015 26

Recherche en largeur dans des graphes JP Haton ALS 2015 27

Recherche en largeur dans des graphes JP Haton ALS 2015 27

Réseaux sociaux • Communautés professionnelles, production collective de connaissances, la parole aux citoyens •

Réseaux sociaux • Communautés professionnelles, production collective de connaissances, la parole aux citoyens • Prévision de la criminalité : Predpol (USA), Key Crime (Italie). …mais aussi : • Manipulation d’opinions mal informées, simplismes, désinformation, communautés radicales : inefficacité des interdictions et même des régulations (un outil de plus depuis la préhistoire…) • Addictions… • Usurpations, parodies (Spoofing) : d’adresses IP, de mel, de numéro de téléphone, de positionnement GPS, etc. JP Haton ALS 2015 28

Capitaliser, diffuser, exploiter les connaissances q Fouille de données ( « Big Data »

Capitaliser, diffuser, exploiter les connaissances q Fouille de données ( « Big Data » ) q Conduite de procédés et mémoires d’entreprise q Web sémantique q Réseaux sociaux : Facebook et al. q La voie statistique q Médecine et santé q Education : MOOC JP Haton ALS 2015 29

Modèles statistiques q Principe : modéliser la variabilité naturelle q Modèles markoviens q Mise

Modèles statistiques q Principe : modéliser la variabilité naturelle q Modèles markoviens q Mise au point (apprentissage) à partir d’exemples q Nombreuses utilisations : o Reconnaissance des formes : parole, images, etc. o Interprétation de signaux : radar, sonar, biologiques, . . . o Robotique o Traitement de la langue écrite JP Haton ALS 2015 30

Reconnaissance de la parole q Principe : modéliser les unités (mots, phonèmes) à l’aide

Reconnaissance de la parole q Principe : modéliser les unités (mots, phonèmes) à l’aide de modèles statistiques q Apprentissage : à partir d’énormes quantités de parole (opérateurs de téléphone, Apple, …) q Évolution scientifique et technologique : de l’ordinateur (1974). . . au téléphone portable (2004)! JP Haton ALS 2015 31

Reconnaissance de la parole q Principe : modéliser les unités (mots, phonèmes) à l’aide

Reconnaissance de la parole q Principe : modéliser les unités (mots, phonèmes) à l’aide de modèles statistiques q Apprentissage : à partir d’énormes quantités de parole q Évolution scientifique et technologique : de l’ordinateur (1974) au téléphone portable (2004)! q Nombreuses utilisations : o Saisie vocale o Commandes vocales, Handicapés o Transcription (réunions, discours, médias) o Vérification du locuteur o Têtes parlantes et avatars q Aspects éthiques : stockage de données personnelles, anonymisation, Défi : traduction parole-parole… croisement de données, usurpation d’identité, parole et justice… 32

Capitaliser, diffuser, exploiter les connaissances q Fouille de données ( « Big Data »

Capitaliser, diffuser, exploiter les connaissances q Fouille de données ( « Big Data » ) q Conduite de procédés et mémoires d’entreprise q Web sémantique q Réseaux sociaux : Facebook et al. q La voie statistique q Médecine et santé q Education : MOOC JP Haton ALS 2015 33

Santé « numérique » q Aide à la décision et au diagnostic (cf. Watson)

Santé « numérique » q Aide à la décision et au diagnostic (cf. Watson) q Action thérapeutique guidée q Anesthésie assistée et chirurgie guidée q Télémédecine q Robots de soin q Assistance à la vie autonome JP Haton ALS 2015 34

Santé « numérique » q Aide à la décision et au diagnostic (cf. Watson)

Santé « numérique » q Aide à la décision et au diagnostic (cf. Watson) q Action thérapeutique guidée q Anesthésie assistée et chirurgie guidée q Télémédecine q Robots de soin q Assistance à la vie autonome JP Haton ALS 2015 35

Aide à la radiothérapie externe Etablissement d’une thérapie : Exemple : le système CAVCAV

Aide à la radiothérapie externe Etablissement d’une thérapie : Exemple : le système CAVCAV pour la radiothérapie du cancer du cavum Partenaires : LORIA et Institut Lorrain du Cancer (ex-Centre Alexis-Vautrin) JP Haton ALS 2015 36

Aide à la radiothérapie externe : le système CAV-CAV 37 JP Haton ALS 2015

Aide à la radiothérapie externe : le système CAV-CAV 37 JP Haton ALS 2015

Santé « numérique » q Aide à la décision et au diagnostic (cf. Watson)

Santé « numérique » q Aide à la décision et au diagnostic (cf. Watson) q Action thérapeutique guidée q Anesthésie assistée et chirurgie guidée q Télémédecine q Robots de soin q Assistance à la vie autonome JP Haton ALS 2015 38

Santé « numérique » q Aide à la décision et au diagnostic (cf. Watson)

Santé « numérique » q Aide à la décision et au diagnostic (cf. Watson) q Action thérapeutique guidée q Anesthésie assistée et chirurgie guidée q Télémédecine q Robots de soin q Assistance à la vie autonome JP Haton ALS 2015 39

Assistance à la vie autonome q Télésurveillance (Diatélic) q Sols « intelligents » et

Assistance à la vie autonome q Télésurveillance (Diatélic) q Sols « intelligents » et connectés : détection de chutes, déclenchement d’alarmes q Robots assistants Très utiles… mais : - respect de la dignité, - droit à la tranquillité, - protection de la vie privée et de l’anonymat Robot PR 2 du LAAS JP Haton ALS 2015 40

Santé « numérique » q Aide à la décision et au diagnostic (cf. Watson)

Santé « numérique » q Aide à la décision et au diagnostic (cf. Watson) q Action thérapeutique guidée q Anesthésie assistée et chirurgie guidée q Télémédecine q Robots de soin q Assistance à la vie autonome Défi : l’I et l’IA au service de la santé!… JP Haton ALS 2015 41

Capitaliser, diffuser, exploiter les connaissances q Fouille de données ( « Big Data »

Capitaliser, diffuser, exploiter les connaissances q Fouille de données ( « Big Data » ) q Conduite de procédés et mémoires d’entreprise q Web sémantique q Réseaux sociaux : Facebook et al. q La voie statistique q Médecine et santé q Education : MOOC JP Haton ALS 2015 42

Massive Online OPEN Courses, MOOC q Nouvelle forme d’enseignement à distance : • •

Massive Online OPEN Courses, MOOC q Nouvelle forme d’enseignement à distance : • • • q q Courrier Minitel Aspects nouveaux (ouverture : Internet!, nombre et origine des inscrits, prérequis, observations des apprenants …) Auto-évaluation et évaluation entre pairs Aspects éthiques : diffusion des capacités cognitives d’une personne JP Haton ALS 2015 43

Plan de l’exposé q Les tendances • • La loi de Moore et la

Plan de l’exposé q Les tendances • • La loi de Moore et la suite… Le stockage de données L’informatique ubiquitaire, la grille, le nuage Internet q La machine « intelligente » • Diffuser et exploiter des connaissances • Robotique q Conclusion 44

Robotique q Les robots industriels Billancourt 1962 R 4 Palencia (Castille) 2011 Mégane 45

Robotique q Les robots industriels Billancourt 1962 R 4 Palencia (Castille) 2011 Mégane 45 JP Haton ALS 2015

Robotique q Robots industriels q Robots collaborateurs : - Cobot (industrie, chirurgie) - Robot

Robotique q Robots industriels q Robots collaborateurs : - Cobot (industrie, chirurgie) - Robot commandé par la pensée q Robots mobiles : - Planification d’actions - Prise de décision 46 JP Haton ALS 2015

Prise de décision. . . : SPIRIT JP Haton ALS 2015 47

Prise de décision. . . : SPIRIT JP Haton ALS 2015 47

Mission martienne Un défi : exploration de planètes JP Haton ALS 2015 48

Mission martienne Un défi : exploration de planètes JP Haton ALS 2015 48

Robots humanoïdes Kirobo Asimo de Honda Nao de Aldebaran Défi : une équipe de

Robots humanoïdes Kirobo Asimo de Honda Nao de Aldebaran Défi : une équipe de robots championne Pepper de Aldebaran du monde de football en 2050… Romeo de Aldebaran 49 JP Haton ALS 2015

SPOT (Boston Dynamics) JP Haton ALS 2015 50

SPOT (Boston Dynamics) JP Haton ALS 2015 50

Véhicules autonomes : Google car JP Haton ALS 2015 51

Véhicules autonomes : Google car JP Haton ALS 2015 51

Google car JP Haton ALS 2015 52 Défi : automobile autonome et route intelligente…

Google car JP Haton ALS 2015 52 Défi : automobile autonome et route intelligente…

Droits et devoirs des robots q Capacité létale d’un robot • Va à l’encontre

Droits et devoirs des robots q Capacité létale d’un robot • Va à l’encontre de la première Loi d’Asimov (1942) : « Un robot ne peut porter atteinte à un être humain, ni en restant passif, permettre qu’un être humain soit exposé au danger. » • Le robot peut-il faire la différence entre un être vivant et un objet ! q Réviser les Lois d’Asimov • Obsolètes ? Non-Ethiques ? Réalistes ? Contournables ! q Ethique : • Risque et responsabilité en cas d’accidents (la voiture automatique…) • Rôle des robots dans l’interaction sociale • Protection des données (e. g. médicales) JP Haton ALS 2015 53

Machines intelligentes et éthique - Questions déjà abordées pour la bioéthique et l’infoéthique :

Machines intelligentes et éthique - Questions déjà abordées pour la bioéthique et l’infoéthique : http: //www. cnrs. fr/fr/organisme/ethique/comets/docs/rapport. Comets 091112. pdf 54

Les questions éthiques dans les STIC L’environnement et la société Echanges économiques Vie collective

Les questions éthiques dans les STIC L’environnement et la société Echanges économiques Vie collective Droits de propriété Monnaies et modèles économiques Pratiques Commerciales Travail & Formation Risques Sanitaires Technologiques Environnementaux Fondements de l’éthique Fonctionnement démocratique confiance Communautés La personne Protection de la vie privée Impact sur l’homme Le robot comme une personne Concepts, outils et contextes Appareils conceptuels JP Haton ALS 2015 de l ’éthique des STIC Guerres et conflits Gouvernance des réseaux Information Qualité des informations Mise à disposition infos Connaissance Interfaces entre l’éthique et les autres domaines 55

STIC et éthique - Questions déjà abordées pour l’infoéthique : http: //www. cnrs. fr/fr/organisme/ethique/comets/docs/rapport.

STIC et éthique - Questions déjà abordées pour l’infoéthique : http: //www. cnrs. fr/fr/organisme/ethique/comets/docs/rapport. Comets 091112. pdf - Aspects spécifiques nouveaux : - nuisance des systèmes intelligents (cf. lois d’Asimov pour les robots) - statut moral des machines - fouille de données, Big Data et vie privée (cf. TIA ou CIA/NSA) - propriétés requises du fait du rôle social potentiel de systèmes d’IA : prédictabilité, transparence à l’inspection - systèmes à intelligence surhumaine (singularité) : implique des comportements « suréthiques » … - hyper-mnésie et hyperconnectivité : asservissement ou libération de l’Homme ? - STIC et emploi : RFID, robots, Internet… Quel bilan? Défi : une éthique de la machine 56

Plan de l’exposé q Les tendances • • La loi de Moore et la

Plan de l’exposé q Les tendances • • La loi de Moore et la suite… Le stockage de données L’informatique ubiquitaire, la grille, le nuage Internet et « la toile » q La machine « intelligente » • Diffuser et exploiter des connaissances • Robotique q Conclusion 57

Conclusion q Le champ des STIC s’étend q Mise au service de l’homme de

Conclusion q Le champ des STIC s’étend q Mise au service de l’homme de la puissance de l’ordinateur d’une façon intelligente pour : • résoudre des problèmes longs ou compliqués • faciliter la communication et faire partager un savoir • aider l’être humain à décider q. . . Et la recherche continue : connaissance, apprentissage, etc. q Aspects éthiques JP Haton ALS 2015 58

En l’an 2000… JP Haton ALS 2015 59

En l’an 2000… JP Haton ALS 2015 59

Merci pour votre attention! JP Haton ALS 2015 60

Merci pour votre attention! JP Haton ALS 2015 60