Intelligence artificielle : si elle était déjà hors contrôle ?

intelligence-artificielle-mon-carre-de-sable

L’intelligence artificielle – l’IA – est en train de mettre le pied à l’étrier pour piloter de plus en plus de domaines de notre environnement public et même privé avec la même maestria ébouriffante que l’ordinateur personnel est venu bouleverser notre quotidien il y a vingt ans : cela semble une éternité !

Intelligence artificielle : l’histoire de son apparition, son impact sur nos sociétés !

Intelligence artificielle… Ces deux mots résonnent (raisonnent ?) encore avec une forte saveur de film de science-fiction, notre imaginaire même est teinté d’images de robots sophistiqués capables d’effectuer toutes les tâches humaines sans en avoir les inconvénients puisque idéalement, ils ne possèdent ni affect, ni personnalité, ni remord d’aucune sorte, donc pas d’états d’âme, pas d’absentéisme ni surtout de revendications !

Il est généralement accepté que l’Être humain fonctionne selon trois base, le corps, l’esprit et l’âme, la technologie maîtrise de mieux en mieux le côté matériel et est maintenant capable de concevoir des robots qui sont bien plus productifs que les ouvriers, surtout dans les conditions de fabrication développées par les adeptes du taylorisme ! Notre intelligence a permis à des générations de chercheurs d’élaborer petit à petit des outils de plus en plus sophistiqués à un point tel que maintenant, nous nous apercevons que l’automatisation des chaînes de production entraîne une diminution de la main d’œuvre au profit de l’augmentation exponentielle des machines-outils ; c’est sensé représenter une bonne nouvelle car une grande partie des emplois concédés sont des tâches souvent harassantes, répétitives, dévalorisées, mal rémunérées, symboles des années industrielles, misère sociale dont l’univers glauque a été narré dans les livres d’Émile Zola.

C’est donc un faisceau de circonstances favorables tels que l’avènement de l’informatique individuelle (Apple, Microsoft, IBM,…), des progrès techniques et technologiques fulgurants réalisés par et pour l’industrie, l’émulation de toute une sphère de géniaux créateurs et visionnaires dont l’ensemble a rencontré un marché non seulement propice à l’émergence d’un concept qui va révolutionner notre façon de vivre, de consommer, mais qui va surtout simplement totalement modifier de fond en comble notre manière de vivre, notre manière de concevoir notre existence : en l’espace de seulement deux générations, trois maximum la société contemporaine s’est plus éloignée du mode de vie de ses prédécesseurs que nous ne l’avions fait en plusieurs millénaires !

Intelligence artificielle : des exemples d’applications amusantes … ou inquiétantes ?

Ces noms vous disent-ils quelque chose ? :

DeepBlue : 

Selon Wikipedia, Deep Blue est un superordinateur spécialisé dans le jeu d’échecs par adjonction de circuits spécifiques, dév

intelligence-artificielleAvec la victoire de Deep Blue, l’intelligence artificielle semble rattraper l’esprit humain dans un jeu considéré depuis toujours comme exigeant de hautes capacités intellectuelles. L’importance symbolique de ce match inspirera deux films documentaires : Game Over : Kasparov and the Machine (2003) de Vikram Jayanti et The Man vs. The Machine (2014) de Frank Marshall
intelligence-artificielle Avec la victoire de Deep Blue…

eloppé par IBM au début des années 1990. Perdant un match en 1996 (2-4) contre le champion du monde d’échecs de l’époque Garry Kasparov, Deep Blue (surnommé alors Deeper Blue) bat le champion du monde (3,5–2,5) lors du match revanche en 1997, mais hors des conditions exigées lors des championnats du monde.

AlphaGo :

Intelligence artificielle : AlphaGo est un programme informatique capable de jouer au jeu de go, développé par l'entreprise britannique Google DeepMind.
Intelligence artificielle : AlphaGo est un programme informatique capable de jouer au jeu de go, développé par l’entreprise britannique Google DeepMind.

AlphaGo (toujours selon Wikipedia) est un programme informatique capable de jouer au jeu de go, développé par l’entreprise britannique Google DeepMind. En octobre 2015, il devient le premier programme à battre un joueur professionnel (le français Fan Hui) sur un goban de taille normale (19×19) sans handicap. Il s’agit d’une étape symboliquement forte puisque le programme joueur de go est alors un défi complexe de l’intelligence artificielle1. En mars 2016, il bat Lee Sedol, un des meilleurs joueurs mondiaux (9e dan professionnel)2,3. Le 27 mai 2017, il bat le champion du monde Ke Jie et sa retraite est annoncée. L’algorithme d’AlphaGo combine des techniques d’apprentissage automatique et de parcours de graphe, associées à de nombreux entrainements avec des humains, d’autres ordinateurs, et surtout lui-même. Cet algorithme sera encore amélioré dans les versions suivantes. AlphaGo Zero en octobre 2017 atteint un niveau supérieur en jouant uniquement contre lui-même. AlphaZero en décembre 2017 surpasse largement, toujours par auto-apprentissage, le niveau de tous les joueurs humains et logiciels, non seulement au go, mais aussi aux échecs et au shōgi.

DeepMind

DeepMind est une entreprise britannique spécialisée dans l'intelligence artificielle. Originellement appelée DeepMind Technologies Limited et fondée en 2010 par Demis Hassabis, Mustafa Suleyman (en) et Shane Legg (en)3, elle est rachetée le 26 janvier 2014, par Google pour plus de 628 millions de dollars américains4.
DeepMind est une entreprise britannique spécialisée dans l’intelligence artificielle. Originellement appelée DeepMind Technologies Limited et fondée en 2010 par Demis Hassabis, Mustafa Suleyman (en) et Shane Legg (en)3, elle est rachetée le 26 janvier 2014, par Google pour plus de 628 millions de dollars américains4.

DeepMind est une entreprise britannique spécialisée dans l’intelligence artificielle. Originellement appelée DeepMind Technologies Limited et fondée en 2010 par Demis Hassabis, Mustafa Suleyman (en) et Shane Legg (en), elle est rachetée le 26 janvier 2014, par Google pour plus de 628 millions de dollars américains.

L’objectif de DeepMind est de « résoudre l’intelligence ». Pour atteindre ce but, l’entreprise essaie de combiner « les meilleures techniques de l’apprentissage automatique et des neurosciences des systèmes pour construire de puissants algorithmes d’apprentissage généraliste ». L’entreprise souhaite non seulement doter les machines d’intelligence artificielle performante, mais aussi comprendre le fonctionnement du cerveau humain.

Au moins, l’objectif est parfaitement clair et totalement affiché !

D’un autre côté il faut s’attendre à ce que ces objectifs soient pragmatiques et objectifs, ils le sont absolument…

Intelligence artificielle : c’est peut-être déjà trop tard !

Des scientifiques alertent: les algorithmes sont devenus si complexes que certaines machines prennent des décisions que l’humain ne parvient plus à expliquer. Les risques de dérives sont importants. Mais il n’est pas trop tard pour agir

L’IA, ce sont des algorithmes extrêmement puissants, capables de travailler avec des bases de données gigantesques pour apprendre, et prendre ensuite les décisions les plus pertinentes possible. Et si la créature échappait au créateur?

Car, ici nous avons évidemment largement dépassé ce qui correspondait au niveau des limites physiques humaines – je dirais même surpassé – nous avons attaqué le domaine de l’intelligence, celui-là même que nous décrivions comme étant ce qui prouvait notre suprématie sur tous les autres mondes vivants et qui nous autorisait à nous placer au sommet de la pyramide évolutive, piédestal qui faisait notre fierté, si ce n’est notre orgueil … Comme quoi, il faudrait savoir profiter de nos moments de gloire, même si nous nous sommes auto-proclamés, car ce sont souvent des instants éphémères !

Intelligence artificielle : Les premiers grains de sable dans les rouages

C’est l’un des cauchemars des ingénieurs de la NASA. L’un de leur Rovers à six roues explore la surface de Mars en mode autonome. Soudain, le véhicule se dirige vers la droite, longe une falaise, marque un temps d’arrêt puis se jette dans le vide et s’écrase 400 mètres plus bas. A 70 millions de kilomètres de là, à Houston, les spécialistes de la NASA sont effondrés. Plus rien ne peut sauver une mission qui aura coûté plus d’un milliard de dollars. Le Rover, équipé d’un système d’intelligence artificielle, a pris des décisions qu’ils ne peuvent pas expliquer.

La NASA, qui utilise l’intelligence artificielle (IA) tant pour piloter ses robots que pour analyser des millions de photos de l’espace, tente de garder le contrôle de cette technologie. Mais le défi est immense. Et de plus en plus de scientifiques et d’ingénieurs s’alarment: aujourd’hui déjà, il y a un risque que l’IA échappe à leur contrôle. Et que personne ne soit capable d’expliquer comment un système est parvenu à une décision.

Intelligence artificielle : Il faut s’en préoccuper immédiatement

«On ne parle pas forcément de robots tueurs qui se retourneraient contre les humains et les extermineraient. On parle de technologies qui sont installées dans des voitures, des smartphones ou des ordinateurs. C’est extrêmement concret et il faut s’en préoccuper immédiatement», avertit Rachid Guerraoui, directeur du Laboratoire de programmation distribuée de l’EPFL.

Aujourd’hui déjà, des systèmes d’IA détectent lorsqu’un humain tente de modifier leur comportement et font parfois tout pour rejeter cette intervention et la contourner , Rachid Guerraoui, directeur du Laboratoire de programmation distribuée de l’EPFL

« Il y a un mois, le chercheur, avec trois membres de son laboratoire, présentait leur dernière trouvaille à la conférence «Neural Information Processing Systems» de Long Beach, en Californie – la réunion la plus pointue sur l’IA. Devant notamment des ingénieurs de la NASA, ils ont dévoilé une solution pour tenter de garder le contrôle sur cette technologie.  »

Avec un exemple concret:

«Prenez une voiture autonome, lance Rachid Guerraoui. Vous lui assignez l’objectif d’atteindre le plus vite possible sa destination tout en respectant les limitations de vitesse. Elle effectuera la tâche demandée en élaborant parfois des stratégies consistant par exemple à se tenir très proche de la voiture devant elle et parfois en empêchant le conducteur de reprendre le contrôle et de ralentir, même en cas de neige, sous peine de collision. Nous avons trouvé un moyen pour que la voiture laisse toujours le contrôle à l’humain, sans s’en rendre compte

Intelligence artificielle : « Effacer les traces d’intervention humaine»  ???

Sans s’en rendre compte? Mais pourquoi? «Aujourd’hui déjà, des systèmes d’IA détectent lorsqu’un humain tente de modifier leur comportement et font parfois tout pour rejeter cette intervention et la contourner si elle entre en conflit avec l’objectif initial de l’IA. Il faut agir de manière subtile et rapide pour que l’IA croie qu’elle prend elle-même toutes les décisions. Et ensuite effacer les traces d’intervention humaine», poursuit le professeur.

Pas très rassurant tout ça, vous en conviendrez !!!

Intelligence artificielle : Un cauchemar en train de devenir réalité ???

Ce qui semble de la pure science-fiction est donc réalité. Des systèmes d’IA prennent des décisions propres en se nourrissant de bases de données gigantesques. Le phénomène est massif. Mais pas totalement nouveau. «L’intelligence artificielle est un terme à la mode, mais elle trouve ses racines dans les années 1960 déjà avec les systèmes experts. Aujourd’hui, la puissance de calcul, les capacités de mémoire et les masses de données amplifient de manière extraordinaire ce phénomène», détaille Hervé Bourlard, directeur de l’institut de recherche Idiap de Martigny.

Intelligence artificielle : basée sur un modèle de neurones artificiels

Actuellement, ce sont des réseaux de plus en plus gros de neurones artificiels qui sont créés. De quoi s’agit-il? «L’idée est de tenter de répliquer, de manière informatique, le fonctionnement du cerveau, poursuit Hervé Bourlard. Attention, nous n’allons jamais pouvoir copier le système de milliards de neurones du cerveau, qui est d’une incroyable complexité. Mais nous sommes déjà capables de créer des réseaux de neurones artificiels dotés de plusieurs couches hiérarchiques, via des systèmes de calculs très compliqués.»

Ces neurones ont été entraînés à prendre de bonnes décisions sur la base de bases de données dont ils se nourrissent en permanence – on appelle cela le «machine learning».

Intelligence artificielle : Comment fonctionne l'esprit Broché – 9 mars 2000 de Steven Pinker (Auteur)
Intelligence artificielle :
Comment fonctionne l’esprit Broché – 9 mars 2000
de Steven Pinker (Auteur)

Ces neurones sont aussi capables de s’entraider en cas de problème.

Il est faux de dire que la machine va prendre le dessus sur l’homme, c’est un leurre. Par contre, l’IA peut générer des comportements à risque  :

Hervé Bourlard, le directeur de l’Idiap  :

L’IA, on l’a vu, permet à la NASA de scanner des millions de photos de l’espace pour décider sur lesquelles se concentrer. Sur terre, l’IA offre aussi des résultats très concrets. «Elle a permis d’identifier avec une précision de 92% les cellules cancéreuses dans des échantillons de cellules de tissus mammaires, détaille Harmut Heinrich, directeur de la société de recherche Fjord Studio à Zurich, appartenant à Accenture. Les pathologistes ont battu les robots en atteignant 96% de précision. Mais l’IA et les pathologistes travaillant ensemble ont obtenu le taux d’identification le plus élevé, soit 99,5% des biopsies cancéreuses.»

Intelligence artificielle : des «biais inquiétants»

Machines et humains peuvent donc collaborer «dans le domaine médical, tout comme pour la traduction en direct, les résultats sont impressionnants, confirme Hervé Bourlard. Les réseaux de neurones artificiels sont efficaces. Idem pour les voitures autonomes: l’IA embarquée génère nettement moins d’accidents que la conduite humaine». Pour le directeur de l’Idiap, «il est faux de dire que la machine va prendre le dessus sur l’homme, c’est un leurre. Par contre, l’IA peut générer des comportements à risque car ses décisions ne seront pas bien documentées».

Hervé Bourlard donne l’exemple de la justice: «Il existe aujourd’hui déjà des systèmes d’IA qui pourraient être utilisés par des tribunaux. Admettez que vous ayez un cas de meurtre à résoudre et que l’IA ait face à elle un suspect blanc et un autre noir. Aujourd’hui, il y a de forts risques que l’IA condamne l’homme noir, car le système aura été nourri de bases de données où ce sont plus souvent des personnes de couleur qui ont été condamnées. Ces biais sont extrêmement inquiétants.»

Intelligence artificielle : la nécessité impérieuse de garder le contrôle

Comme pour les produits bio …

D’où la proposition de Rachid Guerraoui de «créer une traçabilité, un peu comme pour les produits bio. Il faut que les ingénieurs puissent expliquer comment leur algorithme est arrivé à ce résultat. C’est capital mais aussi difficile: les algorithmes deviennent incroyablement complexes et travaillent ensuite sur des bases de données à la taille gigantesque. Mais éduquer les ingénieurs est capital». D’autant que ces développeurs – souvent de jeunes hommes issus des grandes universités américaines et travaillant dans la Silicon Valley – ont un profil similaire, ce qui accentue le risque de créer des biais aux conséquences potentiellement dévastatrices.

Hervé Bourlard avertit: « si l’IA n’est pas rapidement maîtrisée, l’homme risque de perdre rapidement confiance en la technologie. Cet élément est capital. Aujourd’hui déjà, nous avons de moins en moins confiance dans le «hardware» le matériel informatique, qui vient souvent de Chine et dont nous ne sommes pas certains qu’il ne contienne pas de virus caché ou de porte dérobée pour des attaques. Si en plus nous ne comprenons pas ce que font les logiciels, nous risquons d’avoir des gros problèmes.»

Nous sommes en train de découvrir la cohabitation (confrontation possible ?) entre l’intelligence artificielle qui a déjà gagné la bataille du physique avec les robots qui offrent de biens meilleures prestations que les hommes dans un monde gouverné par des considérations essentiellement économiques et uniquement orientée sur la productivité et les profits ; nous ne tenons pas du tout la comparaison sur le plan intellectuel, qu’il s’agisse de l’intelligence pure, déductive comme dans les jeux d ‘échecs ou de go, stratégique et sans parler des logiciels dans les domaines des sciences et de la médecine…
Que nous reste-t-il finalement en tant qu’Être humain pour nous satisfaire d’un sentiment de supériorité par rapport à la machine – question que nous ne nous étions jamais posée auparavant tant cette éventualité n’était pas envisageable une seule seconde, jusqu’à ces dernières années !

Et bien, je dirais qu’il reste essentiellement le dernier domaine qui est celui de l’âme, de la spiritualité de toute ces valeurs supérieures que l’on peut appeler vertus et aussi cette géniale expression qui est une émanation quasi divine : notre pouvoir créatif, artistique qui je pense ne sera pas encore atteint, ni même imité, mais pour combien de temps encore ?

Les questions qui viennent obligatoirement à la suite d’une prise de conscience sont les suivantes :
Combien de temps avant qu’une machine apprivoise ces « compétences » qui lui manquent ?

Est-ce nuisible à l’Homme ? – en sachant que nous pouvons être détruits (si une IA détermine que nos comportements nuisent à l’équilibre de la planète – ce qui est le cas – elle pourrait décider de nous éliminer ! –

N’est-ce pas finalement la bonne solution ? Mais peut-être que cette dernière question est plus un questionnement de cyborg que celui d’un être humain ….

Cet article est inspiré d’un texte paru sur le site “Le temps”  que je remercie pour m’avoir suggéré ce sujet qui est si vaste qu’il mérite de s’y pencher régulièrement tant au point de vue sociologique des retombées de l’IA que de son côté philosophique sur l’évolution de notre société contemporaine et future !

email

Auteur : CDS-Mon Carré De Sable-Michel Mougenot

Rédacteur, biographe professionnel, écrivain public, blogueur (moncarredesable.com), stratégie webmarketing, copywriting Mes compétences sont entièrement consacrées à ma passion pour l'écriture. Depuis tout jeune le besoin d'écrire s'est fait sentir, celui de lire l'avait précédé immédiatement, tout livre qui me tombait sous la main était dévoré rapidement ce qui m'a donné très rapidement un don pour la rédaction et la création... Roquebrune-Cap-Martin, Provence-Alpes-Côte d’Azur, France

3 réflexions sur « Intelligence artificielle : si elle était déjà hors contrôle ? »

  1. Bonjour,

    A la lecture du documentaire on voit que l’impact de l’intelligence artificielle sur la société est étendu et très diversifié. Pour ma part, Je vais évoquer un aspect que je maîtrise un petit peu en tant que programmeur amateur de logiciels de simulation de phénomènes physiques ou chimiques : Construire un algorithme un peu long sans erreur de logique est souvent complexe (j’écris des programmes qui peuvent contenir jusqu’à 3000 à 4000 instructions). Il n’est pas exclu de laisser une erreur de programmation qui, si elle n’est pas gênante dans la plupart des cas, peut devenir critique dans des cas particuliers ou extrêmes. La Nasa en a fait souvent les frais (et les concepteurs de la fusée Ariane V également !) – Souvent une erreur de dimensionnement de variable peut aussi être fatale.
    Imaginons maintenant que ces systèmes d’IA se reproduisent eux-même tout seuls (on sait déjà un peu le faire : Le système “Unix” qui écrit en langage “C” est un exemple trivial : il est dit “autogénérateur”). Les algorithmes reproduits vont contenir les mêmes erreurs que les algorithmes initiaux produits par l’action humaine. Est-ce que ces systèmes vont être capables de corriger tous seuls les erreurs des algorithmes dans leurs systèmes fils ?
    Il faut donc savoir maitriser les failles des systèmes (de l’IA), ce qui n’est pas toujours évident.

    Jean-Yves

    1. Bonjour Jean-Yves ; vos commentaires sont toujours très pertinents ! Votre exemple du système Unix me fait penser à une métaphore de la transmission génétique des caractères récessifs, et je suppose que l’on doit avoir les mêmes situations qui peuvent se reproduire quand il est par exemple nécessaire que les deux parents présentent le même gêne pour qu’un caractère puisse être transmis à l’enfant en devenir…
      Je me rappelle qu’il y a quelques années s’était produite une catastrophe dans un programme de la NASA je crois, ce n’était même pas une erreur de programmation mais des données avaient été notifiées en système métrique au lieu du système américain de miles ou le contraire…
      Je ne sais plus, mais je crois que le résultat a été un crash sur la surface lunaire je crois
      Autre idée qui me vient à l’esprit, j’ai vu cette semaine que le système de pilote assisté de Tesla avait un “bug” et que parfois il choisissait de foncer dans une auto à l’arrêt plutôt que de changer de file …
      Il est certain que l’on a affaire à des défaillances ‘informatiques” qui certes font peur, mais on en reste tout de même à des erreurs qui demeurent exceptionnelles et surtout que c’est une technique en pleine évolution …
      Il faut savoir effectivement maitriser les failles du système, je ne doute pas que l’IA saura remédier tôt ou tard à ces lacunes ; est-ce souhaitable ?
      Là est un autre débat !!!

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.