Emmanuel Bertrand-EgrefeuilNon classéSociologie

HLMI machine d’intelligence supérieure

Logo NXU sans fond

 

« L’avènement des machines d’intelligence supérieure signifie la fin rapide de l’Humanité »

JANE K. LEE

 

Jane K. Lee est une journaliste américaine, spécialisée dans l’Intelligence Artificielle. Chantre des algorithmes et des robots durant des années, elle a raconté sa conversion en une « critique vigilante » de l’IA dans une nouvelle autobiographique. Nous l’avons rencontrée en ce début d’année 2038 à l’occasion de son passage à Paris. Elle y présentait son dernier essai, intitulé HLMI : High Level Machine Intelligence. L’Humanité aurait-il déjà perdu ?

 

Vos détracteurs vous accusent d’avoir un problème personnel avec l’Intelligence Artificielle.

 

Disons plutôt que j’ai vécu une mauvaise expérience, fin 2027. Je l’ai racontée, par la suite, dans L’humain plutôt que les robots. Mon fils avait trois ans. Nous lui avions acheté, mon mari et moi, un robot personnel, haut de gamme pour l’époque, capable d’échanger par la voix sur des sujets simples (NDLR : chatbot de catégorie 2), pourvu d’une motricité de type 3 (NDLR : bipédie, mobilité du poignet et doigts articulés). Mon mari et moi travaillions tard. Notre fils restait de longues heures avec son « copain Richard ». Un jour, il a fondu en larmes devant moi. Il m’a demandé pourquoi il n’était pas un robot. Son chagrin a perduré, les jours et les semaines qui suivirent. Je connaissais la chanson de son « copain Richard » : Why ain’t I a robot ? J’ai contacté le fabricant. Il était dans l’incapacité de faire disparaître cette rengaine, sans effacer la totalité de la mémoire de la machine. J’ai dû recourir à un psychologue pour organiser une panne du robot, la moins traumatisante pour mon fils. Plus tard, nous avons obtenu, avec plusieurs associations, le retrait de ce type de message des robots personnels. J’ai souhaité partager cette expérience, pour éviter qu’elle se reproduise. Je veille désormais à ce que personne ne fasse croire que les machines éprouvent des sentiments.

Quelles sont les dates importantes de l’Intelligence Artificielle ?

 

La notion d’Intelligence Artificielle trouve son origine au début des années 50, dans les travaux d’Alan Turing qui s’interrogeait sur les capacités de penser des machines. Il a fallu attendre 1997 pour que le programme Deep Blue, vainqueur du champion du monde d’échecs du moment, devienne la première IA reconnue. Le point de basculement a eu lieu avec la révolution du Deep Learning, rendue possible par les puissances de traitement et de stockage, et ses développements visibles dans la décennie 2010. Cette technologie a affranchi les machines de leurs programmeurs humains. En ingurgitant des millions de données, les algorithmes ont commencé à apprendre par l’exemple, sans intervention humaine. Le Machine Learning ou Deep Learning recourt à des millions de données pour ajuster des millions de paramètres des réseaux de neurones. C’est ainsi qu’à partir de milliers de clichés radiographiques, des IA ont appris à diagnostiquer des cancers mieux que le meilleur des radiologues humains. Dès 2011, des progrès considérables dans la classification d’images et la reconnaissance vocale ont été réalisés ; un peu plus tard, une IA a triomphé du champion du monde de jeu de Go ; l’un de ses successeurs a appris en 4 heures à battre le meilleur programme d’échecs du moment ; des robots se sont mis à marcher, courir et sauter comme seuls les humains en étaient jusqu’alors capables ; le premier album de musique entièrement composé et interprété par une IA est sorti en janvier 2018. Depuis, les algorithmes dits intelligents n’ont cessé d’étendre leur champ d’application.

 

La défiance des hommes vis-à-vis des machines remonte à bien longtemps.

 

En effet, depuis toujours, l’homme a craint qu’elles ne menacent leur vie, ou à tout le moins leur emploi.

Dans la tradition hébraïque, le golem, créé à partir d’argile comme l’homme, mais dépourvu de conscience, est une menace. Il doit redevenir poussière. D’après une légende juive du Moyen-âge, le rabbi Loew à Prague aurait créé un golem pour protéger sa communauté des pogroms. Quand la créature est devenue dangereuse, le religieux lui aurait demandé de lacer ses chaussures. Le golem se serait penché en avant. Le rabbi l’aurait neutralisé en effaçant les lettres magiques, gravées sur son front pour l’animer.

Au dix-neuvième siècle, lors de la révolution industrielle, des révoltes ont éclaté contre l’arrivée de machines, accusées de mettre en danger les emplois. Le plus célèbre de ces mouvements, le luddisme, a opposé en Angleterre, en 1811 et 1812, des artisans à des industriels du coton qui promouvaient le métier à tisser. Le terme de néo-luddisme désigne depuis lors, des mouvements d’opposition radicale à la mécanisation. Je m’empresse de dire que ce n’est pas mon cas.

La littérature s’est faite l’écho de ces angoisses, d’abord avec Frankenstein et le Prométhée moderne de Mary Shelley au dix-neuvième, puis un siècle plus tard, avec les nouvelles sur les Robots, d’Isaac Asimov. A chaque fois, on retrouvait le thème d’une création qui finit par échapper au contrôle de son maître. A partir des années soixante-dix, des figures de robots sympathiques au cinéma, dont les plus connus demeurent C3PO et R2D2 de Star Wars, ont redoré le blason des machines. Ce qui n’a pas empêché Hollywood de surfer sur les vagues des terrifiants Terminator ou des répliquants de Blade Runner, en démultipliant les épisodes.

Ces dernières années, les opinions se sont radicalisées. Une organisation internationale des Amis des Robots s’est créée, tandis que plusieurs ONG ont déclaré l’espèce humaine en danger. Plutôt que des imprécations, nous sommes nombreux à demander une grande vigilance vis-à-vis du progrès. Albert Einstein n’a-t-il pas dit que « le progrès technique est comme une hache qu’on aurait mise dans les mains d’un psychopathe » ?

 

Vous reconnaissez que les Intelligences Artificielles ont amené de grands progrès.

 

C’est évident. Elles ont d’abord révolutionné le plus important : notre santé. Des programmes assistent les médecins dans leur diagnostic. D’autres sauvent des vies en interprétant tout type de radiographies, avec une fiabilité supérieure à un humain. Sur les tables d’opération, des robots pilotés par les chirurgiens reproduisent leurs gestes avec une sûreté et une précision inégalable.

Dans les transports, la fiabilité des voitures et des camions autonomes sauve chaque année des centaines de milliers de vies à travers le monde.

L’exploitation minière et la manipulation de matières dangereuses, qui emportaient chaque année leur lot de vies humaines, sont désormais effectuées par les dernières générations de robots.

Dans les centres de tri de déchets, les progrès de la reconnaissance d’images ont rendu l’industrie du recyclage très rentable. Au milieu de l’océan, des barges autonomes de dépollution, alimentées par des panneaux solaires, collectent les débris flottants, les trient et les retraitent, sans intervention humaine.

Enfin, des robots construisent sur Mars sans discontinuer depuis 2027. Cette base pourrait accueillir des humains, quand les difficultés liées aux voyages longs dans l’espace auront été surmontées.

 

Les conséquences sur l’emploi ont été plutôt bien gérées, selon vous.

 

La robotisation de ces tâches et de ces métiers – mineur, routier, taxi, mais aussi caissière – a détruit des millions d’emplois. Dans l’ensemble, les gouvernements ont bien réagi. Ils ont aussi bénéficié de l’essor de l’économie du recyclage, qui a créé de nouveaux emplois en local. Les machines qui remplaçaient des humains ont été taxées. Les secteurs de l’éducation, de la petite enfance, des soins et de l’accompagnement des malades et des personnes âgées ont connu un développement considérable, grâce à de fortes incitations fiscales. Les relations interpersonnelles se sont développées, dans un contexte de visibilité plus forte des robots. C’est encore une bonne nouvelle.

 

Néanmoins, vous déplorez la mainmise des algorithmes sur l’économie.

 

Les Intelligences Artificielles occupent tous les rouages de l’activité économique.

Des logiciels gèrent en ligne la comptabilité d’entreprises et de particuliers sans intervention humaine. D’autres sites fournissent des conseils en placements financiers. En contrepartie de la gratuité du service, ils conservent les données personnelles du client pour affiner leurs algorithmes.

Biggle Predictics assiste les entreprises dans le marketing de leurs produits. Le client reçoit d’abord un devis personnalisé, en fonction du produit, du marché et du niveau de conseil demandé. S’il est d’accord, les algorithmes, qui s’appuient sur une base colossale d’informations, élaborent un plan marketing, un plan média, y compris le « briefing » des créatifs.

Les algorithmes dominent aussi le marché du risque. En quelques clics sur un site d’assurances, vous obtenez un devis pour à peu près tout, que ce soient les inondations, la foudre, une panne de vos équipements électroniques ou une invasion d’extra-terrestres.

Le tiercé et les paris sportifs auxquels jouaient nos parents se meurent. Les IA gèrent mieux le risque que le plus expérimenté des turfistes. Seuls les jeux de hasard pur, tels que le loto ou les machines à sous en ligne, devraient survivre à terme.

Les algorithmes ont fait irruption dans les tribunaux, il y a une quinzaine d’années. Des programmes, alimentés par l’ensemble des textes de loi et la jurisprudence, assistent les juges pour déterminer les peines à appliquer aux petits délits.

Les machines règnent aussi sur les bourses du monde entier. Déjà dans les années 2000-2010, les programmes de Trading Haute Fréquence passaient des ordres boursiers tous les milliardièmes de seconde. Aujourd’hui, il n’y a plus aucune action humaine directe ; les traders sont d’abord des programmeurs de très haut niveau.

Plus inquiétant encore, les IA s’occupent depuis peu de la gouvernance des grandes entreprises et des Etats.

 

Emmanuel Bertrand-Egrefeuil

Découvrez l’intégralité de cet article ici en pdf : [Dystopie] Penser Magazine n°15. Mars-Avril 2038. Interview

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *