Par Yann Ferguson, Enseignant Chercheur à l’Icam (Institut Catholique d’Arts et Métiers) Responsable délégué du Domaine Humanité. Ce texte a bénéficié de nombreux échanges au sein de la Commission Cognitif et IA de NXU Think Tank.

Le texte vous est proposé en deux versions :

La version enrichie ci-dessous (temps de lecture de 12 minutes)
ou la version courte ici (temps de lecture de 4 minutes)

Version enrichie (12 minutes)

Introduction: Homme faible + ordinateur faible + process fort > Homme fort + programme fort + process faible

En 1997, la défaite de Garry Kasparov contre Deep Blue, le supercalculateur d’IBM, lors du “rematch”, eut un effet retentissant. La rencontre entre le champion et l’ordinateur, alors classé 259^e dans la liste TOP 500 des superordinateurs les plus puissants du monde, a lieu au Equitable Center de New York, devant les caméras, la presse des millions de téléspectateurs qui regardent le résultat. “Les chances de victoire de Deep Blue n’étaient pas certaines, mais la science était solide. Les équipes d’IBM savaient que leur machine pouvait explorer jusqu’à 200 millions de positions d’échecs possibles par seconde”^[1]. Le grand maître des échecs gagne la première partie, Deep Blue, la suivante, les “deux” joueurs font match nul aux trois parties suivantes. La sixième partie est décisive: “Il s’élance dans une Caro-Khan, un des systèmes de défense qu’il maîtrise le mieux. Et, d’un coup, tout s’effrite. Il accepte un gambit, un sacrifice que lui propose Deep Blue. Son pion fauche le cavalier noir. Puis, il comprend. Il promène un regard fou autour de lui. Quelque chose, en lui, vient de s’effondrer. Il sait qu’il n’est plus le roi d’un monde fascinant”^[2]. Douze ans plus tôt, le champion du monde invaincu avait pourtant terrassé les 32 meilleurs programmes lors d’une partie simultanée: “Du point de vue humain, ou du moins de mon point de vue, c’était le bon vieux temps des échecs homme contre machine”^[3]. Mais, durant ce que Newsweek avait appelé “Le dernier combat du cerveau”, le champion perd contre un seul d’entre eux^[4]: “Un joueur étrange, à la mécanique si déconcertante, à la logique si bouleversante, à la pensée si paradoxale. Un joueur électronique qui fera date dans l’histoire de l’informatique et du jeu d’échecs”. Le résultat de ce match fait la une des journaux du monde entier et permet à un large public de découvrir les supercalculateurs. Ce coup d’éclat médiatique ouvre également de nouvelles perspectives à l’informatique et à IBM dans de nombreuses industries différentes.

“Il a été programmé pour résoudre le jeu d’échecs complexe et stratégique, ce qui a permis aux chercheurs d’explorer et de comprendre les limites du traitement massivement parallèle. Cette recherche a permis aux développeurs de comprendre comment ils pouvaient concevoir un ordinateur pour résoudre des problèmes complexes dans d’autres domaines, en utilisant des connaissances approfondies pour analyser un plus grand nombre de solutions possibles. L’architecture utilisée dans Deep Blue a été appliquée à la modélisation financière, y compris les tendances du marché et l’analyse des risques ; à l’extraction de données – découvrir les relations et les modèles cachés dans les grandes bases de données ; et à la dynamique moléculaire, un outil précieux pour aider à découvrir et à développer de nouveaux médicaments”, raconte IBM.

Garry Kasparov est effondré. Quelques années avant, il avait en effet déclaré : « Je ne sais pas comment nous pouvons exister en sachant qu’il existe quelque chose de mentalement plus fort que nous ». Une semaine avant sa défaite, il se comparait encore à un rempart de la civilisation contre le triomphe de la machine. Lui, le dernier bastion, vient donc de céder. Le champion commence par chercher des excuses. D’abord, il n’a pas eu accès aux parties d’entraînement de Deep Blue. Ensuite, il insinue qu’IBM a triché: «Je n’ai aucune idée de ce qu’il s’est passé derrière le rideau.» Le Russe sous-entend que la souplesse, la formidable capacité d’adaptation de Deep Blue dépassent son entendement: «L’a-t-on manipulé pendant les parties?». L’a-t-on programmé, affiné, pour lui permettre de jouer « ses coups si humains, si incompréhensibles» ? Il jure: «Cette machine n’a jamais fait d’erreur définitive. Elle s’est ajustée elle-même en fonction des pièces, des suites de coups ». Il s’énerve: « Les jeux joués par Deep Blue auraient dû être publiés dans la foulée». C.J. Tan, coordinateur de l’équipe d’IBM l’assure pourtant: «On a travaillé sur la vitesse, la connaissance et la souplesse. Rien d’autre. On ne changeait rien dès que l’horloge se déclenchait (en début de partie)».

L’Intelligence Artificielle et les échecs ont une longue histoire commune.

À l’aube de l’ère informatique, en 1950, Claude Shannon, influent ingé­nieur des laboratoires Bell, publiait dans Philosophical Magazine un article inti­tulé « Programmation d’un ordinateur pour jouer aux échecs »^[5]. ll y admet que les échecs sont un problème intéressant et un test décisif des capacités de systèmes de traitement de l’information, décrivant l’analyse de la stratégie des machines comme un problème de forme réelle sans la complexité du monde réel. Selon lui, bien que ceci n’ait peut-être aucune importance pratique, savoir si un ordinateur peut jouer aux échecs revêt un intérêt théorique. Une solution satisfaisante à ce problème pourrait agir comme un effet de levier dans la résolution d’autres problématiques de nature similaire, mais de plus grande importance. Or, il estime que non seulement la création d’un joueur d’échecs informatisé « raisonnablement performant » est possible, mais elle aura en outre des conséquences méta­physiques: elle contraindra l’espèce humaine « soit à admettre la possibilité d’une pensée mécanisée, soit à restreindre sa définition de “l’acte de penser” ». Il pose ensuite les bases du développement des logiciels d’échecs qui se révèleront également fondamentales pour l’intelligence artificielle en général. Un programme d’échecs, écrit-il, doit comporter une fonction de recherche susceptible de recenser les coups possibles et de les classer en fonction de leur influence sur le cours ultérieur de la partie. Deux stratégies très différentes pour programmer la fonction se dégagent alors:

• La stratégie de « Type A » est une recherche par force brute de toutes les variations. Un programme de recherche en profondeur analyse toutes les séquences de mouvements possibles et leurs conséquences avec la profondeur de coups désirée et assigne une valeur à chaque position finale. L’unique connaissance liée aux échecs est contenue dans la fonction d’évaluation qui détermine la valeur associée à une position.
• La stratégie de « Type B », est une recherche sélective sur les branches importantes uniquement. Un matériel basé sur la recherche imite le comportement d’un joueur d’échecs débutant, qui, connaissant uniquement les mouvements, tâtonne systématiquement jusqu’à un moment clef où il peut sélectionner le meilleur coup à jouer.

Comme tous les spécialistes de son temps, Shannon considère alors que la méthode de type A n’est pas viable : en raison des limites de temps imposées lors des compétitions d’échecs, un ordinateur ne sera jamais assez rapide pour étendre son analyse au-delà de quelques coups d’avance. Comme le fait remarquer Kasparov, il y a plus de « 300 milliards de façons possibles de jouer les quatre premiers coups dans une partie d’échecs, et, même si 95 % de ces variations sont sans intérêt, un programme de type A devait toutes les passer en revue ». En 1950, et longtemps après, personne ne peut imaginer qu’un ordi­nateur exécutant une stratégie fondée sur la force brute puisse l’emporter sur un bon joueur: « une machine travaillant avec la stratégie de type A serait à la fois lente et mauvaise joueuse ». La stratégie de type B, fondée sur l’intelligence, semble beaucoup plus praticable. Surtout, elle cadre avec les conceptions scientifiques de l’époque autour des « machines pensantes », qui commencent à inspirer des théories sur l’intelligence humaine. De nombreux chercheurs et philosophes en viennent en effet à considérer que le cerveau ­humain doit fonctionner un peu comme un ordinateur, utilisant ses milliers de neurones en réseau pour « calculer » pensées et sensations. Si l’on pouvait trouver les codes qu’utilise le cerveau pour accomplir ses tâches cogni­tives, on serait capable de programmer des codes similaires dans un ordinateur. Non seulement la ­machine jouerait aux échecs comme un champion, mais elle serait aussi capable d’accomplir presque tout ce qu’un cerveau humain peut accomplir. Dans un article de 1958^[6], les éminents chercheurs Herbert Simon et Allen Newell affirment ainsi que les ordinateurs sont des « machines qui pensent » et que, dans un proche avenir, « l’éventail de problèmes qu’ils sont en mesure de traiter coïncidera avec celui auquel l’intelligence ­humaine est appliquée »: 

«Nous disposons maintenant des éléments d’une théorie de résolution de problèmes heuristique (par opposition à algorithmique) ; et nous pouvons utiliser cette théorie à la fois pour comprendre les processus heuristiques humains et pour simuler ces processus avec des ordinateurs numériques. L’intuition, la perspicacité et l’apprentissage ne sont plus des possessions exclusives de l’homme : tout grand ordinateur à grande vitesse peut être programmé pour les mettre en évidence également ».

Les auteurs formulent ensuite quatre prédictions, dont la première se réalisera…

Avec trente années de décalage: « dans dix ans, un ordinateur numérique sera le champion du monde d’échecs, à moins que les règles ne l’excluent de la compétition». Mais la victoire de l’ordinateur lors du “rematch” livre un enseignement inattendu. Deep Blue n’a pas battu Kasparov en égalant son intuition et sa perspicacité. Grâce à des années de progrès exponentiels en matière de puissance de calcul et à l’amélioration constante de la performance des algorithmes de recherche, l’ordinateur a été capable d’analyser un nombre suffisant de coups possibles en un laps de temps assez court pour vaincre le champion. Si une machine peut rechercher des milliards de possibilités en l’espace de quelques millisecondes, en les classant selon leur pertinence pour atteindre un objectif prédéterminé, alors elle peut surclasser les experts humains dans l’analyse de problèmes, sans avoir à égaler leur expérience ou leur discernement. La force brute a triomphé. « Il s’est avéré que construire un superordinateur d’échecs n’était pas la même chose que construire une machine pensante à la hauteur de l’intelligence humaine, estime ­Kasparov. Deep Blue était intel­ligent de la même manière que votre ­réveil programmable est intelligent »^[7].

Peu après sa défaite, Garry Kasparov change de ton, pour esquisser les contours d’un nouveau rapport Homme-Machine: “Pourquoi, au lieu de nous affronter, ne pas jouer comme des partenaires?  Mon idée a vu le jour lors d’un match en 1998 à León, en Espagne, et nous l’avons appelé « Échecs avancés ». Chaque joueur avait un PC à portée de main qui exécutait le logiciel d’échecs de son choix pendant la partie. L’idée était de créer le plus haut niveau d’échecs jamais joué, une synthèse du meilleur de l’homme et de la machine”. Un joueur d’échec assisté par ordinateur serait ainsi doté d’un côté de l’intuition, de l’empathie et de la créativité d’un humain, “la stratégie”, et de l’autre, de la force de calcul brute d’un ordinateur, “la tactique”. Utilisons les ordinateurs pour « les aspects les plus ingrats » du raisonnement nous libérera et nous permettra de consacrer nos facultés intellectuelles à « la créativité, la curiosité, la beauté et la joie ». Si nous ne saisissons pas cette occasion, conclut-il, « autant être nous aussi des machines ». Ce n’est qu’en nous appuyant sur des machines que nous pouvons prouver que nous n’en sommes pas. Plus tard, Garry Kasparov donnera à cette nouvelle façon de jouer aux échecs un nom plus inspirant: le « centaur chess ». Le centaure, cette créature mythique mi-homme, mi-cheval, allierait des qualités humaines et une puissance non-humaine pour atteindre plus rapidement, et plus efficacement, des objectifs plus ambitieux. De tels  centaures seraient-ils plus forts que les machines?

Dès 1960, Joseph Carl Licklider, pionnier d’Internet, avait établi les bases d’une “symbiose Homme-ordinateur” dans un article fondateur  : “Elle impliquera un couplage très étroit entre les membres humains et les membres électroniques du partenariat. Les principaux objectifs sont 1) de permettre aux ordinateurs de faciliter la pensée formulative car ils facilitent maintenant la solution des problèmes formulés, et 2) de permettre aux hommes et aux ordinateurs de coopérer pour prendre des décisions et contrôler des situations complexes sans dépendre de programmes prédéterminés. Dans le partenariat symbiotique anticipé, les hommes définissent les objectifs, formulent les hypothèses, déterminent les critères et effectuent les évaluations. Les machines informatiques feront le travail routinier qui doit être fait pour préparer le chemin des intuitions et des décisions dans la réflexion technique et scientifique (…). L’espoir est que, dans peu de temps, les cerveaux humains et les ordinateurs seront très finement couplés entre eux, et que le résultat de ce partenariat pensera comme aucun esprit humain jusqu’à présent, et traitera les données d’une manière différente des machines de traitement de l’information que nous connaissons à ce jour”^[8].

En 2005, un site de jeu d’échec en ligne organisa un tournoi où chaque participant pouvait librement jouer en équipe avec d’autres joueurs ou des ordinateurs. “Les premiers résultats n’ont pas été surprenants, se  souvient Kasparov. Les équipes homme-machine ont dominé les ordinateurs les plus puissants. La machine d’échecs Hydra, qui est un super-ordinateur d’échecs (specific) comme Deep Blue, n’a pas fait le poids face à un joueur humain fort utilisant un ordinateur portable relativement faible. La stratégie humaine combinée à l’acuité tactique d’un ordinateur étaient écrasantes. Mais la surprise vient de la conclusion de l’événement”. En effet, ce ne sont pas les grands maîtres assistés des meilleurs programmes qui l’emportèrent, mais deux joueurs amateurs équipés de trois ordinateurs aux performances moyennes. Leur protocole d’échange mis en place entre les joueurs et les programmes fit la différence: “Leur habileté à manipuler et à « coacher » leurs ordinateurs pour qu’ils examinent très profondément les positions a efficacement contrecarrer la compréhension supérieure des échecs de leurs adversaires grands maîtres et la plus grande puissance de calcul des autres participants.” Kasparov en déduisit la conclusion suivante : Homme faible + ordinateur faible + process fort > Homme fort + programme fort + process faible. A l’image d’une équipe sportive, dont la qualité collective dépasse parfois la somme des individualités qui la composent, l’augmentation espérée pourrait donc relever des modalités d’interactions entre l’Homme et l’IA, d’une alchimie. Dans son histoire de l’informatique, Walter Issacson^[9] (2015) propose ainsi d’imaginer un “test de Licklider”, pendant du fameux “test de Turing” supposé pouvoir qualifier une machine d’ “intelligente”, pour établir les propriétés collaboratives d’un programme intelligent: “Il dépasserait la question de savoir si une machine pourrait reproduire à l’identique toutes les composantes de l’intelligence humaine pour demander si la machine accomplit mieux ces tâches quand elle fonctionne tranquillement d’une manière complètement autonome, ou quand elle travaille conjointement avec des humains. En d’autres termes est-il possible que des humains et des machines travaillant en association demeurent indéfiniment plus puissants qu’une machine à intelligence artificielle travaillant seule?” (p. 765). En 2020, l’enjeu serait en effet moins de simuler l’intelligence par un jeu de dupe que de concrétiser la coopération par un jeu d’association^[10].

Reprenant la figure du Centaur, un article du célèbre centre de recherche technologique Xerox, connu notamment pour avoir imaginé plusieurs solutions utilisées par le Mac Intosh, pose, en 2017, un cadre à la réflexion^[11].

La série d’articles à venir propose une réflexion sur les freins et les chemins du Centaur dans les organisations. Il s’agira régulièrement de proposer une analyse réflexive sur les conditions d’avènement d’un couplage Humain-Intelligence Artificielle d’augmentation du travailleur.

Le prochain article de cette série sur le Centaure sera consacré à un premier frein: la confusion entre organisation augmentée et organisation automatisée.

Yann Ferguson, Enseignant Chercheur à l’Icam (Institut Catholique d’Arts et Métiers) Responsable délégué du Domaine Humanité

^[1] IBM, Icons of progress.

^[2] Losson, Christian, 1997, “Deep blue met kasparov ko. Hier soir, le champion du monde d’échecs encaissait mal sa défaite face à l’ordinateur”, Libération.

^[3] Kasparov, “The Chess and the Computer”, MIT Presse, février 2010.

^[4] Kasparov raconte cet épisode dans un TEDx “N’ayons pas peur des machines intelligentes, travaillons de concert avec elles”.

^[5] Voir Carr, N. (2017), “Kasparov, optimiste face aux machines”, Los Angeles Review of Books, traduit dans Books, 2019, n°94.

^[6] “Heuristic Problem Solving: the next Advance in Operations Research”.

^[7] Kasparov( 2017), Deep Thinking: Where Machine Intelligence Ends and Human Creativity Begins, PublicAffairs.

^[8] “Man-Computer symbiosis”, in Institute of Radio Engineers, 1960, p. 4-11.

^[9] Les innovateurs, 2015.

^[10] Un petit groupe d’experts toulousains en différents domaines des sciences travaillent actuellement sur le design d’une telle expérience.

^[11] Xerox Parc, « Half-Human, Half Computer? Meet the Modern Centaur », 2017.