Prérequis d’une éthique de l’intelligence artificielle, Partie 2
Un besoin impératif de sens
En prophétisant que « le leader dans le domaine de l’IA sera(it) le maître du monde »[i], le maître du Kremlin a, d’une certaine manière, validé cette impérative nécessité d’introduire de l’éthique dans les usages de l’Intelligence Artificielle.
Mais comment la définir ? Et d’abord avec qui ? Avec ses 52 experts qui ont d’ores et déjà publié leurs premières recommandations, l’Europe a pris une longueur d’avance face aux géants du numérique. Cependant, lors de sa mise en place, les observateurs n’ont pas manqué de critiquer un casting qui oubliait les représentants de la société civile. De fait, on peut s’interroger sur la pertinence de demander à des experts de se prononcer seuls sur l’éthique de l’objet de leur expertise. Dans un autre temps et sur un autre registre, Georges Clémenceau disait que « la guerre était une chose trop grave pour être confiée aux militaires. » Aujourd’hui, au même titre que personne ne confierait la politique de prévention routière exclusivement aux pilotes de F1 ou de rallye et aux constructeurs automobiles, l’éthique de l’IA ne peut se limiter aux chercheurs et aux représentants des GAFA.
Un organisme, comme la Commission de réflexion sur l’Ethique de la Recherche en sciences et technologies du Numérique Allistene (CERNA), a réussi ce savant équilibre, d’associer des chercheurs informatiques de haut niveau, des philosophes, des éthiciens et des experts en droit. L’Union Européenne, dont on a trop souvent déploré la gouvernance des experts, pourrait s’en inspirer, et y adjoindre des acteurs du débat démocratique.
Arrêtons-nous sur une question d’actualité : faut-il remercier un robot, quand il nous « rend un service » ? L’éthique de notre relation aux machines dépend de la manière dont on les considère. Dans une approche humaniste occidentale, un robot ne diffère pas d’une armoire, d’une chaise ou d’une machine à café. Il n’y a aucune raison de lui dire merci. Dans une perspective animiste, les objets recèlent un esprit, qui leur confère une force vitale. Les remercier devient naturel et pourrait s’intégrer au rituel de la relation aux machines. L’éthique de notre relation aux robots dépend du contexte culturel. Mais ce n’est pas tout.
Supposons qu’un individu casse volontairement un robot. En France, il serait condamné pour vandalisme et devrait indemniser son propriétaire. Imaginons maintenant que l’on demande son avis à Raymond Kurzweil, directeur de la technologie chez Google et posthumaniste déclaré. D’après lui, une intelligence artificielle forte, capable d’avoir conscience d’elle-même, verra le jour avant 2030. Ray Kurzweil recommande que ces machines, pourvues d’une intelligence égale ou supérieure à la nôtre, disposent du droit de vote. Dans cette perspective posthumaniste, un individu, reconnu coupable de la destruction d’un robot, pourrait être condamné à de la prison ferme, voire à la peine capitale dans certains états américains.
Il y a un préalable à une éthique de notre relation aux machines : donner un sens à notre humanité. Et seule la philosophie ou les religions peuvent nous aider à l’établir.
Emmanuel Bertrand-Egrefeuil
Vous pouvez télécharger le fichier en format pdf en cliquant ici :