Laurent Cournarie

Colloque NXU, 5 juin 2018, « L’éthique (d’) après l’IA »

Logo NXU sans fond

 

Colloque NXU, 5 juin 2018, TBS

Laurent Cournarie, « L’éthique (d’) après l’IA »

 

Introduction

Bonsoir,

Le thème « IA et éthique » commence à être très débattu. Il voit s’opposer deux positions. Certains peuvent considérer que la réflexion éthique en IA est un thème marketing et qu’à s’en faire le spécialiste on risque de manquer le développement scientifique et économique de et par l’IA : le gagnant en éthique serait le perdant en économie. D’autres au contraire considérant que certaines valeurs éthiques sont essentielles à l’humanité, s’élèvent contre la naïveté à croire que les algorithmes sont neutres, qu’ils ne recèlent pas de biais cognitifs, que les résultats en deep learning sont transparents et explicables. La réflexion éthique se présente alors comme une intelligence critique de l’IA.
Le débat sur l’éthique et l’IA porte en général sur les effets éthiques de l’IA. On en pointe 4 principalement :

– nécessité de protéger les données personnelles parce que l’éthique commence par le respect de la liberté individuelle

– nécessité de lutter contre les discriminations parce que l’éthique repose sur le principe de dignité et d’égalité des personnes[1]

– nécessité de préserver le pluralisme humain contre une tendance à “clusterisation“ des individus parce l’éthique reconnaît à l’individu de pouvoir être le sujet pour soi de sa vie propre

– nécessité de défendre le bien commun ou l’intérêt général des sociétés et même de l’humanité en général à la fois contre les entreprises privées et contre l’individualisme de l’usager et du consommateur lui-même. Autrement dit, l’éthique est toujours une question politique.

 

Mais plus précisément, si l’on ne confond pas l’éthique avec ce qui n’est pas technique et avec le sociétal, qu’en est-il de l’éthique d’après l’IA, càd à la fois que peut être l’éthique en IA et que peut faire l’IA à l’éthique ?

Dans cette communication, je propose trois idées simples :

 

(1) le monde technoscientifique contemporain n’est pas moins éthique mais plus

(2) cette croissance éthique est peut-être en même temps une crise morale

(3) l’enjeu éthique de l’IA est celui de l’autonomie humaine de la décision

 

(1) Un monde plus éthique.

Le monde est plus éthique d’abord “sociétalement”. L’éthique est à la mode et elle est partout : éthique des affaires, éthique des entreprises, bioéthique, éthique environnementale, éthique animale, etc. Tout est éthique ou tout socialement pose un problème éthique.

Mais le monde est plus éthique parce que le périmètre de l’éthique s’est indéfiniment élargi. Qu’entend-on par éthique ? Une théorie normative de l’action. Les hommes et les sociétés ont toujours considérés que toutes les actions ne se valent pas : ils valorisent certaines comme bonnes ou justes et d’autres comme mauvaises ou injustes. Il n’y a pas d’éthique ou de morale en deçà de cette distinction entre du bien et du mal, du bon et du mauvais. Mais cette aptitude à norme l’action jusque-là avait une extension limitée. L’éthique concernait :

  1. le rapport de l’homme à l’autre homme — étaient exclus de l’éthique la nature, l’animal, la machine : ce n’est plus le cas.
  2. une temporalité resserrée autour du présent de l’action (présent du rapport à autrui, responsabilité de l’action passée ou de la conséquence prévisible — étaient exclus de l’éthique les générations à venir et les effets imprévisibles de la puissance humaine sur la nature : ce n’est plus le cas.
  3. les limites de la finitude humaine — étaient exclus de l’éthique tout ce qui touche aux fins de l’existence (naissance/mort) : ce n’est plus le cas[2].

Le monde est plus éthique parce que l’humanité est plus responsable : l’humanité est responsable de ce qui n’avait jamais relevé de l’éthique. From chance to choice, comme on répète.

(2) Un monde moins moral

Mais en même temps le monde est peut-être moins moral, au sens où on assiste peut-être à un recul de la capacité à poser une loi catégorique ou à interdire inconditionnellement une action pragmatiquement ou techniquement possible (loi de Gabor). L’ancien monde était fait de devoirs et d’interdits, investis et cautionnés par des institutions. Or pour des raisons multiples[3], il est de moins en moins possible de définir une règle universelle et/ou de l’imposer durablement. Comme si le “non“ s’effaçait tendanciellement de notre monde. Les intérêts économiques, la disparité des systèmes juridiques, le désir d’apprendre et de connaître davantage sont plus puissants que tous les scrupules moraux.

 

Ces remarques très générales sur l’éthique étant faites, venons-en à la 3ème idée sur l’éthique (d’) après l’IA.

 

Vous pouvez lire la suite et et l’intégralité de cet article en cliquant sur le lien suivant : L’éthique d’après l’IA

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *