Temps de lecture (avec le petit jeu inclus à la fin!) : 7 minutes
Cet article fait suite à un premier article introductif sur les biais et l’IA.

Dans ce second article, nous allons nous attarder sur quelques définitions et un concept clef bien connu pour introduire par la suite les différents types de biais identifiés à ce jour et sur lesquels l’IA peut avoir un impact redoutable !

Peut-être que la plus importante définition, étant donné notre sujet, est celle de la Science ? Qu’est-ce donc que la science et comment la définir ? 

La science

Selon Wikipédia : “La science est l’ensemble des connaissances et des travaux au caractère universel ayant pour objet l’étude de faits et de relations vérifiables, selon une méthode caractérisée par l’observation, l’expérience, les hypothèses et la déduction. On la divise communément en différents domaines (ou disciplines) qualifiés de sciences (au pluriel).

La communauté scientifique, garante de la mise à jour du contenu des sciences, veut produire des « connaissances scientifiques » à partir de méthodes d’investigation rigoureuses, vérifiables et reproductibles.”

Rigoureuse, vérifiable et surtout reproductible… N’oublions pas ces trois points, majeurs pour la suite de nos propos.
 

Les neurosciences

Selon Wikipédia : “Les neurosciences cognitives désignent le domaine de recherche dans lequel sont étudiés les mécanismes neurobiologiques qui sous-tendent la cognition (perception, motricité, langage, mémoire, raisonnement, émotions…). C’est une branche des sciences cognitives qui fait appel pour une large part aux neurosciences, à la neuropsychologie, à la psychologie cognitive, à l’imagerie cérébrale ainsi qu’à la modélisation. ”

 Selon le Larousse : “Ensemble des disciplines étudiant le système nerveux. (Ce sont la neurobiologie, la neurochimie, la neurohistologie, la neuroanatomie, la neuropharmacologie, la neuropsychologie et la neurolinguistique, la neuropathologie, la neurologie, la psychiatrie, la neuroendocrinologie, la neurochirurgie.)”

Les neurosciences se focalisent donc sur le fonctionnement du système cognitif, elles étudient la “mécanique”, ce dont il va nous être difficile, voire même impossible de s’extraire. Nous comprenons mieux pourquoi le marketing s’y intéresse tellement. Créant même une nouvelle science (rigoureuse, vérifiable et reproductible donc…), le neuromarketing. Nous y reviendrons un peu plus loin.

Les sciences cognitives

Selon wikipédia : “Les sciences cognitives constituent une discipline scientifique ayant pour objet la description, l’explication, et le cas échéant la simulation des mécanismes de la pensée humaine, animale ou artificielle, et plus généralement de tout système complexe de traitement de l’information capable d’acquérir, conserver, utiliser et transmettre des connaissances.”

Selon Universalis : “Les sciences cognitives ont pour objet de décrire, d’expliquer et le cas échéant de simuler voire d’amplifier les principales dispositions et capacités de l’esprit humain – langage, raisonnement, perception, coordination motrice, planification, décision, émotion, conscience, culture.”

Les sciences cognitives quant à elles s’intéressent à définir nos mécanismes de pensée, c’est grâce à ces sciences que nous comprenons de mieux en mieux comment nous fonctionnons, comment nous réagissons, pourquoi nous faisons tels ou tels choix… Mieux nous comprendre afin de mieux comprendre nos biais de raisonnements, les fameux biais cognitifs / heuristiques.

Mais avant d’entrer dans le sujet des biais plus amplement, attardons-nous un instant sur un dernier concept essentiel pour la suite, le système de pensée 1 et 2.

Système 1 et Système 2

Ce système de pensée a été défini par Daniel Kahneman (prix nobel d’économiste)

Le système 1 

(situé dans des sous-systèmes du cerveau associés aux comportements instinctifs ou encore dans le limbique) fonctionne de manière automatique, involontaire, intuitive, rapide et demande peu d’effort (bien pour notre survie).

Il est très pratique mais il n’est cependant pas toujours très fiable. Aussi appelé le système rapide (ou les heuristiques), il permet en un instant de se décider si nous croyons ou pas en quelque chose, si nous le retiendrons ou si nous l’évacuerons, de trouver une réponse à un énoncé, de se faire une opinion.

Les exemples d’utilisation du système 1 sont très nombreux mais en voici quelques uns : réussir une recette de cuisine sans tout régler au millimètre, réussir un geste sportif qui semble improbable (tennis, golf etc.), traduire presque immédiatement les intentions de quelqu’un qui s’approche de vous, esquiver un potentiel danger instinctivement, trouver intuitivement le résultat d’un problème donné, traverser à bonne allure un croisement avec feux tricolores, piétons, animaux, cyclistes et autres véhicules, le tout sans le moindre risque, etc.

Mais attention, comme nous l’avons vu et allons le voir juste après avec un exemple, ce système n’est pas toujours fiable !
Il est donc aisé, à qui le souhaite, d’utiliser ce système à nos dépens. Il suffit dans un premier temps de nous placer face un postulat de départ erroné, d’injecter quelques sophismes et de minimiser l’impacte d’une éventuelle erreur (afin d’éviter de renforcer notre désire de vérification, c’est à dire de faire appel à notre système 2) pour que beaucoup tombent dans le panneau et se mettent à conclure comme “on” l’entend, ce qui est le cas de toutes les manipulations auxquelles nous sommes confrontés régulièrement.

Le système 2

(situé dans des sous-systèmes du cerveau faisant appel à la logique, au raisonnement, à l’image du néocortex)

Il fonctionne de manière réfléchie, volontaire. Il incorpore une phase d’analyse, donc de concentration, d’attention. Ce système est bien plus coûteux en énergie et plus lent.

Nous allons utiliser cette façon de penser après avoir reçu une alerte, parfois très légère, que quelque chose ne va pas et que nous devrions approfondir. Nous allons réfléchir et chercher, parfois longtemps en fonction de l’importance du sujet, une réponse juste ou le plus juste possible. Il peut être question ici de rechercher des preuves, des arguments solides, d’être méthodique.
Le système 2 est bien plus fiable évidemment mais peut prendre énormément de temps, quoi qu’il en soit, il est toujours plus coûteux en énergie et en temps que le système 1 (rapide).

Ce système nécessite un effort, un entraînement, de la méthode, il n’est pas “naturel”.

Prenons un exemple !

(proposé par Christophe Michel).

Un ensemble balle + raquette de tennis coûte 103 €
La raquette de tennis coûte 100 € de plus que la balle.

Combien coûte la balle ?

Votre système 1 (ou heuristique) vous donne la réponse immédiatement, 3 €.
Il ne coûte quasiment aucune énergie et apporte une réponse immédiatement en se basant sur les valeurs dont il dispose : 100 et 3.
C’est faux mais ce n’est généralement pas grave et ça permet d’obtenir très rapidement une ordre de grandeur plutôt correcte et suffisante.

Pour ceux qui ont la bonne réponse, vous avez de la chance, votre système 1 vous a, à vous aussi, apporté cette réponse rapidement mais un petit quelque chose vous a dit qu’il y avait un souci. Peut-être le simple fait que cet énoncé ait été dans un contexte parlant des biais cognitifs. Vous avez donc pris quelques instants pour mieux analyser le problème et êtes donc passés en système 2.

Si la raquette vaut 100 € de plus.
Il reste donc 3 €

100 + 1,5 = 101,5 €

La balle vaut 1,5 €, la raquette fait alors bien 100 € de plus!

Impressionnant 🙂 ?

Ceci est un exemple de biais cognitif et il en existe plusieurs (biais de sélection, de confirmation, de preuve sociale, de soumission à l’autorité, ..). Ce sera l’objet de notre prochain article !

Auteurs :
Stéphane Mallet
Luc Truntzler

Pour lire d’autres articles :