Recommandation 3 : « Définir les bons compromis entre facilité d’utilisation et engagement de l’usager »
Volatiles ronds hissés sur de longues pattes, les Shadoks sont bêtes et méchants. Leur langue se compose de quatre mots monosyllabiques (combinables) : Ga, Bu, Zo, Meu, et leur activité principale consiste à construire des machines absurdes. Et à pomper. La logique shadok, aussi absurde qu’implacable, s’exprime régulièrement sous la forme de proverbes devenus cultes :
« Si la solution n’est pas adaptée à la situation, adaptez la situation à la solution », « La vérité, c’est qu’il n’y a pas de vérité (y compris celle-ci) », « En essayant continuellement, on finit par réussir… Donc plus ça rate, plus on a de chances que ça marche », et bien sûr « pourquoi faire simple quand on peut faire compliqué ? ».
Dans la série imaginée par Jacques Rouxel à la fin des années 60, ce dernier aphorisme ponctue généralement une séquence durant laquelle les Shadoks ont finalisé une machine insensée, d’une complexité totalement disproportionnée au regard de la tâche qu’elle accomplit, comme enfoncer un clou. Aujourd’hui, la simplicité est devenue une valeur cardinale en matière de technologie, notamment numérique. Navi Radjou, Jaideep Prabhu et Simone Ahuja, dans leur ouvrage sur l’innovation Jugaad, qui invite les pays occidentaux à s’inspirer de l’ingéniosité des habitants des pays émergents plutôt qu’à se plaindre du manque de moyens dédiés à l’innovation, fait de la recherche de la simplicité un de ses piliers[1]. Les auteurs évoquent « la révolte contre la complexité » qui sévirait actuellement chez les occidentaux. Elle amènerait les utilisateurs à préférer des solutions simples aux performances moyennes aux solutions compliquées avec des performances élevées. Véritable icône de l’innovation numérique, Steve Jobs a élevé la simplicité au rang d’art, luttant contre les pièces non essentielles, pour concevoir des produits merveilleusement simples d’aspect comme l’iPod, l’iPhone ou l’iPad. On se souvient de sa colère lorsqu’il découvrit, à quelques jours de sa commercialisation déjà très retardée, que l’iMac G3 possédait un plateau pour accueillir les CD et non une simple fente comme exigée, ou de son refus de dédicacer un Mac à un fan tant que celui-ci n’aurait pas arraché les flèches directionnelles (le Mac ayant introduit la souris auprès du grand public). Dans le sillage d’Apple, concevoir des interfaces minimalistes et intuitives est ainsi devenu le leitmotiv de l’innovation numérique.
Des voix s’élèvent cependant contre cette simplicité d’utilisation des outils numériques. Pour le philosophe américain Matthew Crawford, elle conduit à occulter d’une part la réalité du monde physique, d’autre part la logique d’origine humaine embarquée dans le programme : « L’interface, pour sa part, est sensée être ʺintuitiveʺ, ce qui signifie qu’elle prétend garantir le minimum de friction psychique entre l’intention de l’usager et sa réalisation. Or, c’est justement ce type de résistance qui aiguise la conscience en tant que facteur indépendant. Mais quand les outils informatiques fonctionnent, la dépendance de l’usager (par rapport aux programmateurs qui se sont efforcé d’anticiper tous ses besoins en construisant leur interface) reste totalement imperceptible, et plus rien ne vient déranger son autisme ». Cette double abstraction de la physique et de la logique alimenterait chez l’usager une attitude de détachement contemplatif qui le rendrait incapable d’exercer son jugement, qui exige au contraire une confrontation à la réalité, un engagement corporel. Or, « le corollaire d’un tel engagement est le développement de ce qu’on pourrait appeler une vertu ʺinfra-éthiqueʺ : l’usager assume sa responsabilité face à la réalité extérieure ainsi que sa disposition à se laisser éduquer par elle »[2]. L’engagement corporel à l’égard de la machine est donc l’expression de l’agir humain et la condition d’une action responsable. Pour Crawford, le progrès technologique actuel conduit au déclin de ce type d’engagement.
Le Partenariat Mondial pour l’Intelligence Artificielle, qui a vocation à dégager des référentiels opératifs communs en matière d’IA responsable entre les pays membres, et le groupe Future du Travail au sein duquel j’évolue, a commencé à s’emparer de cette question dans son rapport de 2021. Comme toutes les applications numériques, les systèmes d’IA ont des exigences en matière de qualité de l’expérience utilisateur. Il est généralement admis que l’acceptabilité du système est accrue par la qualité de l’interaction homme-machine. Cette qualité est souvent synonyme de « facilité d’utilisation ». Plus l’expérience utilisateur d’un système d’IA est facile, c’est-à-dire fluide, conviviale, intuitive, ergonomique, plus vite le système d’IA s’intégrera les pratiques professionnelles.
Un manager : « Il y a l’IHM, et pour moi c’est fondamental pour le fonctionnement. Spécialement pour les cas d’images, les résultats des systèmes d’IA sont faciles à interpréter. Lorsque l’on travaille avec des sorties sous forme de graphiques ou de tableaux, ce n’est pas si évident. C’est un défi pour l’équipe de développement de rendre l’interface aussi simple que possible pour l’utilisateur, surtout lorsqu’il s’agit de présenter des données numériques. Elle doit être aussi interactive que possible avec une interface simple et directe pour l’utilisateur ».
L’expérience utilisateur est un paramètre évident à prendre en compte dans la conception d’un système d’IA. Cependant, l’expérience de l’utilisateur d’un système d’IA au travail et celle de l’utilisateur d’une application numérique n’abordent pas les mêmes questions de performance, d’efficacité et de responsabilisation. Si la convivialité, l’intuitivité et l’ergonomie peuvent enchanter l’usager, elles peuvent aussi générer une certaine passivité et conduire à un désengagement synonyme de perte d’autonomie. De nombreuses études d’accidents aériens montrent comment la succession de mauvaises décisions prises par les pilotes est le résultat de l’automatisation accrue des vols. Mais il s’agit moins d’un manque de pratique, comme on pourrait le penser, que d’une perte de « conscience de la situation ». Ne touchant que trois minutes les commandes en moyenne, l’attention diminue et les pilotes ne développent plus des « schémas mentaux », c’est-à-dire des représentations qui leur permettent de réagir efficacement à une situation. Privés de sensations par l’ordinateur qui s’est introduit entre eux et l’appareil, leurs pensées et leurs actions sont désynchronisées. Telle est l’équation du « cockpit glass » : des vols plus sûrs aux prix d’erreurs humaines plus nombreuses[3].
Pour équilibrer cette équation, notre groupe attire l’attention sur la recherche de bons niveaux de compromis entre la facilité d’utilisation et l’engagement cognitif de l’utilisateur. Les Interactions Humains-Machines ne doivent pas simplement être guidées par la simplicité, elles doivent également maintenir un bon niveau de « tension cognitive » pour nourrir un engagement du travailleur indispensable à sa conscience de la situation, à l’exercice de son jugement et donc de sa responsabilité. Une application dédiée à la dermatologie pour les médecins généralistes nous a en ce sens particulièrement intéressés. Elle obtient les meilleurs résultats du monde sur la détection du cancer de la peau. « Nous voulons augmenter l’humain avec l’IA. Nous voulons accélérer les processus, délivrer des connaissances ciblées à un moment précis ». Le système, conçu par une équipe de docteurs en mathématiques et en intelligence artificielle, utilise des réseaux neuronaux pour reconnaître et analyser les images. Il s’agit d’une activité sensible pour la profession, car la commercialisation de l’IA appliquée au domaine médical communique sur des performances de détection supérieures à l’homme. Mais le concepteur de ce système refuse d’alimenter cette concurrence : « Nous essayons de ne pas tendre vers la confrontation sur les performances, cela a un impact négatif sur la profession. Nous ne comparons jamais nos performances à celles des professionnels ».
L’interaction entre le médecin et l’outil est guidée par des préoccupations similaires. Le professionnel prend une photo et reçoit une analyse de risque sous la forme d’une couleur : vert, tout va bien ; orange, analyse supplémentaire ; rouge, transfert obligatoire vers un dermatologue qui a une bonne connaissance de la maladie qui priorise le rendez-vous. Mais l’interface organise également un échange, laissant place à la subjectivité du médecin. Il communique d’abord sur la marge d’erreur de l’IA, sur la qualité de l’image et surtout justifie son choix de couleur. Il explique sur quels éléments elle se base, avec les classes et sous-classes de raisonnement. Le professionnel peut également commenter le résultat, le nuancer, exprimer ses doutes, formuler un contre-diagnostic. L’ensemble de toutes ces informations est transmis au dermatologue expert. Pour lui, l’application facilite le tri, identifie les urgences et les patients qui ont vraiment besoin d’une consultation.
Alain Berthoz, professeur au collège de France spécialiste de la perception, s’est intéressé à la façon dont nous entreprenons de simplifier la complexité : « simplifier dans un monde complexe n’est jamais simple » prévient-il, car «simplifier coûte». La complexité grandissante des sociétés modernes a en effet pour corollaire une prolifération des méthodes pour simplifier : « Destinées à léviter la folie collective ou individuelle due à l’impossibilité pour notre cerveau de traiter l’immense quantité d’informations nécessaires pour vivre, agir et comprendre, ces méthodes plaquent une simplicité apparente, exprimée par des théories mathématiques ésotériques qui masquent l’incapacité de leurs auteurs à saisir le réel ». Le coût de cette frénésie de simplification est alors …une complexité accrue ! « Ces modèles mathématiques, liés aux intérêts particuliers qu’ils dissimulent, conduisent régulièrement à des drames, comme en témoignent la récente crise financière et la faillite des systèmes bancaires [4]». Berthoz propose en réponse la notion de « simplexité », soit « l’ensemble des solutions trouvées par les organismes vivants pour que, malgré la complexité des processus naturels, le cerveau puisse préparer l’acte et en projeter les conséquences. Ces solutions ne sont ni des caricatures, ni des raccourcis, ni des résumés. Posant le problème autrement, elles permettent d’arriver à des actions plus élégantes, plus rapides, plus efficaces. Elles permettent aussi de maintenir ou de privilégier le sens, même au prix d’un détour ».
Voici donc un aphorisme à destination des Shadocks du IIIe millénaire qui développent les systèmes d’IA au travail, « pourquoi faire simple quand on peut faire simplexe » ?
Prochain article : « Le 6e pourquoi »
Auteur : Yann Ferguson – Icam Expert chez Global Partnership on Artificial Intelligence
[2] Lire Crawford, M. 2016. Eloge du carburateur, La Découverte.
[3] Pour aller plus loin, lire Nicholas Carr, Remplacer l’humain. Critique de l’automatisation de la société, L’Echappée.
[4] Lire La simplexité, 2009, Odile Jacob.
Pour en savoir plus sur la commission Economie et la rejoindre :
Pour lire d’autres articles :