Quelles sont vos premières réactions aux annonces qui ont été faites lors du sommet de l’IA à Paris ?
Dans leur ambivalence, ces annonces traduisent la géopolitique actuelle à propos de l’IA. Cette dimension constitue un angle d’observation particulièrement important : l’IA n’est pas qu’un ordre de fait scientifique et technologique, mais tout autant, et profondément, social et géopolitique. La situation géopolitique est celle d’une lutte concurrentielle qui concerne les firmes conceptrices de numérique et d’IA aussi bien que les États. À cet égard, les trois axes choisis pour la déclaration finale me semblent pertinents : 1- donner à chacun les moyens de s’approprier la révolution de l’IA ; 2- favoriser le développement d’une IA durable ; 3- renforcer le système international de gouvernance de l’IA pour le rendre plus efficace et inclusif – mais avec une ambiguïté…
Laquelle ?
Derrière cette volonté de renforcer la gouvernance mondiale se joue également la question d’une souveraineté accrue de l’Europe et de la France pour conserver la capacité de produire des systèmes d’algorithmes qui ne leur soient pas imposés par les USA ou la Chine. À cet égard, la régulation n’est pas un vœu pieux mais déjà, avec l’IA Act, une réalité tangible dont on voit bien quel effet d’exaspération elle produit sur les libertariens qui viennent d’accéder au pouvoir aux USA.
Quelles sont les principales questions éthiques soulevées par l’IA ?
D’abord l’écologie : il y a une omerta sur le sujet de la part des industriels ou des politiques. Les premiers, en héritier du capitalisme du XIXe siècle, sont mus par un pur intérêt économique et financier, les seconds par la nécessité de maintenir, via la compétitivité industrielle de la France et des autres nations, l’emploi et la souveraineté. Mais il est nécessaire de penser l’éthique environnementale adaptée à l’IA, sinon on en reste à des discours militants aisément présentables par leurs adversaires comme partiaux et « politisés ».
Pour cela, des métriques précises sont nécessaires : il faut savoir quoi et comment mesurer pour distinguer entre les technologies et les usages plus ou moins éthiques. C’est un enjeu majeur qui permettrait de placer face à leurs actes les concepteurs d’algorithmes aussi bien que les personnes qui utilisent les technologies d’IA pour se divertir. Gouvernements et élus politiques devraient accepter de prendre leurs responsabilités à plus long terme que le futur immédiat, par exemple en légalisant l’obligation d’indiquer le coût environnemental réel de produits et services impliquant de l’IA, comme sur toute bonne étiquette d’un produit mis sur le marché.
« Quel talent possède un haut fonctionnaire, par exemple un énarque, que n’a pas déjà une IA bien conçue ? »
Thierry Ménissier
L’IA n’est-elle finalement pas l’aboutissement du siècle des Lumières, qui déjà voulait résumer l’intelligence – et l’humain – à un système mathématique, et qui remplace l’idée de Dieu par le probabilisme ?
Il y a des continuités historiques profondes dans l’histoire des savoirs et des techniques entre le passé et notre présent, et il est important de le rappeler étant donné que le buzz autour de l’IA la présenterait presque comme un miracle. À cet égard, la situation est complexe car la longue durée de l’histoire des calculs rationnels n’empêche pas qu’avec l’implantation généralisée des systèmes d’IA, nous vivons tout de même une révolution. Mais en présentant les choses sous ce plan élargi, on reste en deçà du sujet qui s’impose aujourd’hui.
De quel sujet parlez-vous ?
Un sujet plus profond qui nous oblige à revenir avant même l’apparition de la science du calcul, voire à repenser cette apparition. Philippe Descola et Bruno Latour, par exemple, ont proposé de considérer que l’essor de la raison scientifique et technologique (dont l’IA est un produit) reposait sur une coupure entre l’humain et le monde, entre la supposée intelligence humaine et les autres êtres vivants. L’apport des savoirs éthologiques et écologiques contemporains nous oblige aujourd’hui à réinterpréter la question de l’intelligence. Ce terme ne peut plus seulement être associé au seul humain, et encore moins à la seule science (et à plus forte raison au seul savoir mathématique). Il faut parler d’intelligence naturelle, dont l’intelligence animale est un sous-ensemble dans lequel l’intelligence humaine s’insère, sous ses diverses formes (artistique, scientifique, mathématique, logique, artisanale, conceptuelle).
C’est une nouvelle manière de poser la question des intelligences…
Oui, et l’une des conséquences est qu’il est possible d’intégrer l’IA dans un continuum qui considère pareillement les êtres humains, les vivants non-humains et les êtres artificiels. Se dessinent alors non seulement une nouvelle écologie, mais également une nouvelle métaphysique, avec des conséquences éthiques et politiques. Cela ouvre à une redéfinition des tâches de la philosophie occidentale, capable alors de dialoguer avec les traditions extrême-orientales (par exemple avec la culture du Japon), ce qu’elle n’est pas capable de faire aujourd’hui car trop centrée sur la supposée primauté de l’humain et de son intelligence.
Lire aussi : Olivier Rey : leurre et malheur de l’IA
Le projet de l’IA à terme semble être que chacun dispose d’un assistant numérique. N’est-ce pas la fin de l’agora, du bien commun entrevu comme le ferment de toute réalité sociale ?
Cette formulation me gêne car cela induit que « c’était mieux avant » du point de vue social, éthique et politique. Or, tel n’est pas le cas ! Le bien commun est une idée théologique issue du christianisme médiéval, à la rigueur de la tradition stoïcienne. En tout cas, quelque chose de très difficile à définir et même à intuitionner dans des démocraties pluralistes traversées par un grand nombre de valeurs culturellement situées. Le sujet pour nos sociétés serait plutôt – et depuis toujours car ce problème est consubstantiel au type de société apparu avec la modernité, depuis la Révolution française et industrielle – de créer les conditions de l’intérêt général. Ce qui est d’ailleurs un objectif pour la politique, qui implique beaucoup de volonté et d’efforts, plutôt qu’une base commune qui serait spontanément ou aisément accessible.
Lorsque vous évoquez une fin de l’agora, je pense que l’IA représente au contraire l’occasion de créer de nouveaux forums. D’abord, parce qu’elle fait parler d’elle et pose des questions philosophiquement, éthiquement et politiquement profondes. Ensuite, parce qu’après la période de confusion quelque peu juvénile que nous vivons à l’heure actuelle (où chacun fait ce qu’il veut, c’est-à-dire n’importe quoi), la maturité dans l’usage des systèmes d’algorithmes peut conduire à de nouvelles manières d’organiser les débats et même de pratiquer la politique.
Par exemple ?
Par exemple la « machine Habermas », du nom d’un système d’IA baptisé du nom de Jürgen Habermas, le grand philosophe de la démocratie délibérative, système créé pour produire de la délibération et du consensus sur des problèmes politiques complexes. La machine Habermas a été utilisée comme médiateur artificiel pour aider de petits groupes de citoyens britanniques à trouver un terrain d’entente lors de discussions sur des questions controversées telles que le Brexit, l’immigration, le salaire minimum… Par rapport aux médiateurs humains, le médiateur artificiel a produit des déclarations qui ont semblé aux humains plus acceptables, qui ont engendré un large consensus et moins divisé les citoyens que les décisions qu’ils avaient élaborées pour leur part à l’aide de leurs intelligences naturelles. Les déclarations d’intelligence artificielle ont paru plus claires et plus logiques tout en respectant les points de vue des minorités. Une évolution vers des sociétés plus démocratiques où la délibération est moins partiale et incomplète, pour des décisions publiques plus équitables ?
L’IA permettra-t-elle à l’homme de sous-traiter des tâches pénibles afin qu’il consacre son temps à des activités à plus forte valeur ajoutée ?
Ce que l’on constate plutôt, c’est que toute nouvelle technologie, en transformant la société où elle se déploie, engendre de nouveaux problèmes. Dans le cas de l’apparition et surtout de la généralisation des systèmes d’IA, les difficultés viennent par exemple du fait que les activités automatisées font disparaître des métiers entiers, notamment des métiers de haute expertise reposant sur des capacités de décision. Après les ouvriers par le passé, ce sont en effet les cadres (moyens, supérieurs) qui se trouvent menacés et potentiellement décimés par des systèmes dont l’expertise est d’une grande qualité. Si bien que le chômage s’en trouve augmenté à la fois quantitativement et qualitativement, peut-être dans des proportions jamais atteintes. Cela tandis que les cadres sociaux demeurent ceux de la société industrielle fondée sur le travail humain, tandis que les élus politiques semblent avoir plusieurs trains de retard sur ce sujet. Comment réinventer des cadres pour mener une existence humaine digne à l’ère de l’après-emploi salarié global ? Voilà une question à poser aux techno-optimistes.
« L’usage des systèmes d’algorithmes peut conduire à de nouvelles manières d’organiser les débats et même de pratiquer la politique »
Thierry Ménissier
L’IA ne serait-elle pas en mesure d’effacer certaines inégalités de classe ?
L’inégalité sociale a encore de beaux jours devant elle car, précisément, nos élites ne me semblent pas disposées à tirer parti de systèmes d’IA qui seraient bien capables de leur ôter certains de leurs privilèges ! Comment en effet justifier algorithmiquement les grandes inégalités de fortune, tandis que des calculs de répartition plus équitable des biens suggèrent que des petits rééquilibrages profitent à la société tout entière ? Autre problème très délicat à aborder : quel talent possède un haut fonctionnaire, par exemple un énarque, que n’a pas déjà une IA bien conçue, judicieusement positionnée dans une organisation et correctement entraînée, qui pourrait remplacer l’expert naturel (d’ailleurs potentiellement capable d’être inhumain au sens moral du terme) ? Pour ma part, je n’en vois pas – et j’inclus ma propre profession de professeur d’Université dans l’ensemble des professions menacées. La résistance des cols blancs à l’IA n’en est qu’à ses débuts !
Prenons l’exemple de la médecine : que va changer l’IA ?
Dans certaines spécialités de haut niveau, l’expertise humaine se trouve aujourd’hui mise en question face à la puissance et à la fiabilité d’IA très fortes pour identifier les débuts de tumeurs ou prévoir les cancers, mais parfois sans qu’on sache comment elles parviennent aux résultats qu’elles proposent. À l’aide de tels outils, les médecins doivent prendre des décisions en situation d’incertitude, car ils ne maîtrisent ni le raisonnement ni les résultats produits par les machines. Situation très inconfortable, tandis que les patients et leur famille veulent les meilleurs diagnostics et traitements possibles, et que les assureurs imposent une pression supplémentaire. Eh bien, il me semble que ce genre de situation a déjà été vécue autrefois. Les historiens de la médecine savent en effet que dans l’Antiquité grecque, dans le système dit de la médecine des Temples, diagnostic et traitement étaient déterminés par une autorité extérieure à l’expertise humaine. On soignait à travers l’interprétation des rêves des patients, comme on le voit par exemple avec les pratiques du sanctuaire d’Esculape à Épidaure. On estimait en effet que dans les rêves, le dieu se manifestait et qu’il fallait l’écouter puis réussir à interpréter son message.
Les IA ne sont pas des divinités grecques et les informaticiens ne sont pas des oracles…
Bien entendu. Mais l’analogie me semble pertinente en fonction de l’esprit général qu’elle induit : aujourd’hui, le savoir médical est appelé à faire preuve d’une prudence d’un nouveau type, car sa compétence procède de l’humilité dont il doit faire preuve face à une nouvelle source de vérité. Dans certaines spécialités de pointe, les médecins n’ont paradoxalement d’autorité que s’ils en reconnaissent une aux systèmes d’algorithmes qui les assistent dans leur diagnostic et pronostic. Cela peut sembler une situation radicalement nouvelle, mais en réalité, c’est le retour de l’intelligence du conseil rusé, la mètis des anciens Grecs tel Ulysse, posture très différente de l’arrogance de la science rationnelle moderne, aux antipodes d’une position magistrale qui prétend tout maîtriser et savoir interpréter par le seul génie humain. Bref, la situation imposée par l’IA fait réfléchir la société et mobilise tous les savoirs. L’intelligence artificielle bouleverse les organisations et perturbe la société, mais elle stimule grandement l’intelligence humaine !
