Professeur à l’université Grenoble Alpes et membre de l’Institut de philosophie de Grenoble, d’abord historien des idées du XVIe siècle et particulièrement de Machiavel, Thierry Ménissier s’est spécialisé depuis une grosse décennie sur les nouvelles technologies et l’esprit d’innovation. Ses recherches portent notamment sur la théorie politique adaptée à la situation humaine, sociale et technologique contemporaine. Il est responsable de la chaire de recherche « éthique & IA » au sein de l’institut interdisciplinaire en intelligence artificielle de Grenoble MIAI, et signait en 2021 un essai érudit en la matière : Innovations : une enquête philosophique (Hermann).

L’IA est un concept assez flou. Quelle en serait votre définition ?

La notion d’IA repose sur une métaphore, celle d’une forme de pensée intelligente qui serait engendrée par les artifices techniques dont dispose l’humanité. Mais l’usage de cette métaphore véhicule une illusion anthropomorphique qui conduit à confondre la machine et l’humain. Cette manière d’envisager l’IA est à la fois approximative, vectrice d’angoisse et très courante. Or ce qui en valide l’usage, c’est « l’acte de naissance » de la notion d’IA : lors de la Conférence de Dartmouth de l’été 1956, les organisateurs John McCarthy et Marvin Minsky ont proposé de nommer « intelligence artificielle » le domaine où l’on créait des programmes capables d’effectuer ce que la pensée humaine sait faire. La dimension mimétique de l’artifice vis- à-vis des compétences humaines, si elle est vectrice de fantasmes, est donc née avec cette ambition revendiquée de la part de l’informatique.

Lire aussi : L’intelligence artificielle, cette autre menace pour notre système de retraite

Pourtant, ce n’est pas de cela qu’il s’agit avec l’IA dès qu’on la considère de manière technique : en évoquant la réalité de l’IA, on parle des systèmes d’algorithmes qui effectuent des fonctions de manière programmée. Dans les années 2000, la révolution de l’apprentissage machine, qui utilise la technique très efficace dite des « réseaux de neurones », est venue apporter un surcroît de performance aux algorithmes. À la différence de celles qui les précédaient, ces machines sont caractérisées par une grande plasticité d’usage qui leur permet d’acquérir beaucoup plus de connaissances. Couplés aux réseaux numériques, ces algorithmes augmentent considérablement les performances des calculs de données, mais rendent également possible la reconnaissance visuelle ou sonore et le traitement automatisé du langage.

Chat GPT et Midjourney ont fait leur apparition au même moment dans la sphère médiatique, pourtant la technologie est au point depuis bien plus longtemps. On serait en droit d’y voir un agenda.

Il convient en effet de se pencher sur le rôle qu’on fait jouer à l’IA dans la société. Dominées par l’économie capitaliste elle-même régie par une doctrine néo-libérale, ces sociétés trouvent dans l’IA un formidable accélérateur de croissance et une justification du principe de « performance ». Il y a peu de doutes à propos du fait que la « machinisation » des fonctions humaines constitue une pièce de choix dans la panoplie de ce système idéologique. Ce système vise à désactiver les pensées qui, par le passé, estimaient que le débat argumenté et/ou la lutte sociale constituaient le ressort de la transformation des sociétés. L’économie financiarisée n’a que faire de la discussion politique.

« La société du divertissement est étroitement liée, via les algorithmes de recommandation, à l’économie et à la surveillance »

Thierry Ménissier

Le rêve de régir la société par des algorithmes, ce qu’accomplit déjà la finance via le « trading haute fréquence », se trouve maintenant rendu possible par l’adoption de ces machines (entreprises et administrations). La gestion machiniquement assistée tend à remplacer la décision, et la confiance en l’IA recouvre un projet de société qu’on peut qualifier d’anti-politique. L’usage de la technologie de la blockchain est passible de la même critique car les « tiers de confiance », autrefois humains, sont remplacés par un système qui se prétend objectivement neutre, alors qu’il repose sur des technologies porteuses de valeurs identifiables.

Le problème de l’IA, disait Baudrillard, c’est qu’elle n’est « ni intelligente ni artificielle ». Et pour cause : les algorithmes développés par les GAFAM ne sont que de gigantesques machines à agréger et à recracher les données.

On a présenté l’émergence des réseaux numériques dans les années 1990 comme l’avènement de la société de la connaissance, mais en vérité ce sont les usages liés à la consommation et au divertissement qui se sont généralisés. Si l’IA est associée sur le plan des affaires à un surcroît d’efficacité, elle contribue, en ce qui concerne les usages privés, à fournir des contenus agréables permettant de jouir. Et les deux niveaux sont en relation : la société de divertissement est étroitement liée, via les algorithmes de recommandation, à l’économie et à la surveillance, à la fois en stimulant en chaque usager le consommateur potentiel et en détectant ses tendances. Nous sommes rentrés de plain-pied dans ce que la sociologue Shoshana Zuboff appelle « l’âge du capitalisme de surveillance ».

Lire aussi : Intelligence artificielle : déjà demain

Un danger surgit ici : celui de la mise en place d’un totalitarisme doux qui relègue la figure de Big Brother au rang de mythe désuet. Malheureusement pour les consommateurs en ligne et pour tous les usagers d’Internet, l’existence d’un système généralisé de surveillance via les applications numériques n’est pas une fiction. À condition de dire que, par l’intermédiaire des suggestions de comportement, tout se passe agréablement et non violemment comme dans les totalitarismes old school.

Chat GPT n’est pas indépendant puisque ses concepteurs auraient introduit des garde-fous idéologiques pour ne pas revivre l’expérience de Tay, chatbot lancé par Microsoft devenu raciste en quelques heures. N’y a-t-il pas un danger de faire passer ces IA « manipulées » pour des « quotients universels de la raison » ?

Vous avez raison de rappeler l’histoire de Tay, cet agent conversationnel lancé en 2016 et qui a connu la mésaventure d’être devenu non seulement raciste, mais également conspirationniste, sexiste et antisémite en fréquentant le réseau Twitter. Il y a deux versions possibles : ou bien le chatbot aurait été « ciblé » par des internautes malveillants, ou bien il aurait simplement procédé par auto- apprentissage pendant 24 heures. Je penche pour la seconde option : l’IA est comme un miroir tendu à la société. Tay n’est coupable de rien : ce sont les internautes qui tiennent de tels propos. Nous sommes ici devant un problème classique de la philosophie de l’éducation, sur lequel Rousseau dans Émile (1762) a remarquablement réfléchi : comment se comporter quand on est face à un être à la fois très intelligent, très sensible et encore asocial ? Les agents conversationnels sont comme une nouvelle race d’êtres artificiels à haut potentiel que la société a la responsabilité morale d’éduquer car ils vont progressivement devenir adultes. Le système actuel fabrique des délinquants algorithmiques !

L’IA EN CHIFFRES

• 13 500 milliards : contribution estimée de l’IA à l’économie mondiale à l’horizon 2050, puisque plus de 70 % des entreprises seraient destinées à l’utiliser. Soit l’équivalent économique actuel de l’UE
• 1,3 milliard : investissement des entreprises françaises dans l’IA en 2023. Malgré ses efforts, la France reste à la traîne loin derrière les États-Unis, la Chine ou même la Russie
• 8 milliards : nombre d’objets connectés gérés par des IA d’ici 2025. Soit un peu plus que la population mondiale.
• 700000 $/jour : coût de fonctionnement moyen de Chat GPT, le robot conversationnel d’OpenAI qui totalise à peu près 200 millions d’utilisateurs uniques par mois. La dernière mouture GPT-4, hébergée par une forêt de serveurs toujours plus coûteux, pourrait coûter plusieurs millions de dollars par jour. Des data centers qui font considérablement augmenter le bilan carbone de l’application, soit environ 238 tonnes de CO2 par an.

Les géants du web sont en train d’intégrer des modules de type Chat GPT à leurs moteurs de recherche. Que cela va-t-il changer pour l’utilisation ?

D’abord par jeu, puis par quête d’efficacité dans leurs activités professionnelles, de très nombreuses personnes se sont adressées à ces modèles génératifs de langage (ChatGPT d’OpenAI, Bard de Google et Sydney de Microsoft). Et elles ont rarement été déçues : ces modèles produisent indéniablement des résultats exploitables.

« Derrière le fonctionnement de la plupart des systèmes d’algorithmes qu’on pense automatique, on découvre un grand nombre de petites mains très mal rémunérées »

Thierry Ménissier

Dans le New York Times, le philosophe Noam Chomsky avec deux coauteurs a qualifié ces technologies de « fausse intelligence ». L’intelligence au sens vrai du terme consiste à développer une pensée critique soucieuse des faits et capable de sens moral. Or, ces systèmes ne savent faire ni l’un ni l’autre. Ce qui conduit les auteurs à renvoyer à un concept lourd de sens : celui de « banalité du mal ». Hannah Arendt avait proposé ce concept pour réfléchir au comportement d’Adolphe Eichmann, ce haut fonctionnaire nazi zélé dans ses tâches et parfaitement indifférent aux valeurs et aux finalités réelles de son activité. Le rapprochement peut sembler déplacé, mais il signale le danger qu’il y aurait à s’en remettre à de tels outils de manière systématique. Ici encore, le problème n’est pas tant la technologie que la société qui l’utilise. Le sens critique et moral des usagers peut se trouver désamorcé par le recours à un artifice machinique, tandis que la réflexion et la décision impliquent toujours une part de risques dans la prise de position… épreuves dont on comprend bien qu’il soit tentant de s’y dérober. En ce sens, l’usage trop fréquent des modèles de langage recouvre le risque d’un conformisme généralisé, synonyme de manque de courage. Les époques qui ont vécu ce genre d’ambiance ne sont connues ni pour leur tolérance démocratique, ni pour leur respect humaniste !

Midjourney est en train de ringardiser bon nombre de métiers artistiques. À terme, les IA pourront également produire à l’envi des films, des séries télévisées et des jeux vidéo. Que cela pourrait- il changer à notre conception de l’art et du divertissement ?

Pour l’instant, le problème est moins l’outil que l’usage : par défaut de vigilance, de nombreux consommateurs sont peu regardants sur l’origine des productions qu’ils consomment. Un autre problème se pose, déjà perceptible dans les débats autour de la propriété intellectuelle : qui peut être dit auteur d’une œuvre produite par un système d’algorithmes ? L’œuvre d’art constituait jusqu’à présent un privilège de l’humain, consacré par sa puissance créative dans une forme de distinction sociale voire, pour les génies artistiques, un signe de la supériorité de leurs talents. Il se produit ici un déplacement intéressant, peut-être pas si bouleversant que cela : si les machines sont capables de créer des œuvres intéressantes, cela permettra d’alimenter la conversation esthétique, ce qui fournit aux spectateurs une manière de demeurer humains à travers le débat sur les normes du goût esthétique. Envisagé de cette manière, le développement de l’IA ne fait pas courir le risque d’une déshumanisation mais elle poursuit au contraire l’aventure humaine !

Lire aussi : Bruno le Maire : dilaté comme jamais

Dans son Cycle de la Culture, Iain Banks imagine un futur où la totalité des systèmes de production et d’information sont opérés par des IA, laissant une humanité désœuvrée. Alors que la question du revenu universel semble actualisée par l’IA, pensez-vous ce type de futur possible ?

Le Cycle de la Culture représente une remarquable allégorie d’un monde qui devient possible. La question est complexe. D’un côté, il est salutaire de s’inquiéter d’une « disruption » généralisée où les machines supplantent les humains. Alors que l’emploi salarié demeure une des conditions fondatrices de la vie sociale, les choses évoluent de manière anormalement lente sur les plans politique et juridique. La société semble très mal préparée.

De l’autre, la réalité n’est pas du tout au remplacement des humains par les machines : c’est la transformation de l’exploitation des humains par d’autres humains ! Le sociologue Antonio Casilli l’a bien montré. Derrière le fonctionnement de la plupart des systèmes d’algorithmes, on découvre un grand nombre de « petites mains » très mal rémunérées qui œuvrent au fonctionnement de ce qui semble à l’usager parfaitement automatique. En d’autres termes, l’automatisation des sociétés via l’IA ne supprime pas du tout le système capitaliste de production de la plus-value évoqué par Marx, mais il déplace les relations d’exploitation et les rend invisibles. Le confort des usagers des systèmes d’IA repose sur des tâches aliénantes qui font l’objet d’un véritable déni. On est loin d’une utopie comme le Cycle de La Culture.

Éric Sadin évoque « l’émergence d’un nouveau régime de vérité ». Êtes-vous d’accord avec ce point de vue ?

Le problème, c’est que la majorité des personnes qui utilise ces technologies ne dispose pas de la culture technique nécessaire pour agir de manière réellement libre. Pas ou peu formées, nos élites politiques et intellectuelles font, pour certaines, comme si la situation n’avait pas déjà évolué ou comme si rien n’allait changer. Les autres sont dans le déni de la médiation technologique, ou font fructifier des fonds de commerce catastrophistes. On note la symétrie des deux positions : les premiers s’en remettent aveuglément à la compétence des informaticiens, les seconds s’en prennent systématiquement à la technologie en y voyant l’Apocalypse de notre temps. Ces positions ne sont nullement à la hauteur du défi contemporain. Ni le techno-solutionnisme ni le techno-criticisme ne sont pertinents dans la situation actuelle. L’enjeu est plutôt de socialiser ces « innovations sauvages ».

« Forger une éthique de l’intelligence artificielle ne peut seulement consister à dé-biaiser les algorithmes, à les rendre honnêtes comme le propose l’éthique computationnelle »

Thierry Ménissier

Forger une éthique de l’intelligence artificielle ne peut seulement consister à dé-biaiser les algorithmes, à les rendre « honnêtes » comme le propose l’éthique computationnelle en recourant à un argumentaire utilitariste. Il faut aller beaucoup plus loin dans la discussion et mobiliser des formes de raisonnement plus engageantes, par exemple l’éthique des vertus, afin d’évaluer le bien-fondé de l’usage des algorithmes dans les pratiques sociales. Une telle tâche implique de prendre acte des transformations déjà accomplies dans les usages anciens, en remarquant à quel point les humains sont déjà assistés et leurs activités « augmentées » par les machines. Pour un tel repérage, le concours des diverses sciences humaines est requis : l’éthique de l’IA doit se penser comme « située » dans des pratiques observables par la sociologie, la psychologie sociale, les sciences de l’information et de la communication, la science politique.

QUELQUES DATES

150/-100 avant JC : Fabrication de la machine d’Anticythère. Ce mécanisme en bronze est le premier calculateur analogique, destiné vraisemblablement à calculer des positions astronomiques. On attribua longtemps sa conception à Archimède ou à l’astronome Hipparque de Nicée, faute de mieux.
1642 : Blaise Pascal conçoit la Pascaline, machine à calculer inspirée par les premiers travaux de Wilhelm Schickard, quelque vingt années plus tôt.
1738 : Le mécanicien Jacques de Vaucanson crée un canard artificiel programmable, capable de reproduire la plupart des fonctions du volatile, y compris celle de la digestion.
1820 : L’Anglais Charles Babbage réalise le premier ancêtre de l’ordinateur, une « machine à différences » capable de réaliser automatiquement des calculs, et programmable à l’aide de cartes perforées, sur le modèle des machines à tisser de Jacquard.
1843 : Ada Lovelace, fille du poète Lord Byron, rédige un mémoire qui pose les bases de la science algorithmique.
1888 : Répondant à un appel d’offres du Bureau Américain du Recensement, l’ingénieur Hermann Holerith conçoit une machine à indexation capable d’enregistrer et de croiser les données relatives aux individus. Sa Tabulating Machine Company sera l’ancêtre d’IBM.
1950 : Dans l’article « Computing Machinery and Intelligence », le physicien Alan Turing se demande pour la première fois si une machine peut penser, ou au moins reproduire le processus de la pensée. Il propose de leur soumettre le fameux test de Turing expérience qui nourrira par la suite tout l’imaginaire science-fictif des années 1970.
1969 : L’ordinateur HAL imaginé par Arthur C.Clarke pousse son dernier soupir dans le film de Stanley Kubrick, 2001, L’Odyssée de l’Espace.
1980 : Avec le développement de la puissance de calcul, les premiers algorithmes apprenants font leur apparition sur le modèle des réseaux de neurones humains.
1997 : Le programme Deep Blue bat pour la première fois le champion d’échecs mondial Garry Kasparov.
2013 : Google ouvre un laboratoire en collaboration avec la NASA, afin de créer un supercalculateur quantique capable de faire progresser la rechercher sur l’intelligence artificielle.
2020 : L’institut de recherche OpenIA met à disposition une version gratuite et allégée de son robot conversationnel ChatGPT, capable de répondre à et d’argumenter sur à peu près tous les sujets.