L’intelligence artificielle est-elle une intelligence au sens propre ? Sinon, quel serait le terme le plus approprié pour la définir ?
Tout dépend évidemment de ce que l’on estime mériter le statut d’intelligence. Aristote distinguait trois types d’âme : l’âme végétative, présente dans tous les vivants ; l’âme sensitive (et motrice), s’ajoutant chez les animaux ; et l’âme intellective, s’ajoutant chez les êtres humains. Dans une telle perspective, intelligence était synonyme d’intelligence humaine.
Le Dartmouth Summer Research Project on Artificial Intelligence, organisé en 1956 par John McCarthy, est généralement considéré comme l’acte de naissance de l’intelligence artificielle comme champ de recherche autonome. Les participants à cette réunion avaient cette conviction : « Chaque aspect de l’apprentissage ou toute autre caractéristique de l’intelligence peut en principe être décrit avec une telle précision qu’une machine peut être fabriquée pour le simuler. » C’était précisément la capacité supposée des machines à simuler l’intelligence humaine qui permettait de parler d’intelligence artificielle. Cela étant, un double constat s’imposa rapidement : d’une part, pour nombre de tâches particulières, les machines électroniques peuvent devenir extraordinairement supérieures aux humains ; d’autre part, il demeure impossible de reproduire l’intelligence humaine dans ses innombrables aspects. De ce fait, le syntagme « intelligence artificielle », qui induit nécessairement une comparaison avec l’intelligence humaine, apparaît problématique.
« De plus en plus de personnes préfèrent se tourner directement vers ChatGPT, quand bien même cela revient dans la plupart des cas à utiliser une grue pour soulever une cigarette »
Olivier Rey
L’ « intelligence artificielle » apparaît problématique pour une autre raison, qui ne tient pas aux performances, mais à la façon dont celles-ci sont obtenues. À un enfant humain, il suffit d’avoir vu quelques chats, quelques escaliers ou quelques bicyclettes pour être capable de repérer ensuite un chat, un escalier ou une bicyclette, et cela parce qu’il a « compris » ce dont, dans chaque cas, il s’agit. En revanche, il faut « nourrir » les machines de millions d’images annotées pour obtenir d’elles pareille performance. Nous sommes capables, avec un peu d’expérience, de conduire une voiture dans n’importe quelle situation, alors que des milliards et des milliards de données ne suffisent pas pour qu’un véhicule dit autonome s’insère correctement dans le trafic. Du côté de la machine, il faut compenser, par un entraînement et des calculs intensifs, un défaut de compréhension, qu’on pourrait aussi qualifier de défaut d’intelligence.
Avez-vous un exemple de ce défaut de compréhension ?
En 2023, quelques mois après le lancement public de ChatGPT, le mathématicien Jean-François Colonna eut l’idée de poser à l’agent conversationnel un certain nombre de questions de nature mathématique (voir son article « Les élucubrations mathématiques de ChatGPT »). Certaines réponses étaient correctes, d’autres fausses, d’autres aberrantes. ChatGPT était capable, entre autres, d’énoncer correctement ce qu’on appelle les « petit » et « grand » théorèmes de Fermat. Questionné sur ce qu’est le « moyen » théorème de Fermat, ChatGPT, au lieu de répondre qu’un tel théorème n’existe pas, variait dans ses réponses, dont voici l’une d’elles : « Si a et b sont deux nombres entiers consécutifs, alors il existe au moins un nombre premier p tel que a < p< b. En d’autres termes, entre deux nombres entiers consécutifs, il existe toujours au moins un nombre premier. » Étant donné qu’entre deux nombres entiers consécutifs il n’existe, par définition, aucun nombre entier, une telle affirmation est absurde. Elle montre que si l’agent conversationnel, en général, insère comme il convient le mot « nombre » dans les phrases qu’il produit, il n’a aucune compréhension de ce qu’est un nombre. Bien entendu, ChatGPT est susceptible d’être amélioré, et l’est effectivement, afin que des réponses aussi aberrantes que celle qui vient d’être citée ne soient plus données. Mais ce que révèle l’exemple précédent demeure : la machine ne comprend pas. Un prestidigitateur peut donner l’impression d’avoir coupé une femme en deux puis de l’avoir reconstituée, en fait il ne l’a jamais coupée en deux. Un agent conversationnel peut donner l’impression, dans la réponse qu’il fournit, qu’il a compris de quoi il était question, en fait il est allé de la question à la réponse par un chemin qui ne passe pas par la compréhension. Sans faire preuve, pourrions-nous dire, d’intelligence.
Lire aussi : IA : la révolte des machines n’aura pas lieu
L’expression « intelligence artificielle », pour critiquable qu’elle soit, ne s’en est pas moins imposée. Elle doit ce succès à son côté séduisant, et à la difficulté à lui trouver une remplaçante crédible. En concaténant programmation, apprentissage et computation, trois composantes de ce qu’on nomme intelligence artificielle, on obtiendrait proapputation. La dissonance du mot répondrait bien au caractère insolite de ce qu’il désigne – mais on aurait plus de mal à réunir des milliards pour la proapputation que pour l’intelligence artificielle.
Nous assistons simultanément à deux grands événements : l’essor de l’IA et le dérèglement climatique. Quelles sont les conséquences de l’un sur l’autre ?
Le dérèglement climatique n’est que l’un des aspects de difficultés qui, du fait d’une exploitation sans limite des ressources naturelles, ne feront que s’aggraver. Aux multiples « défis » que ces difficultés nous somment de relever, l’intelligence artificielle viendrait apporter des solutions. Le problème est qu’au fur et à mesure que l’IA se déploie de façon industrielle, ladite IA devient elle-même facteur des ravages qu’elle était réputée permettre de limiter. Dans quelques-uns de ses usages, l’IA peut se révéler bénéfique. Dans beaucoup d’autres, ce qu’elle fournit n’est nullement à la hauteur de ce qu’elle coûte. On sait qu’une interrogation de Google (dont le moteur de recherche ressortit à l’IA) est dispendieuse en énergie. Une interrogation de ChatGPT l’est dix fois plus, or de plus en plus de personnes préfèrent se tourner directement vers ce genre de Large Language Models (LLMs), quand bien même cela revient dans la plupart des cas à utiliser une grue pour soulever une cigarette. Les usages frivoles de l’IA croissent beaucoup plus vite que ses usages féconds, d’où une dégradation de la situation.
Ivan Illich faisait de la « convivialité » un critère pour juger les vertus d’une technique. Que penser de l’IA à l’aune de ce critère ?
Est « convivial », selon Illich, l’outil simple qui accroît ce que l’exercice de nos facultés naturelles permet d’accomplir ; est « non convivial » le dispositif opaque auquel nous devons nous soumettre pour que soit accomplie une tâche ou délivré un produit – comme dans la promesse diabolique : je réaliserai tes désirs, pourvu que tu deviennes ma chose. Prenons l’avion : il nous transportera rapidement d’un endroit à un autre très éloigné, moyennant notre assujettissement (qui se fait d’ailleurs toujours plus explicitement humiliant, lors des procédures d’embarquement) à une organisation et des appareils sur lesquels nous n’avons aucune prise.
De ce point de vue, l’IA est ambivalente. D’un côté, elle annonce un parachèvement, dans tous les aspects de notre existence, de notre sujétion au dispositif technologique. D’un autre côté, au sein du technotope qui est devenu notre cadre de vie, l’IA nous est nécessaire pour nous frayer un chemin (que l’on pense aux « moteurs de recherche », devenus indispensables pour nous orienter dans la jungle internet devenue plus dense qu’une forêt tropicale). L’IA est à même d’offrir des îlots de convivialité dans un océan de non convivialité, dont elle accroît en même temps l’extension et la profondeur.
Le moderne prêche l’ouverture et l’émancipation, mais l’IA ne produit-elle pas plutôt une logique de repli et de dépendance affective et algorithmique, à mi-chemin entre la drogue et la nounou ?
Nous venons au monde complètement démunis, et ne pouvons grandir qu’avec l’aide des adultes qui prennent soin de nous. Cette dépendance aux autres ne disparaît jamais, car nous sommes des êtres sociaux. Avec la maturité cependant, nous acquérons un certain degré d’autonomie. La modernité a promis d’augmenter cette autonomie individuelle dans des proportions inconnues jusqu’alors. Dans les faits, elle a surtout substitué, à des dépendances explicites, des dépendances anonymes – nous ne sommes, en effet, indépendants de nos voisins que dans la mesure où nous nous intégrons à une gigantesque organisation sociale, et nous en remettons à un dispositif technologique toujours plus tentaculaire. Se produit alors un phénomène remarquable : plus le dispositif devient tentaculaire, plus il est à même de nous donner l’illusion de l’indépendance – en flattant nos préférences, en nous épargnant le heurt avec la réalité dans sa désagréable consistance, et la rencontre avec les autres dans leur traumatisante altérité. « L’humanité ne peut supporter beaucoup de réalité », écrivait T.S. Eliot dans Quatre quatuors. Il semble qu’elle en supporte de moins en moins. L’IA, dans cette affaire, a son rôle à jouer, en ménageant autour de nous, par ses profilages, un safe space hors duquel nous perdons la faculté de nous aventurer. Le filtrage par IA devient le répondant, dans l’espace cognitif, de ce que sont les codes, digicodes et autres badges qui protègent les appartements dans l’espace physique.
« Le filtrage par IA devient le répondant, dans l’espace cognitif, de ce que sont les codes, digicodes et autres badges qui protègent les appartements dans l’espace physique »
Olivier Rey
Dans Leurre et malheur du transhumanisme (2018), vous montriez que le transhumanisme prospère sur une part d’escroquerie/esbroufe. Un même phénomène est-il à l’œuvre avec l’IA ?
L’agitation autour de l’IA est pour une bonne part une agitation financière : pour lever des fonds, pour faire monter des cours de bourse, aucune promesse n’est trop mirifique. Certains résultats obtenus par l’IA, dans des domaines précis, sont remarquables. Mais leur mise en avant contribue à résorber dans le paysage les domaines où l’IA se déploie en priorité, et de la façon la plus massive : la surveillance, le profilage et la guerre.
Le sommet IA a donné lieu à une course à l’armement numérique entre les différents pays. Dans ce contexte, peut-on agir autrement ?
Nous sommes pris dans une tenaille. D’un côté, nous nous rendons compte que la dynamique industrielle, en s’intensifiant, nous précipite collectivement dans une impasse. D’un autre côté, depuis le XIXe siècle, la technologie, mot par lequel je désigne l’ensemble des techniques solidaires des sciences mathématiques de la nature, est devenue la principale dispensatrice de puissance. Dès lors, toute communauté humaine qui ne suit pas le mouvement s’expose à être écrasée par celles qui poursuivent la course technologique. Je pense à la phrase du physicien Jean Perrin, exalté par les progrès de la physique atomique dans les années 1930 : « Le Destin vaincu semble permettre enfin un Espoir sans limites » (préface de Les Atomes). Nous voyons le destin, très peu vaincu, revenir sur nous sous la forme de la puissance même qui devait nous en libérer.
