IA et santé : transparence obligatoire

Dès 2017, un des inventeurs du deep learning (méthodes d’apprentissage « profond » des intelligences artificielles, NDLR), Geoffrey Hinton, déclare qu’il faut arrêter de former des radiologues tant les modèles d’algorithmes utilisés dans l’imagerie médicale sont performants. C’est en effet la première utilisation de l’IA en médecine et la plus impressionnante, qui consiste à détecter des anomalies en comparant des dizaines de milliers de données. Pourtant, Hinton a revu son opinion à la baisse. Si certains modèles démontrent aujourd’hui des capacités plus que convaincantes, l’IA a encore besoin d’une validation humaine pour parfaire ses diagnostics et montre dans certains cas des défaillances assez redoutables (voire la dernière version de ChatGPT4 qui est incapable de… compter les doigts d’une main). L’enjeu est crucial car l’application médicale représente un des plus gros marchés du secteur de l’IA et devrait atteindre 188 milliards d’euros dans le monde à l’horizon 2030.

En France, l’IA est déjà une réalité depuis plusieurs années. Implémentée dans la plupart des logiciels de radiothérapie, elle permet de gagner en productivité notamment dans la préparation de traitements et dans le calcul du contourage automatique des zones à traiter sur un scanner. Le deuxième domaine, qui reste encore largement balbutiant, concerne l’IA prédictive : à terme, un modèle bien entraîné peut en effet joue rôle déterminant dans la détection de cancers, qui doit être nuancé par certains risques déjà observés, comme celui du surdiagnostic, ou encore celui de fameux « biais » causés par la nature des données qui servent à son « alimentation » et qui pourraient là encore causer des erreurs de diagnostic. Ainsi, une IA spécialisée dans la détection de mélanomes, entraînée uniquement sur des peaux blanches, s’est révélée incapable de travailler sur des peaux noires.

On pourrait être en mesure bientôt d’automatiser entièrement certaines interventions chirurgicales

Enfin, et c’est probablement le Graal de l’IA médicale, on pourrait être en mesure bientôt d’automatiser entièrement certaines interventions chirurgicales : des travaux faits à Stanford cherchent déjà à entraîner les IA à reconnaître les instruments chirurgicaux, afin d’automatiser certaines opérations chirurgicales simples, à terme. Une pratique qui devrait, selon certains observateurs, se généraliser d’ici 10 ou 15 ans, à condition de la faire accepter par les patients et les médecins – et d’instaurer une transparence autour de la présence d’IA dans ces interventions. La transparence, c’est le maître-mot de l’IA médicale, qu’il s’agisse d’interventions chirurgicales ou plus simplement de consultations automatisées ou secondées par des IA – IA « scribes » qui écoutent les consultations et génèrent des comptes rendus – ces dernières posant évidemment le problème de la privacité des données.

Pour Franck Leducq, médecin et président de l’Association française de Télémédecine, l’IA doit servir en premier lieu un seul but : combler le manque de médecins et en finir avec les déserts médicaux. Ce qui pose un dilemme sur la nature des programmes de téléconsultation intelligents : « Soit on considère qu’on veut des outils d’aide à la décision et d’accompagnement, soit on considère qu’il faut développer des solutions qui pourraient bénéficier d’une conscience propre. » Dans les deux cas, l’IA médicale est un enjeu profondément politique, puisqu’elle incite à réfléchir à sa juste répartition sur le territoire et à ne pas réitérer le fiasco, par exemple, de la répartition des IRM en France. Marc Obregon

IA et économie : l’IA patiente à la porte des banques

Les banques sont très frileuses vis-à-vis de l’intelligence artificielle. Pourtant tout avait bien commencé il y a vingt ans. Ces entreprises ont investi des milliards dans la numérisation de leurs opérations, le stockage de leurs données et, plus généralement, leur résilience. Ainsi, elles disposent toutes de complexes immobiliers et de bureaux vides, prêts à recevoir leurs employés en cas de besoin. Par exemple, si le siège social de la Société générale, qui héberge 16 000 personnes à la Défense, était détruit, la banque enverrait par sms dans la journée à chacun de ses collaborateurs une adresse à laquelle se rendre au travail dès le lendemain matin, comme si de rien n’était. Réussir un tel tour de force organisationnel nécessite des investissements colossaux dans l’informatique. Toutefois, l’IA pose un problème dans le domaine bancaire. Pour fonctionner, il lui faut de telles quantités de données qu’aucune banque n’en a assez. Il faudrait aller en chercher chez les autres, lesquels devraient accepter de prêter leurs propres données. Et cela, aucun établissement n’y est encore prêt, surtout sur le territoire de l’Union européenne, où il faudrait en outre obtenir l’autorisation des clients. C’est pourquoi, à ce stade, ces sociétés utilisent surtout des automates, du type chatbot, dont la technologie est déjà ancienne, ou des algorithmes plus ou moins simples. Les salles de marchés sont particulièrement visées. Beaucoup imaginent, qu’un jour, les IA remplaceront les traders et élaboreront elles-mêmes leurs stratégies d’achat et de vente. Aujourd’hui, beaucoup d’algorithmes sont utilisés pour passer les ordres, mais ils ne font qu’appliquer des stratégies définies par des humains. Il est vrai qu’une banque est, par définition, allergique à la prise de risque. Emmanuel Rechberg

IA et Armée : l’attaque des clones

Les applications militaires de l’IA sont déjà très vastes, depuis le déplacement de drones, mules ou robots aériens, terrestres et marins, la maintenance prédictive, l’assistance aux opérateurs en temps réel, les systèmes embarqués et senseurs, contre-mesures, ou le concept du soldat augmenté… Sans oublier les applications liées à l’amélioration des processus. Revue des troupes.

Des ordinateurs capables de prendre des décisions de frappes militaires, y compris nucléaires, ont été expérimentés dès les années 60. C’est justement la raison pour laquelle ils ne sont jamais devenus autonomes. Ainsi, le 5 octobre 1960, le système d’alerte nucléaire américain indiqua, avec une probabilité de 99,9 %, que les États-Unis étaient l’objet d’une attaque massive de missiles soviétiques. Dans les faits, le logiciel réagissait à l’apparition de la pleine lune. D’autres mésaventures se produisirent dans les années 80. Elles bloquèrent toute velléité de donner le contrôle aux machines. Le débat est revenu sur le devant de la scène avec l’irruption massive des drones dès les années 2000. Très vite, il est apparu plus sûr pour les armées de laisser le choix ultime d’une frappe à un humain.

Grâce à l’IA, le canon est désormais deux fois plus précis

En France, l’IA a fait une entrée fracassante chez Nexter, qui fabrique le fameux CAESAR (un camion équipé d’un système d’artillerie de 155 mm, grand succès industriel). Jusqu’à 2024, le système disposait d’une capacité de « repointage » automatique après chaque coup. Dans un duel d’artillerie, il faut parfois deux ou trois tirs d’obus pour toucher une cible située jusqu’à 40 km. Grâce à l’IA fournie par la start-up allemande Helsing, le canon est désormais deux fois plus précis. C’est une petite révolution qui permet de frapper l’ennemi deux fois plus vite, d’économiser des munitions et de faire durer le canon plus longtemps.

Dans l’imagerie militaire, l’IA de Preligens, racheté fin 2024 par Safran, permet d’améliorer le temps d’analyse. Le renseignement militaire se compose d’experts qui passent leurs journées à essayer de comprendre ce qu’ils voient. Qu’un satellite ou un drone de surveillance rapporte l’image de ce qui ressemble à un camp, il faut encore s’assurer qu’il ne s’agit pas de réfugiés. A contrario, un camp de réfugiés peut dissimuler des bataillons. L’IA de Preligens, désormais Safran AI, parcourt et analyse des myriades d’images à une vitesse inatteignable par les humains.

Le commandement lui-même bénéficie des IA. Un état-major sert à coordonner des fonctions de planification, renseignement et opérations, mais aussi logistiques, financières, RH, etc. Lorsqu’une unité reçoit l’ordre de prendre une ville, une vallée ou un pont, la planification produit les ordres que chacun doit appliquer. Pour produire ces ordres, elle a besoin d’échanger avec chacun des autres pôles. Par exemple, s’il faut avancer de 50 km et prendre un pont, mais que la logistique n’a pas assez d’essence, il faut répercuter cette contrainte sur les autres, rebâtir la planification, et ainsi de suite. La startup tricolore Comand propose un système qui traite ces contraintes de planification et modification des ordres de façon beaucoup plus rapide.

L’IA est particulièrement utile pour la défense face à des menaces qui arrivent rapidement, comme des missiles, ou qui sont saturantes, comme un essaim de drones. Ainsi la start-up française Delfox développe une IA qui permet à d’autres IA de s’entraîner autant que nécessaire avant d’être implantées dans de vrais matériels. La maintenance n’est pas en reste. Une douzaine de sociétés proposent des IA qui numérisent des navires, qui fabriquent des pièces sans avoir besoin des plans, ou qui renseignent sur la manière de réparer telle turbine ou telle hélice.

Face à la multiplication des cas d’usage, le ministre des Armées Sébastien Lecornu a décidé en mars 2024 de créer l’Agence ministérielle pour l’IA de défense (AMIAD). Entre 2024 et 2030, la France prévoit un total de 2 milliards d’euros dédiés. En 2026, près de 800 personnes travailleront sur l’IA au ministère des Armées. Emmanuel Rechberg

IA et école : le saut dans l’inconnu

L’Éducation nationale est réputée pour avoir toujours un ou deux trains de retard en matière de technologie. Le sujet divise le corps enseignant comme l’a rappelé Stéphanie de Vanssay, conseillère nationale en pédagogie et numérique à l’Unsa interrogée au contre-sommet de l’IA organisé par le philosophe technocritique Éric Sadin le 10 février dernier : « Il y a les inquiets qui ont peur de la perte de contrôle et de la perte de qualité des apprentissages, il y a les technophiles déçus qui ont essayé et qui ne sont pas convaincus, et enfin les opposés radicaux, qui évoquent principalement des raisons écologiques… » En réalité, l’Éducation nationale a tranché depuis longtemps, bien consciente qu’elle ne pouvait pas continuer à ignorer la révolution en marche. Mais faute d’avoir les moyens d’embrasser un projet holistique, les professeurs se contentent surtout, pour l’instant, de sensibiliser aux fameux « biais », c’est-à-dire l’orientation idéologique ou politique du créateur de l’outil IA.

Lire aussi : Jean-Marc Moschetta : « L’intelligence n’a pas forcément besoin de l’homme »

Aux États-Unis, une assistance pédagogique virtuelle est déjà testée à titre expérimental et risque fort de mettre à mal la sacro-sainte mission du professeur. Du côté de la France, l’IA « Lucie », présentée comme la version « fiable »  et « éthique » de ChatGPT, devait faire son entrée à l’école. Devenu la risée des internautes pour ses défaillances et ses approximations, le projet a été suspendu en début d’année. Mais l’enjeu n’est pas de repenser les modèles pédagogiques en fonction d’éventuelles prothèses numériques, mais bien de refonder totalement la conception de l’apprentissage, dans son acception tant culturelle que cognitive.

Avec l’IA, c’est l’avènement d’un savoir entièrement dissocié de nous, « cloudé », qui fait craindre à certains scientifiques une baisse significative des facultés intellectuelles. Déjà, certains effets d’un abrutissement numérique qui consiste à scroller indéfiniment sur les réseaux sociaux sont visibles dans une baisse de la concentration chez les élèves. Déjà les professeurs sont sommés d’adapter leurs cours pour les rendre plus « ludiques », et désormais même certains TD dispensés à l’université ressemblent davantage à des sortes d’happenings numériques participatifs. En réalité, l’éducation doit être la priorité de ceux qui veulent réguler et penser une IA éthique, car une baisse des facultés cognitives, agglomérée à une systématisation de la consultation de l’IA comme on pourrait le faire d’un oracle, pourrait annoncer un nouvel obscurantisme civilisationnel. Rien que ça. Marc Obregon

L’IA dans le droit : coupable mais irresponsable

La question déterminante serait d’évaluer l’influence qu’a l’intelligence artificielle sur le droit lui-même. Une influence qui résulte précisément de la définition de l’IA. Parmi toutes celles existant se trouve « la capacité d’une unité fonctionnelle à exécuter des fonctions généralement associées à l’intelligence humaine, telles que le raisonnement et l’apprentissage » (norme ISO/IEC 2382-28 : 1995). Autrement dit, il s’agit de l’autonomie d’une chose capable de réagir à des situations nouvelles sans intervention humaine.

Une autonomie qui permet de faire écran entre l’humain et l’acte accompli. Pour le meilleur : ainsi échappe-t-on aux sourcilleux droits d’auteur lorsqu’une IA confectionne sur demande sa propre musique ou image rien que pour soi. De même permet-elle de libérer professionnels et particuliers de tâches ingrates comme les recherches ou la rédaction d’actes (contrats, conclusions, etc.). On songe même à l’émergence d’une justice rendue par les machines. La Slovénie a d’ailleurs institué en 2019 le juge IA pour les litiges inférieurs à 7 000 euros. Cela n’a pas inspiré la France pour le moment et c’est sans doute heureux…

Le problème serait celui de la responsabilité des décisions prises. Car l’IA brouille la frontière entre, d’une part, la personne, sujet de droit responsable et, d’autre part, la chose, objet de droit irresponsable, ce qui altère inévitablement le droit de la responsabilité civile et pénale.

Ainsi une voiture auto-guidée pourrait-elle confondre un nouveau type de marquage au sol avec un obstacle et freiner brutalement en causant un accident : à qui imputer la faute ? La complexité de fonctionnement et des calculs, la subtilité et l’extrême spécialisation des humains étant intervenus sur la machine seront propices à de multiples renvois de patate chaude. Cela est encore plus vrai pour les infractions pénales qui exigent une intentionnalité de la faute : une IA pourrait commettre de son propre chef une infraction de discrimination à l’embauche, interdite par le Code du travail (art. L. 1132-1) sans pour autant avoir reçu aucune directive en ce sens, par simple reproduction du recrutement ayant déjà eu lieu. Nous aurions là un fait avéré – et facilement vérifiable, puisqu’inscrit dans la mémoire de l’IA – mais aucun coupable : le crime parfait.

Ainsi pourrait-on imaginer à l’avenir ce genre de scénario qui semble sorti d’une satire science-fictive : faire juger les justiciables IA par des juges IA, condamnant à des amendes en cryptomonnaies. Il paraît préférable, au contraire de faire intervenir des « garants humains » chargés de prendre sur eux la responsabilité d’éventuels imprévus et donc d’agir sur l’IA, le paradoxe voulant que plus la machine est autonome, plus sa maîtrise par l’homme est nécessaire. Charles Rouvier