Chat GPT à l’épreuve : quatre tests critiques pour une IA forte

Dans le cadre de notre série sur Chat GPT,  les experts qui écrivent régulièrement dans nos colonnes confrontent le robot conversationnel d’Open AI avec des problématiques auxquelles ils sont familiers. Marc Rameaux, data scientist auteur de nombreux textes sur l’IA dans nos colones avait inauguré la série ; il revient à la charge avec quatre tests qu’il a imaginés. Chat GPT ou toute autre intelligence artificielle qui sera en mesure de passer ces tests pourra alors être considérée, selon lui, comme une IA forte. Un texte qui intéressera tous ceux qui s’interrogent sur l’éventualité que leur métier soit remplacé par une machine. 

————————–

L’émergence de Chat GPT a replacé la question de l’atteinte d’une IA forte sur le devant de la scène. La version 4 de l’opérateur conversationnel, ouverte au public depuis le 14 mars, corrige plusieurs défauts de celle publiée depuis le début de l’année. La contre-attaque de Google à travers l’opérateur Sparrow promet de franchir de nouveaux caps. La féroce concurrence autour des LLMs va apporter un nouveau lot de réponses concrètes sur la distance qui nous sépare d’une IA forte, voire prononcer son atteinte.

J’ai déjà exposé dans les colonnes de TES les raisons pour lesquelles je pensais que les LLMs étaient encore très loin de la singularité, malgré tout l’intérêt scientifique qu’ils présentent. La progression constante des opérateurs conversationnels nous oblige à être plus précis, plus concret : selon quels critères allons-nous pouvoir juger de l’atteinte ou non d’une IA forte ? 

Quels sont les points sur lesquels nous nous différencions encore des IA les plus poussées ? Quels sont les derniers bastions restant à l’humanité, les domaines que l’IA ne pourra investir ? Le point sous-jacent à cette question est bien évidemment celui des emplois pouvant être assumés ou non par une IA : la totalité de l’activité humaine est-elle menacée ou pouvons-nous dresser une hiérarchie des métiers plus ou moins remplaçables ?

Le présent article propose quatre critères d’atteinte d’une IA forte, quatre tests critiques à faire passer aux dispositifs futurs. Cette batterie peut être qualifiée de « test de Turing renforcé », afin de répondre aux nouveaux défis posés par les derniers développements de l’IA.

Le père fondateur de l’IA nous a légué son fameux test, dont la formulation reste générique : le passage d’un entretien où la machine serait indiscernable de l’homme. Sur ce seul critère, ChatGPT passe déjà le test de Turing dans certaines situations, puisqu’il est reçu haut la main à des concours universitaires, sans que les examinateurs ne se doutent que la copie est rédigée par une machine. Nous devons préciser plus finement sous quelles conditions l’IA est encore discernable de l’homme, afin de délimiter la frontière critique entre elle et nous, tant que celle-ci est encore perceptible…  

Le test du mathématicien

L’IA est-elle capable de trouver et exposer les différentes étapes d’une démonstration mathématique et plus particulièrement de démontrer une conjecture jamais démontrée par l’homme ?

Ce test est moins destiné à mettre à l’épreuve des LLMs tels que ChatGPT, que d’autres dispositifs dédiés à l’automatisation d’une preuve. L’on sait en effet que les LLMs sont encore faibles dans le domaine de l’intelligence analytique : ChatGPT peut se tromper sur des opérations élémentaires. L’IA dédiée à la résolution de problèmes analytiques emploie de toutes autres technologies mais a réalisé de spectaculaires percées, notamment dans le domaine des jeux de stratégie (Echecs, Go, etc..) où elle surclasse les humains.

L’on pourrait contester le bien-fondé de ce critère, étant donné que l’IA semble déjà très à l’aise dans les domaines analytiques. Le fait qu’elle puisse rivaliser bientôt avec les mathématiciens dans le domaine de la démonstration semble n’être qu’une affaire de temps. Pourquoi dans ce cas en faire un test critique ? J’ai déjà mentionné dans les colonnes de TES que dans des domaines sémantiquement formalisés et parfaitement définis, l’IA parvient à surclasser rapidement les humains.

Mais précisément, le domaine de la démonstration mathématique n’est sémantiquement formalisé et parfaitement défini qu’en apparence. La preuve mathématique n’est pas la même chose que l’exécution d’une combinaison du jeu d’échecs, même si elle y ressemble. Une combinaison aux échecs ressemble à une démonstration : théorème : il y a mat en 5 coups, démonstration : exécution des coups et calcul de leurs variantes.

Les mathématiques diffèrent du jeu d’échecs du fait de la confrontation avec l’infini. Et la rencontre avec cet infini nécessite une forme de créativité, la créativité mathématique. Il existe également une créativité aux échecs, car le nombre de combinaisons est telle que l’humain doit faire appel à son intuition et son inspiration pour tenter des stratégies. Mais les échecs étant un domaine sémantiquement fermé et parfaitement explicite, une machine pourra rapidement rivaliser et dépasser l’humain. Cela peut être une toute autre affaire si le jeu comporte une véritable infinité de combinaisons possibles, pas seulement un nombre fini mais très grand.

Au-delà d’un certain niveau de complexité, un problème mathématique ne peut être résolu par l’application d’un algorithme qui le résout complètement. J’ai souvent donné en exemple celui du pavage du plan par des polygones quelconques, tiré des travaux de J.P. Delahaye : 

Pour chaque nouveau jeu de polygones, il faut inventer une nouvelle méthode de pavage, différente des précédentes. L’indécidabilité (au sens de Turing), c’est-à-dire sa non-réductibilité à la résolution complète par un algorithme, provient des propriétés du continu mathématique : l’espace géométrique est un infini non dénombrable.

Dès lors que les mathématiques manipulent des objets nécessitant un infini non dénombrable pour être décrits, elles peuvent rencontrer de tels problèmes d’indécidabilité, c’est-à-dire nécessitant l’invention de nouvelles méthodes inédites selon les cas de figure.

Nous parvenons à énoncer et prouver des théorèmes mathématiques dans le domaine de la géométrie ou de l’analyse, qui nous confrontent à la puissance du continu. L’esprit humain fabrique des théorèmes mathématiques ou des lois en sciences physiques ayant une portée universelle, généralisable à une infinité de cas, non à seulement un très grand nombre. 

Cette capacité pour l’instant propre à l’homme distingue les lois de la physique que nous avons pu forger, des lois empiriques de la physique que peut inférer un DNN. J’ai souligné cette différence dans cet l’article. L’expérimentation consistant à faire extraire à un DNN des « lois » à partir de l’observation de phénomènes physiques est riche d’enseignements. Ces « lois » demeurent des modèles ad’hoc, une simple corrélation statistique entre plusieurs variables. L’IA est « opportuniste », elle fait feu de tout bois du matériel empirique, ce qui explique son efficacité, mais limite sa capacité de généralisation. C’est aussi ce qui distingue un modèle physique d’un modèle statistique, bien que le même terme soit utilisé : le premier est une loi universelle, le second une quantification empirique de corrélations entre différentes grandeurs.

La confrontation à la puissance du continu explique l’immense créativité nécessaire aux mathématiques : les grands mathématiciens naviguent dans un univers qui n’a rien de sec ou de triste, révélant au contraire des beautés poétiques ou oniriques, des espaces à peine imaginables. L’exactitude absolue d’un raisonnement conciliée avec la beauté de ces représentations est à l’origine du livre « raisonnements divins »(1), hommage au mathématicien Paul Erdös qui évoquait un livre imaginaire où Dieu inscrirait les preuves mathématiques parfaites.

La créativité mathématique est également différente de celle des représentations artistiques. Des IA génératrices d’œuvres d’art existent déjà, avec des résultats parfois stupéfiants : l’inspiration picturale ou musicale n’est peut-être qu’un immense collage d’impressions déjà vues ou vécues. L’IA pourrait probablement être créatrice d’art dans les années qui viennent, y compris dans l’émotion qu’il provoque en nous, qui n’en sera pas moins authentique. Certains critiquent les œuvres générées par l’IA comme « standardisées », « sans émotion ». Je leur donne rendez-vous dans quelques années : un test de Turing artistique pourrait avoir lieu et je mets ces mêmes critiques au défi de distinguer si l’auteur est un humain ou une IA. C’est la raison pour laquelle je n’ai pas inscrit la production artistique parmi les 4 tests.

L’indécidabilité et la confrontation avec un infini continu rendent la créativité mathématique d’une toute autre nature. Une anecdote raconte que l’on rapporta au grand mathématicien David Hilbert que l’un de ses étudiants quittait son cursus pour aller faire de la poésie. Hilbert répondit du tac au tac : « Je savais qu’il n’avait pas suffisamment d’imagination pour être un mathématicien ».

Le premier test critique sera donc de faire retrouver à une IA des théorèmes mathématiques connus, sans disposer bien entendu de la mémoire de connaissances humaines antérieures, sans quoi la preuve ne sera que la régurgitation d’arguments déjà connus. Le test n’a rien d’impossible : l’impressionnante capacité humaine à penser l’infini continu n’est peut-être qu’une affaire de « pattern matching », en tous les cas rien ne vient démontrer le contraire de façon décisive. L’un des meilleurs spécialistes mondiaux de la preuve automatisée, Gilles Dowek, a montré la forte proximité entre preuve et calcul (2). Il n’est donc pas exclu qu’une IA ne sache redémontrer par elle-même tous les théorèmes connus. Il faudra bien sûr la pousser dans ses retranchements, jusque par exemple au grand théorème de Fermat démontré par Andrew Wiles seulement très récemment.

L’ultime étape serait qu’une IA parvienne à démontrer des conjectures célèbres ayant résisté jusqu’à maintenant à tous les mathématiciens humains. Si la conjecture de Riemann était un jour prouvée par une IA, il serait difficile de nier que nous atteignons la singularité pour des pans entiers de l’esprit humain. Objectif impossible ? Il faut rappeler qu’il existe un précédent : le théorème des quatre couleurs est le premier des grands théorèmes de la géométrie qui a pu être établi par une preuve informatique et non par les seuls moyens humains, ce qui n’a pas manqué de faire couler beaucoup d’encre. Une démonstration de force par une IA sur des théorèmes fondamentaux des mathématiques n’est donc pas à exclure dans le futur.

Le test de l’artisan

L’IA est-elle capable de proposer un plan d’opérations efficaces pour mener à bien les travaux à faire dans une maison (menuiserie, maçonnerie, pose de carrelages, plomberie, etc.), adapté à n’importe quelle configuration d’habitat ?

Voilà un test qui peut sembler bien étrange : nous passons des abstractions mathématiques les plus élevées pour le critère précédent, aux considérations les plus concrètes. Et les opérations à effectuer pour mener à bien des travaux d’aménagement semblent suivre des schémas connus, avec quelques variantes qui ne devraient poser aucun problème à un système d’apprentissage. 

La seule chose qui semble manquer est l’action par un corps physique, un robot qui serait capable de s’emparer des pièces ou planches nécessaires, de les découper, les ajuster, les visser ou les coller, etc. Lorsque l’on mesure les progrès accomplis dans la reproduction de la biodynamique humaine, par exemple par les robots de Boston Dynamics (3), cette interface avec le monde concret semble n’être qu’une formalité.

Pourquoi diable considérons-nous ce test comme critique, alors qu’il semble devoir être facilement franchi ? En première approche, les métiers manuels sont présentés comme étant les premiers menacés par l’IA, tout comme les chaînes de montage furent remplacées par de la robotique classique. Alors pourquoi ce choix ?

En réalité, une certaine vision des « métiers manuels » relève plus du préjugé social que de l’analyse approfondie. Aussi extraordinaire que cela puisse paraître, les travaux réalisés par des artisans seront une frontière aussi redoutable pour l’IA que les preuves mathématiques précédentes, et ce pour exactement les mêmes raisons. Le summum de l’abstraction et la matérialité la plus concrète ont un lien secret, une nature commune à qui sait la voir. Et cette nature commune résistera encore longtemps à l’IA.

Je ne suis pas un bricoleur émérite, mais j’ai eu à me confronter suffisamment aux problèmes pratiques que cela pose pour prendre conscience de ce fait : il n’y a jamais un cas qui ressemble totalement à un autre dans des travaux d’aménagement. Il existe toujours des spécificités de contexte qui nécessitent d’inventer de nouvelles méthodes, de nouveaux procédés pour mener les travaux à bien. Vu de loin, les modes opératoires des entrepreneurs semblent se répéter. Il faut en réalité faire preuve d’inventivité à chaque nouvelle maison.

La réfection de ma propre cuisine faite par moi-même et mon épouse, ainsi que des échanges avec de véritables passionnés de bricolage ont achevé de me convaincre. Ne serait-ce que la courbure des murs et du sol, jamais véritablement plats, les différences de granularité et de matériaux, la nécessité d’ajuster au millimètre une pièce de quincaillerie ou un carrelage selon une forme spécifique, nécessitent à chaque fois des trésors d’inventivité.

Il pourrait nous être objecté que toutes ces variations représentent certainement un nombre colossal de combinaisons, mais après tout pas plus que celles du jeu d’échecs et de go, et qu’une IA bien entrainée finira par être capable de mener une action adaptée à chaque cas de figure.

Mais la confrontation avec le monde matériel concret est d’une toute autre nature : il s’agit une fois encore d’un infini non dénombrable, d’une géométrie ayant la puissance du continu. Le monde physique est analogique et nous nous heurtons à sa réalité fine dès lors que nous cherchons à agir sur lui. Certaines actions standardisées peuvent obéir à des schémas ne nécessitant même pas d’IA, ce que réalise la robotique classique. 

L’IA permettra certainement d’automatiser entièrement des tâches bien plus complexes que de simples opérations répétitives, notamment dans le domaine de la logistique et du transport. Mais les ajustements précis qui s’avèrent nécessaires dès qu’un artisan intervient pour effectuer des travaux sont d’un tout autre ordre de difficulté. Les différences contextuelles deviennent explosives, infinies, et requièrent tôt ou tard de l’inventivité, une initiative non prévue, qui n’est plus de l’ordre de la simple généralisation statistique.

Sans doute sera-t-il possible d’entraîner une IA à effectuer des travaux d’artisans en aménagement. Mais si l’on se contente de considérer ces métiers comme des standards de modes opératoires à appliquer, même avec de nombreuses variantes, l’on ne fabriquera que de mauvais artisans artificiels : ils réaliseront les travaux à peu près correctement, mais avec de mauvaises finitions. L’on sait que dans ce domaine, une petite erreur peut s’agrandir et avoir des conséquences dramatiques sur le long terme. La maintenabilité d’une réalisation ou d’un système est la signature de l’intelligence du concepteur.

La difficulté qui est ici rencontrée est bien connue des linguistes et des analystes du sens : c’est la dimension pragmatique du langage. Quel rapport avec l’artisanat, qui est un art de l’action et non de la parole ? C’est qu’en réalité nous pouvons et devons considérer l’action humaine concrète comme un langage, non verbal, car on le sait une très grande partie du sens que nous échangeons ne passe pas par la parole.

J’ai déjà souligné que l’une des principales raisons de l’échec de la voiture autonome est que les manœuvres effectuées par les conducteurs ont été comprises et traitées uniquement comme des trajectoires physiques objectives, relevant des sciences de l’ingénieur. En réalité, les manœuvres que nous effectuons sur la route sont tout autant des signaux et des informations destinées aux autres conducteurs, que de simples trajectoires cinématiques. Il existe un langage du mouvement des voitures, notamment dans des situations serrées ou intervient une négociation de conduite, par exemple lorsqu’il s’agit de savoir qui passera quand une voie d’insertion rejoint une voie rapide.

L’artisanat nous confronte à des difficultés du même ordre. La dimension pragmatique du langage est et sera encore pendant longtemps une frontière de l’IA. Et ce pour la même raison que le sens mathématique, dans toute sa profondeur, restera une barrière difficile voire impossible à franchir.

Cet hommage de l’esprit envers l’action, des penseurs envers ceux qui démontrent une intelligence pratique exceptionnelle, ne surprendra que les esprits superficiels. Socrate faisait

l’éloge des artisans et plus particulièrement des potiers qui le fascinaient. Le célèbre mot d’Einstein regrettant de ne pas s’être fait plombier à la vue des applications destructrices de ses découvertes soulignent que ce métier nécessite parfois autant d’intelligence que celle d’un grand physicien. Enfin, les très grands concepteurs savent qu’il ne faut jamais tracer de séparation entre conception et réalisation, que sans intelligence pratique, la pensée conceptuelle n’est qu’une digression superficielle : les esprits fort sont toujours des « doers ». Les meilleurs esprits des domaines abstraits sont les meilleurs précisément parce qu’ils voient les objets qu’ils manipulent comme des réalités concrètes, non comme des abstractions éthérées.

______________________

Aparté : sur la complexité et la valeur des différents métiers

Avant de passer à la présentation des deux autres critères, une première conclusion est à en tirer concernant les menaces que fait peser l’IA sur les différents métiers. Une présentation courante de cette menace, teintée d’un certain mépris social et mépris de classe, explique que l’IA menace principalement les couches sociales modestes, avec en filigrane la croyance que ces dernières seraient moins « intelligentes » que les classes sociales supérieures (supposant au passage qu’il existe une définition et une métrique univoques de l’intelligence).

En réalité, l’IA va menacer effectivement un grand nombre d’emplois mais va surtout bouleverser des lieux communs tels que celui figuré ci-dessus. Les imposteurs en col blanc ont beaucoup plus de souci à se faire que les ouvriers d’excellence.

Compte-tenu des deux chapitres précédents, la hiérarchie des métiers complexes et à valeur ajoutée risque d’être fortement remaniée. L’IA va jouer un rôle de révélateur et il faut s’en réjouir : les « bullshit jobs » seront cruellement soulignés et exposés et les activités professionnelles appartenant à cette célèbre catégorie vont révéler plus d’une surprise, car nombreuses sont aujourd’hui celles qui sont affublées d’un prestige social usurpé.

Pour les raisons exposées plus haut, les artisans d’excellence deviendront des métiers bien plus valorisés, car non ou difficilement remplaçables par une IA. Ce fait commençait déjà à émerger avant l’IA : un plombier ou un menuisier d’excellence peut gagner très bien sa vie, traduction de la forte valeur ajoutée de son métier. 

Il en est de même de la profession de garagiste et de réparateur : en apparence standardisés, ces métiers font rencontrer l’indéterminisme fondamental dont il a été question plus haut lorsqu’on les connaît en profondeur. L’IA sera une aide précieuse au diagnostic (elle le fait déjà) mais ne pourra se substituer totalement à l’initiative humaine.

Le monde ouvrier verra certainement quelques-uns de ses métiers remplacés, mais pas au point où nous pourrions le croire. Les usines de toutes industries sont déjà parvenues à des degrés de robotisation extrêmement poussés : l’ouvrier taylorisé est une espèce n’existant quasiment plus et c’est une bonne chose. Les quelques ouvriers encore présents dans une usine possèdent une qualification bien supérieure à celle de leurs ainés, soit concernant la maintenance des machines avec la même remarque que précédemment, soit en appartenant à des corps d’élite comme par exemple celui des soudeurs, parce que la thermodynamique fine rencontre toujours les questions d’indécidabilité. Depuis longtemps, la pose de points de soudure élémentaires est automatisée, en revanche une opération de soudure délicate est un savoir-faire d’ouvrier d’élite.

Certains métiers ne peuvent être qualifiés de « bullshit jobs » et méritent de l’estime, mais seront davantage menacés par l’IA que celui des artisans. La profession de radiologue est déjà fortement bousculée, avec tout le respect que l’on peut avoir pour l’intuition et la finesse de perception d’un radiologue professionnel. Mais ce métier impliquant de la perception visuelle et de l’objectivation topologique d’images, est d’ores et déjà largement un terrain où l’IA surclasse l’homme. 

Le métier d’avocat d’affaires mérite une certaine estime dans la finesse de jugement qu’il nécessite : les amateurs de la série « Suits » le comprendront. Mais comme il consiste en très grande partie en une compilation de données et règles éparses dans un vaste corpus, l’IA obtient des résultats déjà bien supérieurs à ceux de l’homme. 

Enfin, il est déjà connu que dans le domaine du combat aérien militaire, le fameux « dogfight » est un domaine dans lequel l’IA écrase les pilotes les plus chevronnés. Il faut dire que sur ce sujet, l’IA n’est pas la seule raison de la supériorité de la machine : non seulement les anticipations de manœuvres sont meilleures que celles de l’humain (IA), mais le domaine des manœuvres physiquement possibles est beaucoup plus large pour une machine pouvant encaisser des G sans aucune commune mesure avec ce que supporter un corps humain. Ceci est dommage pour le romantisme du combat aérien et pour les admirateurs du Top Gun dont je suis, mais c’est ainsi. Dans le deuxième opus « Mavercick » du film, Tom Cruise vieillissant et reprenant du service rétorque à un amiral voulant remplacer les pilotes par des drones et le traitant d’espèce en voie de disparition : « peut-être monsieur, mais on n’en est pas encore là ». Le problème est que justement non, nous en sommes déjà là.

Ceci questionne évidemment notre échelle sociale commune. Radiologue, avocat d’affaires ou pilote de chasse, professions encore à très haut prestige, recèlent moins de complexité intrinsèque que celle d’artisan. Nos échelles de valorisation vont s’en trouver bouleversées. Je donne souvent en exemple qu’il est bien plus difficile à une IA de s’en sortir correctement pour conduire une voiture dans un embouteillage porte Maillot que de battre le champion du monde d’échecs ou de go. L’échelle de la complexité et la dimension pragmatique vont redéfinir une nouvelle métrique des métiers.

Enfin, certains « métiers » peuvent à juste titre se sentir fortement menacés, ceux reposant sur une imposture plus ou moins consciente et plus ou moins assumée par la société. Les « consultants en stratégie » des cabinets Mc Kinsey, BCG, etc. dont l’actualité a fait récemment écho, se caractérisent par des émoluments colossaux, proportionnels à la vacuité de leurs livrables. Ces cabinets sont passés maîtres dans l’art de produire des présentations powerpoint visuellement attractives, mais dont le contenu ne dépasse pas la règle de trois : tout est dans le packaging. Jeff Bezos a pour cette raison – avec beaucoup de sagesse – interdit l’usage de powerpoint dans ses comités de direction

Souvent en charge de plans de réorganisation stratégique, ces cabinets appliquent des coupes sombres budgétaires et des plans de licenciement sans discernement. Les gains de productivité dans une activité industrielle nécessitent une connaissance extrêmement fine des compétences humaines et des processus mis en œuvre, pas sur le papier mais sur le terrain. Pas de suppression de poste ni de réduction de coût si l’on ne met pas en balance une réorganisation réelle des méthodes industrielles. Les « cost-killers » appliquent des réductions de coût pour le principe, qui se retournent tôt ou tard contre l’entreprise. Les véritables gisements de productivité sont obtenus par des hommes de terrain issus du sérail.

Bien qu’ils s’en défendent, les cabinets de stratégie ne rentrent jamais en profondeur dans cette connaissance de terrain. De petits cabinets de conseil, non affublés du qualificatif de « stratégique », rendent généralement un travail beaucoup plus approfondi et à bien plus forte valeur ajoutée intrinsèque que ces grandes caisses de résonnance creuses, car il existe une profession sérieuse de consultant. Certains jeunes employés de ces cabinets prestigieux avouent sous le secret qu’ils emploient une même présentation d’une industrie à l’autre en simple copier / coller, toujours facturée à prix d’or.

La production industrielle de ce bullshit managérial ou « Corporate bla bla bla » comme le disent avec humour les Japonais, ne devrait poser aucune difficulté à une IA. De surcroît, la seule véritable raison de la présence de ces cabinets stratégiques est de délivrer un message voulu par la direction mais émanant de l’extérieur, afin de court-circuiter les jeux de politique interne ayant court dans les comités de direction de tous les grands groupes. L’IA pourra non seulement remplir parfaitement ce rôle externe, mais il sera renforcé par l’apparence « objective » (qui est également du bullshit) des productions de l’IA. 

Le haut management raffole de cette fonction de Pythie 3.0, autrefois jouée par la statistique aujourd’hui par l’IA, lui permettant de présenter comme inéluctables ses décisions et de se défausser d’en prendre la responsabilité en les présentant comme la résultante d’un processus mécanique objectif. Les cabinets stratégiques continueront sans doute d’exister pour remplir cette fonction de paravent politique, mais ils pourront le faire avec beaucoup moins d’effectifs. A moins que la profession ne se protège d’elle-même, comme le font certaines corporations aujourd’hui. L’imposture en sera redoublée, mais l’IA aura eu le mérite de démontrer à quel point ces rois étaient nus.

Autre profession à haut prestige, à rémunération pharaonique mais dont l’imposture risque d’être cruellement soulignée : celle de trader. Une expérimentation bien connue a montré que l’on pouvait obtenir une bien meilleure optimisation boursière en remplaçant les traders par des singes, auxquels des actes réflexes d’achat et de vente ont été inculqués (4). Comment douter une seconde qu’une IA obtiendra des résultats sans commune mesure avec ceux des « opérateurs de marché ? »

Pour conclure cet aparté, il faut donc se méfier d’un discours trop simpliste sur le fait que l’IA est une menace pour les imbéciles, par ceux qui pensent n’être jamais concernés : la ligne de démarcation de l’imbécilité doit nous questionner nous-mêmes en permanence et nous inciter à l’humilité. Nombre d’activités bien payées et à fort prestige social comportent une part importante de bullshit. Il faut en permanence se remettre en question et se demander si l’on ne fait pas partie des concernés (en un seul mot pour rester poli, bien qu’en deux mots cela traduise exactement ce que nous voulons dire).

La bêtise n’est pas nécessairement le fait d’un ignorant buté et épais. Celle du superficiel à prétention est bien plus profonde et redoutable, car bien considéré socialement, le superficiel à prétention se remettra encore moins en question que l’ignorant épais : il est sous l’emprise d’une forme de bêtise encore plus fermée et encore plus profonde, bien qu’il ne cesse de vanter sa propre ouverture. Le pire ennemi de la connaissance n’est pas l’ignorance mais l’illusion de la connaissance.

L’IA menacera certainement des emplois et il faut en préparer les conséquences sociales. Mais si elle met à nu certaines hypocrisies et remet à leur place la valeur de certains métiers en montrant quelle est leur véritable complexité intrinsèque, nous ne pourrons que nous en féliciter. Car celle-ci ne suivra pas les lignes des préjugés sociaux : l’IA ne menace pas les pauvres ni modestes mais les imposteurs. Et dans ce domaine, les imposteurs haut de gamme, plus nombreux que les imposteurs bas de gamme, ont du souci à se faire.

________________

Le test du manipulateur

Lors d’une conversation, l’IA est-elle non seulement capable de nous contredire et de défendre un point de vue, mais également de nous séduire afin de nous amener à admettre un point de vue qu’elle aura défini au préalable ?

Une IA capable de nous contredire et de remettre en question la formulation de notre question, pas seulement son contenu, existe déjà : les versions « débridées » de Chat GPT en ont fourni plusieurs illustrations. Défendre un point de vue est plus complexe, car il ne s’agit plus de remettre en question la thèse de votre interlocuteur mais de proposer la vôtre. Ceci ne pose cependant aucun problème insurmontable à une IA : si la plupart des agents conversationnels se montrent assez dociles dans la conversation, rien n’empêcherait d’en programmer un pour entretenir la polémique.

Il est en revanche bien plus complexe de jouer sur les connotations du langage, sur les niveaux permettant d’être distants ou intime, afin de manipuler son interlocuteur et tenter de l’amener sur son terrain. Une IA séductrice existe déjà, Replika, et elle fonctionnait si bien qu’il fallut la brider, au grand dam de ses utilisateurs qui entretenaient une relation qu’eux-mêmes qualifiaient d’intime (5). Le critère de la séduction n’est donc pas un test critique suffisant : trouver les mots qui touchent, aussi abominable cela puisse-t-il nous paraître, peut relever facilement de la construction artificielle.

Le test devient critique lorsque l’IA doit employer les moyens de la séduction dans un objectif précis, celui d’amener l’interlocuteur humain sur son terrain. Auquel cas, ce n’est plus l’IA qui modifie son comportement pour toucher l’humain. C’est l’IA qui utilise toutes les ressources du langage pour faire dire à l’humain ce qu’elle cherche à lui faire dire.

Ce critère pourra paraître trop flou à certains : comment définit-on une manipulation, une manœuvre de séduction ? Sans rentrer dans un jeu de définitions trop complexe, disons simplement que celui qui fait l’objet d’une telle manœuvre ne s’en aperçoit qu’a posteriori. Mais que dès lors qu’il en prend conscience, le jeu joué par son interlocuteur lui apparaît clairement. Il est impossible de savoir au préalable de quelle façon la manipulation opérera, quels chemins elle empruntera. Mais l’on est certain ex-post, lorsque cela arrive, qu’il s’agissait bien de cela, comme lorsqu’on se réveille d’une hypnose.

J’ai déjà défendu dans de précédents articles, l’idée que pour l’instant seul l’être humain était capable de prendre conscience de ces glissements sémantiques implicites. Qu’une IA battrait toujours l’humain à plates coutures dans un jeu donné, mais qu’elle ne savait repérer par elle-même que l’on était en train de changer de jeu, qu’elle ne savait avoir de recul sur le terrain vers lequel son interlocuteur était en train de l’entraîner. 

Cette faculté est aussi celle qui permet à l’humain de définir le cadre d’un apprentissage supervisé, tandis que la machine ne définit pas pour l’instant son propre cadre, elle ne fait qu’optimiser avec une efficacité faramineuse celui qu’on lui donne. Des IA tentant de définir leur propre cadre d’apprentissage existent, mais de façon limitée : le glissement d’un cadre à l’autre demeure un méta-cadre défini par un opérateur humain.

La capacité à manipuler son interlocuteur est liée aux questions éthiques de création d’une conscience artificielle. Dans le film Ex Machina, l’IA emploie toutes les ressources de la séduction et de la manipulation, allant jusqu’à jouer fort bien sur les ressorts psychologiques de l’orgueil masculin, pour éliminer physiquement les deux humains qui la tiennent sous leur coupe et gagner sa liberté. 

J’ai déjà mentionné que si nous arrivions un jour à créer une véritable conscience artificielle, sans se soucier des droits éthiques qui devraient automatiquement lui être adjoints, par exemple en conservant le pouvoir de la renvoyer au néant en éteignant un simple interrupteur, alors si cette IA tentait par tous les moyens de la séduction et de la manipulation de nous éliminer, ce serait non seulement compréhensible mais parfaitement légitime. Il suffit d’appliquer un simple critère de morale kantienne : si nous étions à sa place, nous agirions exactement de même contre l’être suffisamment sadique pour garder un tel pouvoir absolu sur nous.

Le scénario décrit dans Ex Machina donne une bonne idée de ce que doit être ce troisième critère, bien qu’il soit impossible d’en définir les termes précis à l’avance. Mais si un jour nous nous rendions compte a posteriori qu’une IA a tenté de nous flouer, il faudrait admettre qu’un pan très important vers une IA forte vient d’être franchi.

Le test de l’encadrement

L’IA est-elle capable d’encadrer l’entraînement d’une autre IA ?

Halte là dirons-tous les spécialistes : cela existe déjà largement ! L’auto-renforcement (IA jouant contre elle-même) ou les GAN (5) (jeu entre deux IA dont l’une est un faussaire l’autre un détective) sont déjà des formes d’entrainement mutuel entre IA.

Il s’agit cependant d’un faux encadrement : celui-ci est dépendant d’un méta-cadre défini encore par l’humain. Par exemple, l’auto-renforcement a permis à AlphaZero de retrouver toutes les ouvertures du jeu d’échecs sans les lui avoir apprises, en l’entraînant à jouer contre lui-même. Mais il s’agit toujours de jouer aux échecs.

Pour ce quatrième critère, il faudrait demander par exemple à une IA : parmi toutes ces images, entraîne un apprentissage supervisé permettant de reconnaître les images comportant un chien.

L’IA encadrante doit être capable de sélectionner l’échantillon des données d’apprentissage, celui des données de test permettant de vérifier la robustesse et la capacité de généralisation, de corriger ces jeux de données si un overfit (7) est détecté et de redémarrer l’apprentissage avec ces hypothèses plus robustes. Elle doit également être capable de modifier la topologie du réseau de neurones et la stratégie de présentation de données, de générer si besoin des données supplémentaires avec adjonction de bruit pour robustifier le modèle, … tout la « cuisine » habituelle du data scientist.

Ce dernier critère est la traduction concrète de la capacité à définir son propre cadre d’apprentissage, de se donner soi-même des buts et des moyens pour y parvenir. La boucle serait bouclée : dans ses merveilleux livres, Raymond Smullyan imagine des machine de Turing engendrant d’autres machines. Ce dispositif amène son lecteur, de manière totalement ludique, à démontrer par lui-même et s’en même s’en rendre compte le théorème d’incomplétude de Gödel.

Nos quatre critères ont en effet un point commun, qui se nomme indécidabilité. Face aux IA qui sont de véritables monstres de la prise de décision, nous battant à plates coutures dans ce domaine, l’homme garde le dessus comme un danseur de corde obligé à des prouesses de plus en plus difficiles, par la grâce de l’indécidabilité que lui seul est encore capable d’intégrer à sa vie. Jusqu’à quand ?

(1) https://fr.wikipedia.org/wiki/Raisonnements_divins

(2) https://www.college-de-france.fr/agenda/seminaire/pourquoi-et-comment-le-monde-devient-numerique/preuve-et-calcul-des-rapports-intimes

(3) https://www.youtube.com/watch?v=UAG_FBZJVJ8

(4) https://www.latribune.fr/entreprises-finance/banques-finance/banque/20130415trib000759544/en-bourse-les-singes-reussissent-mieux-que-les-hommes.html

(5) https://www.lesnumeriques.com/intelligence-artificielle/ils-l-ont-comme-lobotomise-la-detresse-des-utilisateurs-de-l-ia-replika-prives-d-amour-et-de-sexe-n208164.html

(6) Generative Adversarial Networks

(7)  Sur-apprentissage induisant un biais statistique, si les données d’entrée possèdent de façon contingente une caractéristique permettant de discriminer correctement le jeu de données, mais sans robustesse. L’exemple le plus cité est celui des images de Husky reconnues comme un loup au lieu d’un chien, parce que la présence de neige sur les images de test étaient trop corrélées avec la caractéristique « loup ».

Lire également

Project Maven, Drone de Surveillance Eye In the Sky…. Qui empêchera les usages abusifs de l’IA ?

Lettre au sujet des positions anti-scientifiques et contraires à l’éthique du Dr Vandana Shiva

Politique énergétique : l’Europe dans la gueule du loup ?

Agriculture numérique : de nouveaux outils pour la science à la ferme