ChatGPT, intelligence artificielle générative ou dégénérative ?

Connaissez-vous le nudging ? Laurence Devillers, professeur en IA à l’Université Paris-Sorbonne et chercheuse au Laboratoire interdisciplinaire des Sciences du numérique de Saclay, travaille sur cette pratique au quotidien avec des doctorants qui étudient l’incitation à faire changer d’avis les gens au moyen de chatbots. Parler avec un robot génère en effet de l’affect et l’algorithme du robot peut être entrainé à détecter la variation des émotions de son interlocuteur et ajuster ses réponses en conséquence, parfois pour l’amener à un comportement souhaité. Si l’IA n’a pas inventé les techniques de manipulation (qui est un travers bien humain pour le coup), la diffusion sans limites des chatbots dans les usages quotidiens questionne de plus en plus. Le nudge digital est communément utilisé dans les approches marketing avec l’intention derrière - toujours humaine - de modifier les perceptions des prospects pour les amener à concrétiser un acte d’achat. Les nudges s’appuyant sur les sciences comportementales et la manipulation des émotions pour orienter le choix des individus vers une direction souhaitée, une autre application évidente est le champ politique pour orienter les comportements de vote. 

Au vu des enjeux éthiques évidents, on ne peut pas faire l’économie d’observer les interactions hommes-Chatbot pour en comprendre l’évolution, voire anticiper certains risques. C’est tout l’objet de la Chaire interdisciplinaire HUMAAINE qui regroupe des experts en IA, mais aussi des linguistes, des économistes du comportement, des juristes, des philosophes et même un théologien. Les membres du Comité national pilote d'éthique du numérique veillent également au grain. Lucky nous, Laurence Desvillers fait partie de ces deux instances.

L’intelligence humaine est-elle en danger ?

« Nous avons une intelligence qui n’a rien à voir avec celle des machines. On ressent. On a des valeurs morales. On a un appétit de vie. On a des intentions. Tout ce que n’a pas la machine. Un enfant va mettre sa main sur le feu une fois, il va se brûler et en même temps il apprend de ce contexte qui va être intégré dans son histoire personnelle. Il ne met normalement pas sa main sur le feu une deuxième fois. Une machine ne fonctionne pas comme cela. Elle va devoir répéter plusieurs fois une expérience. La machine n’est pas intuitive. Le goût de la pomme est encyclopédique. Elle n’a pas de notion de distance. Elle peut sans ciller vous demander de sauter par la fenêtre car cela n’a aucune incidence sur son référentiel. Une machine n’analyse que le contexte des questions que vous lui adressez. Elle raisonne en 0 et en 1 dans le choix de sa réponse. Ce mode opératoire qui est complètement différent du mode opératoire d'une intelligence humaine doit rester dans notre esprit. »

Ces propos de Laurence Devillers rassurent et ce n’est pas demain la veille que les machines remplaceront les femmes. Pour autant les points de vigilance ne manquent pas. En premier lieu la question des paramètres. En comparaison des discussions virulentes actuelles sur les algorithmes (majoritairement extra-européens et anglophones) et sur les corpus de données utilisées pour entrainer les machines (d’une opacité déconcertante), la question est rarement soulevée. Or dans les processus d’apprentissage des machines, c’est une question fondamentale, les concepteurs décidant arbitrairement de tout un tas de choses pour paramétrer les IA (la taille de l’historique des prompts, la séquence du token, la taille du lexique, la température qui permet de choisir entre les différentes séquences de mots possibles qui sera employée dans la réponse). 

Un deuxième point de vigilance est d’ordre éthique. Jusqu’où peut-on aller sans se perdre ? Même si l’IA le permet techniquement, peut-on tolérer la création d’agents conversationnels basée sur des profils de personnes décédées (qui ont parfois consenti avant leur mort) ? Le ‘thanabot’ a étrangement le vent en poupe dans certains milieux, ce qui en dit long sur l’évolution morale de nos sociétés et nous ferait presque regretter l’absence de censure. Les questions de propriété intellectuelle sont aussi au cœur des débats. Comment va-t-on savoir quand un contenu est produit par une machine ? Il est possible de mettre des watermarks dans des photographies et des contenus vidéo produits par les IA (les Designers apprécieront), mais c’est plus difficile pour les textes.

Un troisième point de vigilance concerne les corpus. Actuellement, les algorithmes se basent sur tout ce qui est disponible sur la toile. No limit. Pour répondre à une question de prompt, les IA vont scanner le net à la recherche de l’éventail des possibles et les sources pourront tout autant être des articles sérieux et des données fiables que des fake news et des données manipulées. Peu d’algorithmes sont transparents là-dessus et quand ils le sont (BING s’est mis par exemple à citer ses sources), attention +++ car sous cette illusion de transparence, les références peuvent être fausses car générées à partir de modèles mathématiques. Certains résultats peuvent aussi avoir être discriminants en fonction des données piochées. 

Peut-on résister à la colonisation technologique atlantiste ?

Éthique, normes, loi. Penser l’IA au travers de ce triptyque est fondamental. En matière d’IA générative, l’impulsion à ce jour reste largement américaine, même si les Chinois ne sont pas en reste, et le CEO d’Open AI est allé jusqu’à indiquer que si les règles européennes devenaient trop restrictives, les versions suivantes de ChatGPT ne seraient pas rendues accessibles au Vieux Continent. Pour Marco Landi, le président de l’Institut EuropIA, on est revenu au temps des colonies. L’Europe est en train de subir des technologies qui sont développées ailleurs et il est important de réagir vite. Bloom est à date le seul système d’IA générative qui a été conçu en Europe (si l’on exclut AlphaGo qui a été conçu par une entreprise britannique puis racheté par Google). C’est un LLM multilingue qui a été conçu sur le calculateur Jean Say à Saclay et qui à son lancement était une version ChatGPT 3 (à titre de comparaison, la version ChatGPT qui a été rendue publique pour la première fois en décembre 2022 était une version 3.5).

Un comité technique de normalisation européen dédié à l’IA, CEN-CLC/JTC 21, a été créé il y a quelques années, rassemblant un groupe d’experts ad hoc sur l’IA pour réfléchir à la création de normes correspondant aux besoins du marché européen et développer les documents normatifs correspondants. Son secrétariat est assuré par le Danemark. Curieusement (voire dangereusement), ce sont les GAFAM et les BATX qui participent aux discussions avec ce comité. Les grands industriels français sont absents, ce que Laurence Devillers a indiqué pendant son intervention. D’autres plateformes existent certainement en inter-industriels, cela étant, cela reste assez dérangeant. 

Depuis 2019, une directive européenne autorise le datamining partout dans le monde pour entrainer les algorithmes développés par les industriels européens. Isabelle Galy, la directrice de la Maison de l’intelligence artificielle, se demande si l’on ne s’est pas tiré une balle dans le pied ici en contribuant à la diffusion des modèles actuels dominants. Pour des usages grand public, probablement. Pour des usages plus ciblés basés sur des corpus fiables et restreints, on peut peut-être encore résister.