Professeur adjoint en sciences cognitives et intelligence artificielle
Michal Klincewicz : « Il faut remettre Internet au rythme de l’humain »
Cyber
Comment définiriez-vous les mécanismes de la désinformation ?
Michal Klincewicz | La désinformation fonctionne un peu comme un tour de magie. Dans un tour, on ne perçoit pas toujours ce qui se passe réellement : on sait qu’une pièce a été cachée derrière une oreille ou déplacée ailleurs, mais on ne remarque pas nécessairement ce qui nous échappe. C’est, selon moi, le cœur des tactiques de “mésinformation” ; du moins celles que j’étudie.
Cela suppose une approche interdisciplinaire, reliant les mécanismes de perception, d’attention, de mémoire et de conscience à une compréhension de ce qu’est réellement la désinformation. Celle-ci constitue en outre une catégorie particulière de la “mésinformation” : elle est délibérément conçue pour tromper.
On peut prendre un exemple simple : si je me trompe sur la température à Paris parce que j’ai lu une information erronée en ligne, transmise sans intention de nuire, il s’agit de mésinformation. En revanche, si quelqu’un diffuse sciemment une information fausse, nous sommes face à de la désinformation.
Existe-t-il un biais cognitif nous empêchant de distinguer la désinformation de la mésinformation en ligne ? Quel est le rôle de l’IA ?
Michal Klincewicz | Les situations varient selon les contextes politiques et sociaux, qui influencent la manière dont les individus perçoivent et mobilisent ces notions. Là où domine un fort cynisme politique ou un désengagement, on observe des attitudes très différents vis-à-vis de la vérité et du savoir. L’importance leur étant accordée varie grandement et affecte directement l’efficacité des stratégies de désinformation.
Dans un pays comme la Russie, par exemple, où prévaut un certain cynisme, beaucoup d’individus doutent de leur capacité à faire une différence. Il existe une forme de malaise épistémique sur la vérité. Les individus s’y intéressent peu et n’en ont pas la nécessité pour prendre des décisions à propos de la politique.
Dans une démocratie fonctionnelle – tant qu’elle est l’est effectivement – au contraire, la distinction entre vrai et faux est essentielle pour exercer sa citoyenneté en prenant des décisions politiques fondée sur cet exercice de discernement. Cette différence influe sur l’impact de la « mésinformation générée par IA ». Dans des environnements déjà fragilisés sur le plan épistémique, les contenus générés par « l’AI slop » (ou avalanche d’informations générées par l’IA) auront probablement un effet amplifié. Néanmoins, cette hypothèse n’est pas encore vérifiée et reste, en partie, une spéculation.
Considérant votre papier “Slopaganda” L’IA générative est-elle une forme plus efficace et précise que la propagande classique ? Dans quel domaine des neurosciences joue-t-elle un rôle par comparaison aux mécanismes employés dans la propagande classique ?
Michal Klincewicz | Pour être succinct, elle introduit une rupture qualitative par rapport à ce qu’il est dorénavant possible avec l’IA générative. Les moyens transforment la nature même de la propagande. Traditionnellement, la propagande consiste en la propagation d’un message : un message est reproduit encore et encore. Si vous êtes dans la presse écrite, vous êtes capable de produire de la propagande mais la méthode première est celle de la réplication par l’impression.
Avec l’IA générative, il est désormais possible non seulement de diffuser un message, mais aussi de le créer avant de le répliquer. C’est une différence substantielle, puisque cette technologie permet d’adapter très finement le message que l’on souhaite répliquer à des publics spécifiques. Si l’on connaît bien une audience, on peut produire un contenu sur mesure, spécifiquement conçu pour elle. De plus, si vous savez que votre groupe a un antécédent et considère moins la connaissance alors le message que vous allez créer sera différent. Vous montrerez moins des preuves sachant que ce public y accorde peu d’importance mais plutôt à leurs besoins au jour-le-jour ainsi qu’à leurs émotions.
À cela s’ajoute la vitesse qui excède de loin ce qui était précédemment possible avec Internet. L’IA permet de générer des volumes de contenus sans commune mesure avec ce que produisent des acteurs humains, même organisés en « fermes à trolls »[3]. Ce passage à l’échelle à coûts bien moindres – sur le plan humain et technologique – constitue une différence majeure.
Pinterest a réalisé une campagne de dissémination d’images générées par IA afin de les engager à les labelliser avec un label IA. Considérez-vous cela comme une solution pour faire face à la “slopaganda” générée à l’aide de l’IA ?
Michal Klincewicz I Le marquage des contenus générés par l’IA est une bonne idée. Mais je m’inquiète du fait que cela reste insuffisant. La vitesse et la capacité de production rendent ces dispositifs facilement contournables. Cela reste une solution qui ne met pas un terme définitif au problème soulevé. Il faudra certainement attendre et chasser la nouvelle invention du “slopagandiste.”
Il est toujours possible de nettoyer ces contenus sur Internet. Néanmoins, je m’interroge sur la capacité de ce mécanisme de rattraper son retard face à l’avalanche de contenus aujourd’hui généré par l’IA. C’est pour ces raisons que la solution doit être systémique et au niveau des politiques publiques, plutôt que purement technique comme pour celle que vous venez de décrire.
Comment l’Europe peut-elle inciter économiquement les entreprises à combattre la “slopaganda” ? Quels pourraient être les mécanismes globaux derrière pour y répondre ?
Michal Klincewicz I Nous sommes face à un problème systémique, gigantesque, comparable au changement climatique ou aux inégalités économiques qui outrepasse notre compréhension et l’élaboration de solution à sa hauteur : Comment on résout le changement climatique ? On crée une autre conférence et on attend que les gens parlent entre eux et se mettent d’accord ? Est-ce que cela va régler les choses ? Je ne sais pas.
Néanmoins, je crois que le fait que nous en parlions est mieux que si nous n’en parlions pas. Je crois que nous devrions en être aussi là concernant le sujet de la “slopaganda.” Au moins en démocratie, le changement politique devrait venir de la société. Si ces questions ne mobilisent pas suffisamment de citoyens, comment adopter des politiques publiques qui changent quelque chose ?
Pour le changement climatique, peut-être est-ce déjà le cas : certaines populations s’inquiètent de la montée des eaux dans leurs pays, et cela les mènent à se constituer en mouvements puis agir ? Peut-être aurions-nous besoin de cela avec la “slopaganda” aussi ? Parce que si nous ne faisons rien, cela pourrait être comme le climat : irréversible. Nous n’aurons plus un internet encore libre, ouvert, où l’on pouvait découvrir. Peut-être cet internet-là, appartient déjà au passé.
Pouvez-vous développer les deux idées que vous avez proposées dans votre article « slopaganda » concernant la fermeture d’internet ou l’imposition d’une taxe mondiale sur cette technologie ? N’est-ce pas trop radical ?
Michal Klincewicz I La première proposition concerne un impôt mondial sur la fortune. Nous envisageons cette solution en tenant compte de l’érosion de la base d’imposition mondiale, soit un mécanisme conçu pour garantir que les grandes multinationales paient un niveau d’imposition minimum dans chaque juridiction. En réalité, nous nous interrogions sur la manière dont l’Europe aborderait la création de cette nouvelle taxe mondiale, au-delà des seules préoccupations liées à l’IA pour créer un effet de levier politique et économique. En effet, de nombreuses entreprises et personnes agissent différemment en fonction des incitations économiques. Certaines législations existent déjà, mais elles ne sont pas toujours appliquées. C’est pourquoi les incitations économiques restent essentielles.
Concernant la suppression d’Internet, j’ai eu un entretien il y a une ou deux semaines avec un responsable d’Access Now, organisation internationale à but non lucratif qui gère les coupures de l’Internet dans le monde entier. Le principal problème de cette solution est que, lorsqu’on supprime volontairement Internet, on réalise à quel point la communication grâce à ce moyen technique est aujourd’hui indispensable à un niveau social et politique. Au Népal, par exemple, la révolution a éclaté à la suite de la coupure des communications par le gouvernement. Cela montre à quel point les citoyens tiennent à cette technologie. C’est pourquoi la suppression d’Internet n’est peut-être pas une solution satisfaisante. Une meilleure solution serait un Internet plus libre.
Nous n’avons pas besoin que tout soit sur Internet comme c’est le cas aujourd’hui.
Au lieu de couper Internet, si vous aviez le choix, est-ce que vous arrêteriez l’IA générative ?
Michal Klincewicz — Non, l’IA générative est une technologie remarquable, et porteuse de nombreux bénéfices. Le problème n’est pas dans les modèles eux-mêmes mais réside dans leurs usages. Certains pans de la recherche éclairent d’ailleurs ce sujet. Le sociologue Dominique Boullier, dans son livre Propagations paru en 2023 où il utilise des outils d’épidémiologie pour comprendre la diffusion des messages en ligne. Le problème principal aujourd’hui, c’est la vitesse de circulation de l’information – pas seulement le microciblage (comme le scandale Cambridge Analytica), mais aussi l’accélération et la surexposition qui engendrent de nombreux effets. Il fait un parallèle avec les voitures. À leurs débuts, elles étaient suffisamment lentes pour qu’il n’y ait pas besoin de limitation de vitesse.
Cependant, le développement mécanique a fini par rendre nécessaire l’instauration de limitations de vitesse sur les routes pour des raisons de sécurité. Plutôt que de couper Internet, je propose de contrôler la vitesse de circulation de l’information à laquelle nous sommes exposés. Il ne s’agit pas de se déconnecter complètement et de retourner vivre dans des cavernes pour contempler les ombres sur les murs plutôt que sur nos écrans. Je constate simplement qu’actuellement, nous faisons tout sur Internet.
Que pensez-vous des politiques éducatives pour lutter contre la « propagande numérique » en général ?
Michal Klincewicz | Nous avons besoin d’une campagne d’éducation au numérique adaptée à cette ère de « propagande numérique ». L’éducation a un rôle à jouer et les experts doivent participer à cet effort. Je pense que la diffusion des connaissances d’experts du monde académique est limitée. Il est rare que le travail de personnes comme moi ait un impact direct sur les problématiques actuelles. Nous assistons à la montée des tensions dans le monde. Nous proposons des solutions, nos articles sont lus et nous sommes souvent bien placés pour prodiguer de bons conseils et sensibiliser le public, mais il y a une limite à cela. Je suis donc d’accord avec vous, mais nous devrions accélérer le processus.
Comment pouvons-nous nous préparer, lutter contre la propagande et même prendre conscience de nos propres biais cognitifs en tant que citoyens ?
Michal Klincewicz | Prendre conscience de ces failles est un bon début. Suivre un cours de sciences cognitives, par exemple. Apprenez-en davantage sur tous les biais cognitifs inconscients que nous avons afin de pouvoir les repérer en vous-même et chez les autres, et d’en informer les autres.