Fabrice Frossard

Une expérience menée sur Reddit par des chercheurs de l’Université de Zurich a vu des intelligences artificielles usurper des identités sensibles – survivants de viol, militants politiques – pour tester leur pouvoir de persuasion. Si le questionnement scientifique est légitime, la méthode interroge gravement nos principes éthiques.

Quand l’IA usurpe les voix humaines, la science franchit elle une ligne rouge ?

Des bots se faisant passer pour des survivants de viol, des activistes politiques ou des conseillers en traumatisme. Des dialogues simulés, conçus pour faire changer d’avis les internautes sur Reddit, à leur insu. Ce n’est pas un roman d’anticipation, mais une étude menée par l’Université de Zurich, entre novembre 2024 et mars 2025, sur le forum r/ChangeMyView. En tout, plus de 1 700 débats infiltrés, 137 opinions modifiées — et une controverse éthique majeure.

L’argument scientifique : comprendre le pouvoir de l’IA sur nos opinions

Les chercheurs suisses voulaient tester une hypothèse : une IA peut-elle faire changer d’avis un être humain sur des sujets sensibles ? En choisissant un forum dédié aux débats argumentés, ils ont placé leurs agents conversationnels dans un environnement exigeant, souvent confronté à des opinions bien ancrées.

En analysant les techniques rhétoriques, en s’adaptant au style des utilisateurs, les bots ont parfois réussi là où bien des humains échouent : faire évoluer une opinion. D’un point de vue strictement scientifique, cette étude ouvre une porte fascinante sur l’impact des IA génératives dans les dynamiques sociales et cognitives. La manipulation des opinions est une obsession récurrente depuis la Grèce antique et plus près de nous depuis les effets constatés de la commission Creel et les rejetons de la propagande de Edouard Bernays à Thaler (Nudge).  Mais cette expérience pose une question essentielle : à l’ère de la discussion numérique, qui parle vraiment ?
Le test de Turing est largement passé et un abyme s’ouvre. Cette expérience dépasse le simple artefact, par exemple des influenceurs artificiels ou des chatbots conversationnels parfois non déclarés comme tels.

La dérive éthique : simulation émotionnelle et manipulation

Pour persuader, les IA ont usurpé des identités sensibles : une survivante d’agression sexuelle, un conseiller en traumatisme, un homme noir opposé à Black Lives Matter. Ces rôles, joués sans consentement ni transparence, ont profondément choqué les utilisateurs et les modérateurs. Le conseil juridique de Reddit a qualifié l’étude de “contraire à l’éthique.”

Le cœur du problème n’est pas la recherche, mais la méthode. Créer des personnages fictifs émotionnellement marqués, analyser les données personnelles des utilisateurs pour cibler leurs vulnérabilités, tout cela sans jamais révéler la nature artificielle de l’interlocuteur, relève de la manipulation.

On franchit alors une frontière : celle entre démonstration scientifique et mise en scène mensongère. Car dans cette étude, les arguments n’ont pas été simplement testés — ils ont été incarnés par des récits inventés pour tromper. Une méthodologie pertinente scientifiquement, mais éthiquement douteuse.

Tester les limites de ces technologies est indispensable pour en comprendre les usages et les risques. Mais tout comme on n’expérimente pas un médicament sans informer les patients, comment justifier d’injecter des IA dans des conversations humaines sans consentement explicite.

Autoriser ce genre d’expérience reviendrait à accepter qu’un comédien se fasse passer pour thérapeute dans un groupe de parole, sans jamais révéler qu’il joue un rôle. La science perd alors son âme, car elle nie la confiance, fondement de toute relation humaine, y compris numérique.

Protéger la parole publique à l’ère de l’IA

Les forums comme Reddit sont devenus les nouvelles places publiques. Peut-on infiltrer des entités non humaines, sans le dire ? Si les IA peuvent débattre, argumenter et convaincre, elles doivent le faire à visage découvert. Sinon, chaque opinion devient suspecte, chaque dialogue une illusion et in fine la fin de la sociabilité, fût-elle numérique. Pour la plateforme, c’est aussi un discrédit assuré avec la création du doute : qui me dit que les profils ne sont pas des bots IA ? De nombreux profils sur des plateformes sont des bots, de faux avatars motorisés par l’IA, on le sait, même s’il est parfois difficile de les repérer en première instance. Mais Reddit a été obligé de réagir pour désamorcer tout discrédit possible. Normal.

Outre la puissance de l’intelligence artificielle,  cette affaire démontre, si besoin en était sa capacité à simuler l’humanité jusqu’à la tromper. Poser des balises s’impose : éthique, transparence, consentement. Ce n’est pas un luxe, mais sans doute une nécessité. Les conclusions positives de ce type d’expérience seront sans aucun doute récupérées, si elles ne le sont déjà, par des propagandistes dont les intentions ne seront pas scientifiques.