OpenAI a déclaré jeudi dans un article de blog qu’elle avait interdit les comptes russes et iraniens qui utilisaient les outils d’intelligence artificielle de l’entreprise pour faciliter ses opérations d’influence dans plusieurs pays. Les agents ont déclaré qu’ils avaient réussi à faire reprendre leurs faux récits par les médias et, dans un cas, à provoquer une réponse d’un membre du Parlement européen, selon des rapports internes sur les opérations produites à l’aide du chatbot d’OpenAI, ChatGPT.
OpenAI a étudié l’impact des différentes campagnes mentionnées par les comptes et a constaté que celles qui visaient à diffuser de faux récits dans les médias établis semblaient avoir atteint un public plus large que les campagnes axées sur l’utilisation de faux comptes de réseaux sociaux pour diffuser leur message.
Les opérations russes ciblaient des pays d’Amérique latine et semblaient viser à saper le soutien à l’Ukraine et à influencer la politique locale, a déclaré OpenAI. Les comptes semblaient utiliser principalement ChatGPT pour rédiger des rapports détaillant leur travail à des supérieurs non spécifiés, a déclaré OpenAI. La société a déclaré que l’un de ces rapports semblait décrire l’opération d’influence la plus vaste qu’OpenAI ait connue jusqu’à présent, car elle a conduit à une réponse publique de la part d’une personnalité politique.
Au cours de cette campagne, les agents russes ont déclaré s’être fait passer pour une autorité éducative régionale du Pérou et avoir trompé certaines écoles pour qu’elles organisent des activités sur l’Ukraine mettant en vedette Stepan Bandera. Bandera est une figure controversée, admirée par les nationalistes pour avoir mené la campagne en faveur de l’indépendance de l’Ukraine avant et pendant la Seconde Guerre mondiale. Il est vilipendé par d’autres, y compris en Pologne, parce que son mouvement s’est rangé du côté des nazis et a tué des Polonais et des Juifs. Le média péruvien Extra a rapporté qu’un de ces événements avait eu lieu dans une école péruvienne.
Un reportage polonais sur l’événement scolaire a incité un député polonais d’extrême droite au Parlement européen à suggérer d’interdire l’entrée aux personnes affirmant leur soutien à Bandera.
« Le faux russe s’est ainsi nourri des tensions historiques entre Ukrainiens et Polonais », écrit OpenAI dans son rapport.
« Les Russes s’engagent constamment dans ce genre de mesures actives », a déclaré Darren Linvill, codirecteur du Watt Family Innovation Center Media Forensics Hub de l’Université de Clemson, qui étudie les opérations d’influence en ligne. « Essayer de se lancer dans le blanchiment de récits, de créer de fausses histoires, de fausses personnalités pour créer ou diffuser une propagande qui s’aligne sur la vision du monde et l’agenda politique de la Russie. »
Les mémos internes russes créés avec ChatGPT affirmaient également que les agents dirigeaient un faux groupe de réflexion en Amérique latine et recrutaient des chercheurs à leur insu pour interviewer des experts et rédiger des rapports. OpenAI a déclaré que cet effort était similaire à une opération russe de 2020 se faisant passer pour un média d’information indépendant lié à l’agence de recherche Internet du regretté oligarque Yevgeny Prigozhin, qui a participé aux efforts visant à influencer les élections américaines de 2016.
Dans d’autres cas, a déclaré OpenAI, les agents russes se sont attribués le mérite d’événements dont ils n’étaient pas responsables. Les Russes ont effectivement utilisé l’IA pour générer du faux matériel, a déclaré OpenAI, mais cela ne représentait qu’une minorité de la charge de travail.
« Ces subalternes russes essayaient d’utiliser l’IA pour créer un raccourci et faire moins de travail de la même manière que beaucoup d’entre nous utilisent l’IA, mais dans ce cas, cela les a aidés à se faire prendre », a déclaré Linvill.
Alors que les agents russes utilisaient principalement l’IA pour informer leurs supérieurs, les agents iraniens utilisaient l’IA pour les aider à diffuser du contenu en persan et en anglais. La campagne s’est principalement concentrée sur la guerre entre les États-Unis et l’Iran et, dans une moindre mesure, sur la politique américaine. OpenAI a déclaré que l’activité de l’opération « semblait cohérente avec un acteur commercial menant une campagne d’influence pour compte d’autrui », mais qu’elle n’était pas en mesure d’identifier de qui il s’agissait.
Selon OpenAI, les comptes iraniens ont constitué sept faux auteurs pour présenter et peaufiner de longs articles aux petits médias du monde entier. Ils ont ainsi publié près de 100 articles.
Les faux auteurs ont publié des articles dans des médias tels que le site d’information progressiste américain Daily Kos et le Middle East Monitor basé au Royaume-Uni. Selon NBC News, le Middle East Monitor a publié au moins 21 articles rédigés par quatre faux auteurs. Le média, qui n’a pas répondu à une demande de commentaire, a depuis supprimé les pages de l’auteur.
« L’IA leur était précieuse, bien plus qu’un simple raccourci », a déclaré Linvill. « Cela les a aidés à créer un langage qui… semblait authentique au point où il était publié par des médias légitimes. Et je pense que c’est quelque chose avec lequel une opération iranienne comme celle-ci aurait eu beaucoup plus de difficultés il y a quelques années. »
