OpenAI interdit les comptes russes et iraniens en raison de leurs efforts d’influence : NPR

OpenAI a déclaré jeudi dans un article de blog qu’elle avait interdit les comptes russes et iraniens qui utilisaient les outils d’intelligence artificielle de l’entreprise pour faciliter ses opérations d’influence dans plusieurs pays. Les agents ont déclaré qu’ils avaient réussi à faire reprendre leurs faux récits par les médias et, dans un cas, à provoquer une réponse d’un membre du Parlement européen, selon des rapports internes sur les opérations produites à l’aide du chatbot d’OpenAI, ChatGPT.

OpenAI a étudié l’impact des différentes campagnes mentionnées par les comptes et a constaté que celles qui visaient à diffuser de faux récits dans les médias établis semblaient avoir atteint un public plus large que les campagnes axées sur l’utilisation de faux comptes de réseaux sociaux pour diffuser leur message.

Les opérations russes ciblaient des pays d’Amérique latine et semblaient viser à saper le soutien à l’Ukraine et à influencer la politique locale, a déclaré OpenAI. Les comptes semblaient utiliser principalement ChatGPT pour rédiger des rapports détaillant leur travail à des supérieurs non spécifiés, a déclaré OpenAI. La société a déclaré que l’un de ces rapports semblait décrire l’opération d’influence la plus vaste qu’OpenAI ait connue jusqu’à présent, car elle a conduit à une réponse publique de la part d’une personnalité politique.

Au cours de cette campagne, les agents russes ont déclaré s’être fait passer pour une autorité éducative régionale du Pérou et avoir trompé certaines écoles pour qu’elles organisent des activités sur l’Ukraine mettant en vedette Stepan Bandera. Bandera est une figure controversée, admirée par les nationalistes pour avoir mené la campagne en faveur de l’indépendance de l’Ukraine avant et pendant la Seconde Guerre mondiale. Il est vilipendé par d’autres, y compris en Pologne, parce que son mouvement s’est rangé du côté des nazis et a tué des Polonais et des Juifs. Le média péruvien Extra a rapporté qu’un de ces événements avait eu lieu dans une école péruvienne.

Un reportage polonais sur l’événement scolaire a incité un député polonais d’extrême droite au Parlement européen à suggérer d’interdire l’entrée aux personnes affirmant leur soutien à Bandera.

« Le faux russe s’est ainsi nourri des tensions historiques entre Ukrainiens et Polonais », écrit OpenAI dans son rapport.

« Les Russes s’engagent constamment dans ce genre de mesures actives », a déclaré Darren Linvill, codirecteur du Watt Family Innovation Center Media Forensics Hub de l’Université de Clemson, qui étudie les opérations d’influence en ligne. « Essayer de se lancer dans le blanchiment de récits, de créer de fausses histoires, de fausses personnalités pour créer ou diffuser une propagande qui s’aligne sur la vision du monde et l’agenda politique de la Russie. »

Les mémos internes russes créés avec ChatGPT affirmaient également que les agents dirigeaient un faux groupe de réflexion en Amérique latine et recrutaient des chercheurs à leur insu pour interviewer des experts et rédiger des rapports. OpenAI a déclaré que cet effort était similaire à une opération russe de 2020 se faisant passer pour un média d’information indépendant lié à l’agence de recherche Internet du regretté oligarque Yevgeny Prigozhin, qui a participé aux efforts visant à influencer les élections américaines de 2016.