OpenAI déjoue une opération d'influence iranienne utilisant ChatGPT pour fabriquer des fausses nouvelles

Vendredi dernier, OpenAI a révélé avoir mis un terme à une campagne d'influence orchestrée par l'Iran qui utilisait ChatGPT pour créer de fausses nouvelles et des publications sur les réseaux sociaux ciblant les citoyens américains. L'entreprise a identifié et bloqué plusieurs comptes responsables de la création de contenu pour cinq sites web, prétendant être des médias d'actualités et diffusant des messages clivants sur des sujets comme la campagne présidentielle américaine, les droits LGBTQ+ et le conflit à Gaza.

Détails de l'opération "Storm-2035"

Cette opération, baptisée "Storm-2035", a été détectée dans le cadre d'une série de campagnes d'influence que Microsoft a reliées au gouvernement iranien la semaine dernière. Outre les articles, l'opération incluait des comptes sur la plateforme X et un sur Instagram, liés à cette campagne. Cependant, selon OpenAI, cette opération n'aurait pas rencontré un écho significatif : la majorité des publications sur les réseaux sociaux identifiées n'ont reçu que peu ou pas de réactions, de partages ou de commentaires.

Évaluation de la menace

Selon l'échelle de menace de l'Institution Brookings, l'opération a seulement atteint un niveau 2 sur une échelle de six, indiquant une activité sur plusieurs plateformes mais sans preuve que les contenus aient été largement repris ou partagés par de véritables personnes.

Stratégies de contenu et cibles

Les contenus fabriqués visaient à alimenter les tensions en créant des faux articles pour des médias de tendance conservatrice et progressiste. Par exemple, un article suggérait que Donald Trump était censuré sur les réseaux sociaux et se préparait à se proclamer roi des États-Unis. Un autre article dépeignait le choix de Kamala Harris de Tim Walz comme colistier comme un "choix calculé pour l'unité".

Autres sujets abordés

En plus des sujets politiques brûlants, l'opération a également touché à des thèmes comme la présence d'Israël aux Jeux Olympiques et, dans une moindre mesure, la politique vénézuélienne, les droits des communautés latino-américaines et l'indépendance écossaise. Pour donner une apparence plus authentique ou tenter de construire un public, l'opération incluait également des commentaires sur la mode et la beauté.

Impact limité et tentatives de piratage associées

Ben Nimmo, enquêteur pour OpenAI Intelligence and Investigations, a commenté à Bloomberg que l'opération avait tenté de jouer sur les deux tableaux mais n'avait semblé engager aucun des deux côtés. Cette révélation suit de près celle concernant des pirates iraniens qui ont ciblé les campagnes de Harris et de Trump plus tôt cette semaine, le FBI ayant rapporté que Roger Stone, un conseiller informel de Trump, avait été la cible d'emails de phishing.