Midjourney s'attaque aux fausses images électorales

Midjourney dit stop aux fausses images des politiques!

C'est David Holz, le grand manitou de la plateforme, qui a jeté cette bombe pendant un live sur Discord. Avec les élections présidentielles américaines qui approchent à grands pas, la pression monte autour de l'impact des fausses images ultra-réalistes créées par l'intelligence artificielle sur la désinformation.

L'année dernière, on a vu déferler une vague d'images de Joe Biden et Donald Trump tellement bien faites qu'on aurait dit des photos. Devant cette montée en puissance de la tech, David Holz réfléchit sérieusement à mettre le holà à la création d'images des candidats à la présidence.

Les pontes de l'IA sont sur le qui-vive

"Je kiffe faire des photos de Trump, je ne vais pas mentir. Le mec a un style unique. Mais bon, avec les élections qui arrivent, peut-être qu'on devrait lever le pied," a avoué Holz. Malgré des règles strictes déjà en place pour éviter les images fausses ou nuisibles, y'a toujours le risque que ces images finissent par influencer le vote. Holz a laissé entendre qu'une interdiction pourrait être mise en œuvre en douce.

Ce n'est pas juste Midjourney qui est sur ses gardes. Sam Altman d'OpenAI et Mustafa Suleyman d'Inflection AI sont aussi super préoccupés par l'influence des deepfakes et des IA sur les élections. D'ailleurs, cette semaine, c'est pas mal d'entreprises d'IA, dont Meta, Google et OpenAI, qui ont annoncé des mesures pour marquer les images IA d'un filigrane.

Un problème bien plus large

Ces initiatives sont cool pour gérer le court terme, mais ça règle pas le souci de fond de la désinformation politique. Le mois dernier, un deepfake audio de Biden a même circulé, disant aux gens de zapper les primaires démocrates. Ça montre bien qu'on a encore du boulot pour sécuriser les élections.

Source : Bloomberg