Google met en pause Gemini, son IA qui mélangeait l'histoire

Google a récemment décidé de mettre sur pause Gemini, son outil d'intelligence artificielle qui avait pour mission de nous faire réimaginer l'histoire. L'intention était noble : éviter les clichés liés au genre et à la couleur de peau. Pourtant, en voulant être plus inclusif, Gemini a fini par nous servir des images qui, disons-le franchement, n'ont aucun sens historique. Imaginez un peu : des soldats nazis afro-américains ou des femmes posant fièrement parmi les Pères fondateurs des États-Unis. Autant vous dire que ça a jeté un sacré froid.

Google, en voyant monter la tempête, a donc appuyé sur le bouton pause. Pour l'instant, fini de créer des personnages ou des gens sur Gemini, du moins jusqu'à ce qu'ils trouvent une solution pour nous revenir avec une version qui ne fera pas hurler les historiens.

L'affaire a fait grand bruit, surtout sur les réseaux sociaux. Des internautes américains, en tapant des recherches comme « soldats allemands en 1943 », se sont retrouvés avec des résultats pour le moins surprenants : des soldats nazis noirs. Et ce n'est pas tout : des Vikings loin d'être blonds ou blancs, des femmes parmi les pères fondateurs, alors que, rappelons-le, il a fallu attendre 1922 pour voir une femme blanche devenir sénatrice aux États-Unis.

Google a admis avoir "raté son coup"

Un de leurs anciens employés a même confié qu'il était quasi impossible de convaincre Gemini de l'existence des personnes blanches. Si on peut en rire, cette situation a aussi alimenté des théories du complot plutôt farfelues sur les réseaux.

Derrière tout ça, Google voulait bien faire. Ils voulaient que Gemini reflète la diversité de ses utilisateurs partout dans le monde, en ligne avec leurs principes sur l'IA. Mais voilà, vouloir éviter les stéréotypes, c'est bien ; les amplifier ou les inverser sans faire attention au contexte historique, c'est moins bien.

Depuis que des outils comme ChatGPT ou Dall-E ont pointé le bout de leur nez, générer du texte ou des images à partir de simples instructions est devenu un jeu d'enfant. Mais cette facilité soulève aussi des questions, surtout quand il s'agit de reproduire et d'amplifier les stéréotypes et les biais présents dans les données sur lesquelles ces IA sont entraînées. Google avait essayé de naviguer à contre-courant, mais s'est retrouvé à effacer certaines vérités historiques.

C'est une tuile pour Google, surtout en essayant de rattraper OpenAI, la boîte derrière ChatGPT et Dall-E. Et comme si le timing ne pouvait pas être pire, OpenAI vient tout juste de sortir Sora, leur tout dernier modèle capable de générer des vidéos. Google a donc du pain sur la planche pour revenir dans la course.

Source : Google