Les ratés de l'IA de Meta dans la représentation des couples mixtes

Ah, l'IA... C'est fantastique, non ? Capable de composer de la musique, de générer des œuvres d'art et même de rédiger des textes. Mais parfois, elle nous montre aussi ses limites et ses petits travers, surtout quand il s'agit de représenter la diversité de notre monde. Un cas d'école ? L'outil de génération d'images de Meta qui semble avoir un petit souci avec les couples de différentes races.

D'après ce que rapporte The Verge, quand on demande à cette IA de nous dessiner un tableau avec, mettons, un homme asiatique et sa copine caucasienne, ou bien un homme asiatique avec sa femme blanche, l'outil fait un peu... comme il veut. Plutôt que de suivre les instructions à la lettre, il préfère nous sortir des images de couples de la même race. Curieux, vous ne trouvez pas ?

Geekit, de son côté, a aussi joué les apprentis sorciers avec l'outil de Meta. Leur verdict ? Même constat. Que ce soit pour illustrer un homme asiatique avec une amie blanche ou avec sa conjointe blanche, l'IA semble être dans son monde, produisant des images de couples asiatiques. Et quand on lui demande un groupe de personnes diversifié, elle nous présente un petit monde bien monotone : neuf visages blancs sur dix. De temps en temps, elle arrive par miracle à coller à la demande, mais c'est plutôt l'exception que la règle.

The Verge souligne également d'autres signes de biais un peu plus subtils chez cette IA. Par exemple, elle a tendance à vieillir les hommes asiatiques tout en rajeunissant les femmes asiatiques. Et parfois, elle ajoute à ses créations des tenues culturellement spécifiques, même si on ne lui a rien demandé de tel.

Pourquoi donc cette IA s'emmêle-t-elle les pinceaux avec ces demandes ? La question reste ouverte. Et ce n'est pas la première fois qu'une plateforme d'IA générative est épinglée pour sa façon de traiter les questions de race. Google, avec son générateur d'images Gemini, a même mis sur pause sa capacité à créer des images de personnes après avoir eu des résultats pour le moins étranges en essayant de trop bien faire en matière de diversité.

Meta, de son côté, n'a pas encore réagi officiellement. La firme a déjà qualifié son IA de "beta", sous-entendant qu'elle peut encore faire des erreurs. Outre ce souci de représentation des couples mixtes, Meta AI a aussi du mal à répondre correctement à des questions simples sur l'actualité ou les personnalités publiques. Comme quoi, même les géants de la tech ont encore pas mal de boulot pour que leurs IA nous comprennent vraiment.