OpenAI envisage la création de contenu adulte par IA

OpenAI, la société derrière des innovations comme ChatGPT et Dall-E, s'interroge actuellement sur la manière de générer du contenu pour adultes via ses outils, sans causer de préjudices. Trouver un équilibre ici s'annonce compliqué.

L'intelligence artificielle générative est sans doute la percée technologique majeure des dernières années. Mais avec sa puissance viennent aussi des risques, comme la création de deepfakes pornographiques, un problème auquel les géants technologiques tentent de s'attaquer. Cependant, si la production de contenu pornographique consensuel est acceptée dans le monde réel, pourquoi ne serait-ce pas le cas avec l'IA ? C'est la question délicate sur laquelle OpenAI se penche.

Récemment, le magazine Wired a mis la main sur un document fascinant d'OpenAI, le "Mode Spec", qui détaille les comportements attendus de ses modèles d'IA, y compris dans le domaine de la pornographie. Le document indique : "Nous étudions actuellement la possibilité de fournir de manière responsable la possibilité de générer du contenu NSFW dans des contextes adaptés à l'âge." NSFW, pour "not safe for work", couvre tout contenu explicite, y compris l'érotisme et d'autres formes extrêmes de contenu.

Mais alors, est-il envisageable de simplement interdire toute production de contenu explicite par les IA ? Si OpenAI ne donne pas de directives claires sur comment cela pourrait être implémenté, le document suggère qu'une interdiction totale n'est pas une fatalité.

Cela semble logique, surtout quand on considère que d'autres, moins scrutés que les géants comme OpenAI, produisent déjà ce genre de contenu. Ne serait-il pas préférable que des acteurs responsables, qui peuvent être tenus de rendre des comptes, prennent en charge cette fonction plutôt que de la laisser à une multitude d'acteurs numériques moins régulés ?

Source : Wired