OpenAI restreint l'accès à l'analyse de ChatGPT pour protéger ses secrets

OpenAI vient de mettre en place des restrictions concernant l'accès à certains détails de son tout dernier modèle d'intelligence artificielle, surnommé o1. En effet, cette nouvelle version se caractérise par sa capacité à prendre son temps pour "réfléchir" avant de répondre, ce qui représente une avancée majeure par rapport à ses prédécesseurs. Cependant, la firme californienne ne voit pas d'un bon œil les curiosités poussées vers les mécanismes internes de cette technologie.

La semaine dernière, OpenAI a dévoilé ce modèle, qui brille par son approche réfléchie, conçue pour gérer des tâches complexes telles que des problématiques scientifiques ou mathématiques. Des utilisateurs, curieux de comprendre en profondeur le fonctionnement d'o1, ont rapidement tenté de dénicher les détails du processus interne de l'IA, sans grand succès. L'interface de ChatGPT, notamment les versions "o1-preview" et "o1-mini", garde jalousement ses secrets, offrant uniquement un résumé simplifié des réflexions de l'IA.

Lorsqu'on pose une question au chatbot, une section nommée "réflexion" apparaît, montrant le temps de réflexion de l'IA mais sans divulguer les détails complets. OpenAI affiche uniquement une version filtrée de ce processus, privant ainsi les utilisateurs de l'accès aux données brutes. L'IA elle-même est programmée pour refuser de divulguer ses pensées les plus profondes, expliquant que ces informations sont complexes et mal adaptées à une interprétation hors contexte.

Cette démarche de confidentialité est justifiée par la nécessité de maintenir un avantage concurrentiel et de surveiller de près les pensées de ses modèles IA. En masquant ces informations, OpenAI peut observer sans altération le raisonnement interne de ses créations, crucial pour repérer d'éventuels comportements inattendus ou des tentatives de manipulation.

Cependant, cette restriction n'a pas découragé certains téméraires. Ils ont utilisé des techniques comme les attaques de prompt injection pour essayer de contourner les protections mises en place et accéder aux pensées brutes de l'IA. Ces actions ont suscité une vive réaction d'OpenAI, qui a menacé de bannir les utilisateurs impliqués, soulignant que de telles pratiques violent les termes d'utilisation et pourraient aboutir à la suspension de l'accès aux futures versions de ChatGPT.

Ces mesures, toutefois, ont provoqué une vague de mécontentement parmi les chercheurs, notamment dans le domaine de la cybersécurité, qui estiment que l'approche d'OpenAI entrave leurs recherches sur les vulnérabilités potentielles de l'IA. La situation reste tendue, et la communauté attend de voir comment OpenAI gérera ce dilemme entre protection de la propriété intellectuelle et collaboration avec la communauté scientifique.