Maroc - INFORMATICIEN.BE - Actualités - 05/Aug 15:12

OpenAI sait si un texte a été généré par ChatGPT, mais il ne veut pas exposer ses utilisateurs

Selon ce qui a été rapporté par le Wall Street Journal , OpenAI a créé un système capable de créer un filigrane numérique pour distinguer le texte créé avec ChatGPT . Cependant, ce système ne serait pas encore commercialisé car l'entreprise ne serait pas convaincue de son utilité, d'autant qu'il pourrait réduire l'utilisation du chatbot et par conséquent les revenus de l'entreprise. D’un autre côté, ce filigrane permettrait aux gens de savoir facilement si le contenu a été créé à l’aide de l’intelligence artificielle ou non. Tout cela serait utile notamment dans certains domaines, comme les écoles. L'entreprise a admis au Wall Street Journal avoir travaillé sur la création de ce filigrane pour la reconnaissance de textes générés avec l'aide de l'IA. Pour entrer dans le détail, selon OpenAI cet outil permettrait la détection de texte généré par l'intelligence artificielle avec une efficacité de 99,9%. Par conséquent, cela fonctionnerait mieux même avec un texte qui a subi des modifications. Entre autres choses, il semblerait qu’il existe un moyen de contourner ce contrôle, c’est-à-dire en retraitant le même texte selon un modèle d’IA similaire. Cependant, comme déjà souligné au début, il semble que l'entreprise évalue encore la sortie de cet outil car elle craint qu'il puisse convaincre les utilisateurs de ne pas utiliser l'IA. Ceci est également confirmé par une enquête lancée par OpenAI elle-même, qui « certifie » que 30 % des utilisateurs auraient évité d'utiliser ChatGPT si ce système de reconnaissance était appliqué aux textes. Quoi qu'il en soit, sur son blog, OpenAI a parlé d'être aux « premiers stades » de l'exploration de l'intégration de métadonnées. Enfin, il a également ajouté qu’il est trop tôt pour comprendre avec certitude si cette technique fonctionne réellement ou si elle pourrait engendrer un risque de création de faux positifs. (Lire la suite)