Récemment, OpenAI s'est retrouvé au cœur d'un débat interne concernant une technologie de filigrane. Selon le Wall Street Journal, la société a déjà développé une technologie de filigrane pour identifier les textes générés par ChatGPT, et a même préparé un outil de détection. Cependant, son lancement sur le marché fait l'objet de désaccords internes.
D'un certain point de vue, le lancement d'une technologie de filigrane semble être une démarche responsable. Cette technologie permet de créer un motif détectable en ajustant les mots et les phrases prédits par le modèle. Bien que cela puisse paraître complexe, son objectif est clair : aider les enseignants à empêcher les élèves de plagier en utilisant des devoirs générés par l'IA. Le rapport indique que ce filigrane n'affecte pas la qualité du texte du chatbot. De plus, une enquête menée par OpenAI a révélé que, dans le monde entier, le nombre de personnes soutenant les outils de détection de l'IA est quatre fois supérieur à celui des opposants.
Cependant, la mise en œuvre de la technologie de filigrane n'est pas aussi simple. La mise à jour du blog d'OpenAI confirme que la société a développé une technologie de filigrane et indique que la précision de cette méthode est très élevée, affirmant atteindre une efficacité de « 99,9 % ». De plus, ce filigrane présente une certaine résistance à la « falsification », comme de simples réécritures. Toutefois, OpenAI souligne également que l'utilisation d'autres modèles pour la réécriture permet de contourner facilement ce filigrane, ce qui les inquiète.
En outre, OpenAI a également pris en compte le fait que le filigrane pourrait donner l'impression à certains utilisateurs d'être stigmatisés, notamment les non-natifs. Par conséquent, même si certains employés considèrent le filigrane comme efficace, l'enquête montre que près de 30 % des utilisateurs de ChatGPT ont déclaré qu'ils pourraient réduire leur utilisation si un filigrane était mis en place. Par conséquent, certains employés suggèrent d'explorer des méthodes « moins controversées », même si leur efficacité n'a pas encore été prouvée.
Dans la mise à jour du blog d'aujourd'hui, OpenAI mentionne qu'il explore des méthodes d'intégration de métadonnées « en phase initiale » et indique qu'il est encore trop tôt pour juger de leur efficacité. Cependant, ils soulignent que, étant donné que ces métadonnées sont signées par cryptage, il est possible d'éviter les erreurs de jugement.
Points clés :
✅ OpenAI est divisé sur le lancement de la technologie de filigrane, son déploiement est encore en discussion.
📊 Une enquête montre que la majorité des personnes dans le monde soutiennent les outils de détection de l'IA, mais les utilisateurs craignent que le filigrane n'affecte leur utilisation.
🔒 OpenAI envisage d'adopter une méthode d'intégration de métadonnées, afin de trouver un équilibre entre la technologie et l'expérience utilisateur.
