OpenAI commencera automatiquement à filigraner le texte généré avec ChatGPT dans l'Union européenne, a annoncé la société. Il offrira également la fonction de filigrane dans d'autres régions, mais il sera désactivé par défaut en dehors de l'UE. Le mouvement en Europe est motivé par la nécessité de se conformer à la loi de l'UE sur l'IA, qui a pris effet en août. Cela nécessite de marquer le contenu produit par les modèles d'IA d'une manière qu'un autre outil peut détecter. Malheureusement, il n'existe toujours pas de moyen complètement efficace et fiable de le faire at. Quelques normes existent déjà, comme SynthID et le projet C2PA, mais elles sont relativement faciles à contourner pour quiconque possède un savoir-faire de base. Il en va probablement de même pour le filigrane d'OpenAI. Sa méthode est propriétaire ; la société l'appelle textGrain et a publié un document technique expliquant son fonctionnement. Mais en général, cela fonctionne comme d'autres outils de tatouage LLM que nous avons vus dans le passé : il met des modèles dans les choix de mots qui ne sont pas clairs pour un lecteur humain, et qui ne signifient pas c changer la qualité générale de la sortie, mais que quelqu'un avec une clé peut utiliser un détecteur spécialisé pour trouver. OpenAI dit qu'il donnera accès au détecteur à un nombre limité de chercheurs et d'organisations, et fournira un processus de demande d'approbation pour d'autres à ajouter au fil du temps.Lire l'article complet Commentaires
Source : Ars Technica
Soyez le premier à commenter cet article.