Inspiré par cette histoire ? Transformez l’idée en votre propre création par IA en quelques secondes — gratuit pour commencer, sans carte bancaire.
Le nouveau système Content Seal de Meta peut détecter les images générées par IA sur Facebook et Instagram — mais uniquement si ces images ont été créées avec le propre modèle Muse de Meta, laissant pratiquement tout le reste indétecté.
L'Oversight Board avait demandé à Meta en mars de « tenir ses engagements publics et d'utiliser ses propres outils » pour réduire la propagation de contenus IA génératifs trompeurs. La réponse de Meta en juillet — Content Seal — est techniquement fonctionnelle mais opérationnellement limitée. L'outil de détection affiche un signal clair lorsqu'il trouve une image générée par Muse, incluant des métadonnées sur le modèle et la date de génération.
Les informations affichées lorsque l'outil Content Seal de Meta identifie avec succès une image créée avec son propre modèle Muse.
Image : The Verge / The Verge AI
Pour les créateurs d'art IA, l'écart pratique est flagrant. La grande majorité des images IA circulant sur Facebook et Instagram n'ont pas été créées avec Muse — elles proviennent de Midjourney, DALL-E 3, Flux ou de variantes de Stable Diffusion. Content Seal ne peut en détecter aucune. Selon The Verge, SynthID de Google prend déjà en charge un plus large éventail de générateurs et représente l'approche de détection multiplateforme la plus crédible.
L'outil de Meta affiche ce message lorsqu'aucun marqueur Content Seal n'est trouvé — mais l'absence de marqueur ne confirme pas qu'une image est authentique.
Image : The Verge / The Verge AI
SynthID, la norme de filigranage de Google, a été conçue dès le départ pour fonctionner avec plusieurs générateurs — y compris des modèles tiers qui choisissent d'y adhérer. Cette architecture signifie qu'un seul détecteur peut couvrir une part significative des contenus générés par IA. Content Seal, par conception ou par limitation, n'en couvre exactement qu'un : Muse. Pour les créateurs soucieux de la provenance — qu'ils souhaitent que leur propre travail soit correctement attribué ou qu'ils veuillent savoir si une image de référence trouvée en ligne est générée par IA — cette distinction est d'une importance capitale.
L'outil ne résiste pas non plus aux traitements post-production de base. Une compression importante, un recadrage ou un étalonnage des couleurs peuvent effacer ou corrompre les filigranes invisibles. Meta n'a pas publié de détails sur la robustesse de Content Seal face à ces transformations, pourtant courantes lors du partage sur les réseaux sociaux.
Si vous générez des images avec des outils comme Flux ou Midjourney et les publiez sur Instagram, Content Seal ne les étiquettera pas comme générées par IA — même si vous le souhaitez. Cela joue dans les deux sens : les créateurs qui veulent que leur travail IA soit clairement signalé n'obtiennent aucune aide de ce système, et les acteurs malveillants utilisant n'importe quel générateur non-Meta ne rencontrent aucun obstacle.
Le générateur d'images Charmloop et la plupart des outils tiers se trouvent également en dehors du périmètre de Content Seal. Pour les créateurs qui naviguent entre questions d'attribution et d'authenticité, la pratique la plus utile en ce moment est de divulguer manuellement la génération IA dans les légendes et les métadonnées — car aucun système de détection côté plateforme ne couvre actuellement l'ensemble des outils en usage actif.
Le catalogue de modèles IA de Meta inclut Muse aux côtés de ses autres outils génératifs, mais le détecteur de Content Seal n'est utile qu'à la mesure de l'écosystème qu'il couvre. Tant que Meta ne concède pas de licence pour SynthID, ne noue pas de partenariats multi-modèles ou n'ouvre pas sa norme de filigranage aux tiers, Content Seal fonctionne davantage comme une couche de protection de marque pour Muse que comme une solution réelle à la tromperie par contenus IA à grande échelle.
L'Oversight Board n'a pas encore répondu publiquement au déploiement de juillet — et compte tenu de la façon dont Content Seal répond de manière si étroite au mandat initial, cette réponse pourrait être cinglante lorsqu'elle arrivera.
