Choisissez un compagnon et découvrez son avis sur cette histoire
Articles similaires
Une image générée par IA de l'actrice Mia Goth s'est répandue sur Instagram depuis un compte portant une coche bleue de vérification — un faux — avant que la plateforme ne la supprime, ses représentants qualifiant l'incident d'« incompréhensible ».
Points clés
Un compte Instagram nommé miagoth_ — pas le vrai compte de Goth — portait un badge bleu vérifié et a publié une image générée par IA de l'actrice portant un T-shirt au slogan provocateur, programmée pour coïncider avec sa demande de divorce dans la vraie vie.
Les représentants de Goth ont déclaré à The Verge que l'image était fabriquée et ont décrit l'échec d'Instagram à la détecter comme « incompréhensible ».
Le réalisme de l'image et la présence d'un badge vérifié étaient les deux facteurs qui ont provoqué sa propagation virale — une combinaison qui devrait préoccuper tout créateur travaillant avec des ressemblances IA.
Le système de vérification d'Instagram, vendu via les abonnements Meta Verified, ne confirme pas de manière fiable qu'un compte appartient à la personne qu'il prétend représenter.
Il n'existe actuellement aucune exigence d'étiquetage de contenu IA appliquée par la plateforme sur Instagram qui aurait signalé cette image au moment du téléchargement.
L'image générée par IA qui s'est répandue depuis le faux compte Instagram vérifié miagoth_, programmée pour coïncider avec les vraies nouvelles de divorce de Goth.
Comment un faux badge vérifié a transformé un deepfake en actualité
Les mécanismes ici valent la peine d'être compris précisément. Plus tôt ce mois-ci, Mia Goth a demandé le divorce de Shia LaBeouf — une vraie histoire largement couverte. Le compte miagoth_ a ensuite publié une photo générée par IA de Goth dans un T-shirt portant l'inscription « MY EX IS MY BIGGEST FAN » en lettres noires audacieuses. La coche bleue a donné une crédibilité instantanée au post. Les utilisateurs occasionnels, et même certains journalistes, l'ont traité comme réel. Selon The Verge, ses représentants ont décrit la situation comme incompréhensible étant donné qu'Instagram a permis sa propagation.
Le badge vérifié est le point crucial. Meta Verified — le niveau de vérification payant d'Instagram — accorde la coche aux abonnés qui soumettent une pièce d'identité gouvernementale, mais il vérifie l'identité par rapport au soumissionnaire, pas par rapport au nom ou à la ressemblance que le compte affiche. Un acteur malveillant peut payer l'abonnement, se vérifier en tant que lui-même, puis exploiter un compte en se faisant passer pour quelqu'un d'autre. Le badge que les utilisateurs lisent comme « c'est vraiment elle » signifie en réalité quelque chose de beaucoup plus restreint.
Le problème du réalisme est maintenant une responsabilité de créateur
Pour quiconque génère des images IA de vraies personnes — illustrations éditoriales, fan art, composites satiriques — cet incident trace une ligne nette entre ce qui est techniquement possible et ce qui est légalement et éthiquement défendable. L'image de Goth est apparemment assez convaincante pour avoir circulé comme authentique. Ce niveau de photoréalisme est maintenant réalisable avec des générateurs d'images grand public, ce qui est exactement la capacité qui rend le contexte et l'étiquetage non optionnels.
Si vous générez une image réaliste d'une vraie personne à quelque fin que ce soit, l'environnement actuel des plateformes n'offre presque aucun filet de sécurité. Instagram n'a aucune exigence obligatoire de divulgation IA au téléchargement. Le détecteur SynthID de Google peut identifier les filigranes IA de certains générateurs, mais seulement si l'image a été filigranée à la création — et la plupart des flux de travail ne l'appliquent pas par défaut. Notre couverture précédente du site détecteur SynthID de Google notait qu'il peut maintenant lire les filigranes de plusieurs fournisseurs, mais l'adoption du côté créateur reste volontaire et incohérente.
Le résultat pratique : si votre flux de travail implique de générer des images photoréalistes d'individus nommés — même à des fins clairement satiriques — vous devriez étiqueter ces images explicitement dans la légende et le texte alternatif, sans compter sur une plateforme pour le faire à votre place. C'est une habitude au niveau de l'invite et de l'exportation, pas une fonctionnalité de plateforme.
Ce que signifie actuellement le fossé de responsabilité des plateformes
L'incident Goth est un test de stress qu'Instagram a visiblement échoué. La combinaison d'une image IA convaincante, d'un badge vérifié et d'un accroche d'actualité opportune n'est pas un cas limite rare — c'est une formule reproductible. Alors que la qualité des images IA continue de s'améliorer, l'écart visuel entre une photo générée et une vraie se réduit vers zéro pour la plupart des spectateurs.
Cela importe aussi pour les créateurs légitimes. Le contrecoup d'incidents comme celui-ci tend à produire des politiques de plateforme brutales : des interdictions plus larges sur les ressemblances générées par IA, des filtres de téléchargement plus stricts, ou des exigences de filigrane obligatoires qui affectent chaque créateur indépendamment de l'intention. Le blocage congressionnel en cours sur les règles de droits d'auteur et de confidentialité IA signifie que l'application au niveau des plateformes — aussi incohérente soit-elle — restera probablement le contrôle principal dans un avenir prévisible.
Si vous explorez la génération d'images IA et voulez comprendre où en sont les outils actuels sur le réalisme et l'étiquetage, le catalogue de modèles Charmloop documente quels générateurs appliquent le filigrane par défaut et lesquels ne le font pas — une distinction qui devient moins académique de semaine en semaine.
