Ein KI-generiertes Bild der Schauspielerin Mia Goth verbreitete sich auf Instagram über ein Konto mit einem blauen verifizierten Häkchen – einem gefälschten –, bevor die Plattform es entfernte. Ihre Vertreter bezeichneten den Vorfall als „unbegreiflich".\n\n## Die wichtigsten Erkenntnisse\n\n- Ein Instagram-Konto namens miagoth_ – nicht Goths echtes Konto – trug ein blaues verifiziertes Abzeichen und veröffentlichte ein KI-generiertes Bild der Schauspielerin in einem provokanten Slogan-T-Shirt, zeitlich abgestimmt auf ihre tatsächlich eingereichte Scheidung.\n- Goths Vertreter teilten The Verge mit, das Bild sei gefälscht, und bezeichneten Instagrams Versagen, es zu erkennen, als „unbegreiflich".\n- Der Realismus des Bildes und das Vorhandensein eines verifizierten Abzeichens waren die beiden Faktoren, die seine virale Verbreitung antrieben – eine Kombination, die jeden Kreativen beunruhigen sollte, der mit KI-Abbildern von Personen arbeitet.\n- Instagrams Verifizierungssystem, das über Meta Verified-Abonnements verkauft wird, bestätigt nicht zuverlässig, dass ein Konto der Person gehört, die es vorgibt darzustellen.\n- Es gibt derzeit keine plattformseitig durchgesetzte Pflicht zur Kennzeichnung von KI-Inhalten auf Instagram, die dieses Bild beim Hochladen markiert hätte.\n\n\n\n## Wie ein gefälschtes verifiziertes Abzeichen einen Deepfake zur Nachrichtenmeldung machte\n\nDie Mechanik dahinter ist es wert, genau verstanden zu werden. Anfang dieses Monats reichte Mia Goth die Scheidung von Shia LaBeouf ein – eine echte, weithin berichtete Geschichte. Das Konto miagoth_ veröffentlichte daraufhin ein KI-generiertes Foto von Goth in einem T-Shirt mit der Aufschrift „MY EX IS MY BIGGEST FAN" in fetten schwarzen Buchstaben. Das blaue Häkchen verlieh dem Beitrag sofortige Glaubwürdigkeit. Flüchtige Nutzer und sogar einige Journalisten behandelten es als echt. Laut The Verge beschrieben ihre Vertreter die Situation als unbegreiflich, da Instagram zuließ, dass sie sich verbreitete.\n\nDas verifizierte Abzeichen ist der Kern des Problems. Meta Verified – Instagrams kostenpflichtige Verifizierungsstufe – gewährt das Häkchen Abonnenten, die einen Lichtbildausweis einreichen, verifiziert die Identität jedoch gegenüber dem Einreicher, nicht gegenüber dem Namen oder dem Abbild, das das Konto anzeigt. Ein böswilliger Akteur kann das Abonnement bezahlen, sich als er selbst verifizieren und dann ein Konto betreiben, das jemand anderen imitiert. Das Abzeichen, das Nutzer als „das ist wirklich sie" lesen, bedeutet tatsächlich etwas weit Engeres.\n\n## Das Realismusproblem ist nun eine Verantwortung der Kreativen\n\nFür alle, die KI-Bilder von echten Personen erstellen – redaktionelle Illustrationen, Fan-Art, satirische Collagen – zieht dieser Vorfall eine scharfe Linie zwischen dem technisch Möglichen und dem rechtlich und ethisch Vertretbaren. Das Bild von Goth ist Berichten zufolge überzeugend genug, dass es als echt kursierte. Dieses Maß an Fotorealismus ist mittlerweile mit handelsüblichen Bildgeneratoren erreichbar – genau die Fähigkeit, die Kontext und Kennzeichnung zur Pflicht macht.\n\nWer ein realistisches Bild einer echten Person für irgendeinen Zweck erstellt, findet im aktuellen Plattformumfeld kaum ein Sicherheitsnetz. Instagram hat keine verbindliche KI-Offenlegungspflicht beim Hochladen. Googles SynthID-Detektor kann KI-Wasserzeichen bestimmter Generatoren erkennen, aber nur, wenn das Bild bei der Erstellung mit einem Wasserzeichen versehen wurde – und die meisten Workflows erzwingen das nicht standardmäßig. Unsere frühere Berichterstattung über Googles SynthID-Detektor-Website stellte fest, dass er nun Wasserzeichen mehrerer Anbieter lesen kann, die Übernahme auf Seiten der Kreativen jedoch freiwillig und inkonsistent bleibt.\n\nDas praktische Fazit: Wer in seinem Workflow fotorealistische Bilder namentlich genannter Personen erstellt – selbst für eindeutig satirische Zwecke –, sollte diese Bilder explizit in der Bildunterschrift und im Alt-Text kennzeichnen und sich nicht darauf verlassen, dass eine Plattform das übernimmt. Das ist eine Gewohnheit auf Prompt- und Export-Ebene, kein Plattform-Feature.\n\n## Was die Lücke in der Plattformverantwortung jetzt bedeutet\n\nDer Goth-Vorfall ist ein Stresstest, den Instagram sichtbar nicht bestanden hat. Die Kombination aus einem überzeugenden KI-Bild, einem verifizierten Abzeichen und einem aktuellen realen Nachrichtenhaken ist kein seltener Einzelfall – es ist eine wiederholbare Formel. Da die Qualität von KI-Bildern weiter zunimmt, schrumpft die visuelle Lücke zwischen einem generierten Foto und einem echten für die meisten Betrachter gegen null.\n\nDas ist auch für legitime Kreative relevant. Der Gegenwind aus solchen Vorfällen tendiert dazu, stumpfe Plattformrichtlinien hervorzubringen: umfassendere Verbote KI-generierter Abbilder, strengere Upload-Filter oder verbindliche Wasserzeichenpflichten, die jeden Kreativen unabhängig von seiner Absicht betreffen. Der anhaltende Stillstand im Kongress bei KI-Urheber- und Datenschutzregeln bedeutet, dass die Durchsetzung auf Plattformebene – wie inkonsistent auch immer – auf absehbare Zeit die primäre Kontrollinstanz bleiben dürfte.\n\nWer KI-Bildgenerierung erkundet und verstehen möchte, wo die aktuellen Tools in Sachen Realismus und Kennzeichnung stehen, findet im Charmloop-Modellkatalog dokumentiert, welche Generatoren standardmäßig Wasserzeichen anwenden und welche nicht – eine Unterscheidung, die von Woche zu Woche weniger akademisch wird.
