Erhalte die Top-Storys der Woche zu KI und KI-Kunst direkt in dein Postfach — kuratiert, kompakt, kostenlos.
Kostenlos. Jederzeit abbestellbar.
Wähle einen Companion und erfahre seine Meinung zu dieser Story
Die Transparenzpflichten des EU AI Act sind am 2. August in Kraft getreten und verpflichten Plattformen, KI-generierte Inhalte zu kennzeichnen und offenzulegen, wenn Nutzer mit einem Chatbot kommunizieren – die ersten verbindlichen Regeln dieser Art, die die KI-Branche in diesem Ausmaß treffen.
Von der EU entworfene Muster-KI-Inhaltskennzeichnungen, die die vorgeschriebenen Offenlegungsformate für synthetische Medien veranschaulichen.
Bild: The Verge / The Verge AI
Für KI-Kunstschaffende zeigt sich die praktische Reibung auf der Distributionsebene, nicht auf der Generierungsebene. Das Erstellen von Bildern mit einem Tool wie Charmloops Generator bleibt unverändert – die Pflichten treffen die Plattformen, auf denen diese Werke veröffentlicht oder geteilt werden. Doch jede für EU-Nutzer zugängliche Plattform, die Ihre Inhalte hostet, hat nun einen rechtlichen Anreiz, entweder ein eigenes Kennzeichnungssystem durchzusetzen oder diese Verantwortung auf die Hochladenden zu übertragen.
Laut The Verge richten sich die Regeln gezielt an Unternehmen, die KI-Systeme für EU-Nutzer bereitstellen – eine Definition, die weit genug gefasst ist, um soziale Plattformen, Stockbild-Seiten und Content-Marktplätze einzuschließen, die KI-generierte Werke verbreiten, selbst wenn diese Unternehmen ihren Sitz außerhalb Europas haben. Diese extraterritoriale Reichweite ist das Detail, das Ersteller am genauesten verfolgen sollten: Eine US-amerikanische Stockbild-Seite mit europäischen Kunden fällt in den Anwendungsbereich.
Deepfakes erhalten die strengste Behandlung. Realistische synthetische Darstellungen realer Personen – ob in Bildern, Videos oder Audioinhalten – müssen ausdrücklich als KI-generiert gekennzeichnet werden. Diese Bestimmung dürfte am stärksten verändern, wie KI-Portrait- und KI-Influencer-Inhalte zirkulieren, da Plattformen, die mit Bußgeldern rechnen müssen, schnell handeln werden, um nicht gekennzeichnete Uploads zu blockieren oder automatisch zu markieren.
Die praktische Reaktion der meisten Plattformen wird darin bestehen, auf technische Herkunftssignale – eingebettete Metadaten und Wasserzeichen – zu setzen, anstatt auf die Selbstoffenlegung der Ersteller zu vertrauen. Googles SynthID-Wasserzeichensystem und der Metadatenstandard der Coalition for Content Provenance and Authenticity (C2PA) sind die beiden führenden Ansätze, die bereits im Einsatz sind. Ersteller, die Werke mit Tools erstellen, die C2PA-Metadaten standardmäßig einbetten, werden feststellen, dass ihre Inhalte auf teilnehmenden Plattformen automatisch konform sind; wer Tools oder Workflows verwendet, die Metadaten entfernen, hat es schwerer.
Das schafft eine stille, aber reale Divergenz im Workflow-Wert. Generatoren, die Herkunftsdaten in jede Ausgabe einbetten – anstatt dies als optionale Exporteinstellung zu behandeln –, werden für alle, die in europäische Märkte distribuieren, deutlich nützlicher. Es lohnt sich zu prüfen, welche Modelle in einem bestimmten KI-Modellkatalog C2PA-Ausgabe nativ unterstützen, da diese Fähigkeit bald kommerziell relevant sein wird.
Die Offenlegungspflicht für Deepfakes hat zudem eine abschreckende Wirkung auf eine bestimmte Inhaltskategorie: KI-generierte Darstellungen, die ohne Zustimmung der betroffenen Person in Werbung, redaktionellen oder sozialen Inhalten verwendet werden. Plattformen, die bisher mehrdeutige synthetische Porträts tolerierten, haben nun regulatorische Rückendeckung – und einen Anreiz –, strengere Upload-Richtlinien durchzusetzen. Ersteller, die KI-Charakterarbeiten oder stilisierte Porträts fiktiver Personen erstellen, sind weitgehend nicht betroffen, aber wer mit fotorealistischen Darstellungen realer Personen arbeitet, muss seine Distributionspipeline jetzt prüfen.
Diese Transparenzpflichten sind die erste Tranche des AI Act, die in Kraft tritt. Die Bestimmungen für höhere Risiken – die etwa biometrische Systeme und KI in kritischer Infrastruktur abdecken – werden bis 2026 und 2027 schrittweise eingeführt. Doch die Inhaltskennzeichnungsregeln sind jetzt aktiv, und das Europäische KI-Büro, das die Durchsetzung überwacht, hat signalisiert, dass es auf Beschwerden reagieren und keine Schonfrist abwarten will.
Für Ersteller, die sich dafür interessieren, wie sich die KI-Erkennungstechnologie parallel zu diesen Regeln entwickelt, veranschaulicht Pangrams kürzlicher Launch eines KI-Bilderkennungsmodells genau die Art von Infrastruktur, die Plattformen einsetzen werden, um die Einhaltung zu automatisieren – und die zunehmend darüber entscheiden wird, ob KI-generierte Werke sichtbar gemacht oder unterdrückt werden.
