Die Transparenzpflichten des EU AI Act sind am 2. August in Kraft getreten und verpflichten Plattformen, KI-generierte Inhalte zu kennzeichnen und offenzulegen, wenn Nutzer mit einem Chatbot kommunizieren – die ersten verbindlichen Regeln dieser Art, die die KI-Branche in diesem Ausmaß treffen.
Die wichtigsten Punkte
Die Transparenzregeln des EU AI Act traten am 2. August 2025 in Kraft und gelten für jedes KI-System, das EU-Nutzern bereitgestellt wird, unabhängig vom Unternehmenssitz.
Unternehmen müssen künftig offenlegen, wenn Nutzer mit KI-Chatbots interagieren, und KI-generierte Bilder, Videos, Audioinhalte sowie Texte klar als synthetisch kennzeichnen.
Deepfake-Inhalte – realistische, KI-generierte Darstellungen realer Personen – müssen nach den neuen Regeln ausdrücklich offengelegt werden.
Verstöße können Bußgelder im Rahmen des übergeordneten Durchsetzungsrahmens des AI Act auslösen, die sich am Unternehmensumsatz orientieren.
Die Regeln gelten für Plattformen, die KI-generierte Inhalte hosten oder verbreiten, nicht nur für die Entwickler der Modelle.
Von der EU entworfene Muster-KI-Inhaltskennzeichnungen, die die vorgeschriebenen Offenlegungsformate für synthetische Medien veranschaulichen.
Für KI-Kunstschaffende zeigt sich die praktische Reibung auf der Distributionsebene, nicht auf der Generierungsebene. Das Erstellen von Bildern mit einem Tool wie Charmloops Generator bleibt unverändert – die Pflichten treffen die Plattformen, auf denen diese Werke veröffentlicht oder geteilt werden. Doch jede für EU-Nutzer zugängliche Plattform, die Ihre Inhalte hostet, hat nun einen rechtlichen Anreiz, entweder ein eigenes Kennzeichnungssystem durchzusetzen oder diese Verantwortung auf die Hochladenden zu übertragen.
Der Geltungsbereich: Plattformen, nicht nur Modellentwickler
Laut The Verge richten sich die Regeln gezielt an Unternehmen, die KI-Systeme für EU-Nutzer bereitstellen – eine Definition, die weit genug gefasst ist, um soziale Plattformen, Stockbild-Seiten und Content-Marktplätze einzuschließen, die KI-generierte Werke verbreiten, selbst wenn diese Unternehmen ihren Sitz außerhalb Europas haben. Diese extraterritoriale Reichweite ist das Detail, das Ersteller am genauesten verfolgen sollten: Eine US-amerikanische Stockbild-Seite mit europäischen Kunden fällt in den Anwendungsbereich.
Deepfakes erhalten die strengste Behandlung. Realistische synthetische Darstellungen realer Personen – ob in Bildern, Videos oder Audioinhalten – müssen ausdrücklich als KI-generiert gekennzeichnet werden. Diese Bestimmung dürfte am stärksten verändern, wie KI-Portrait- und KI-Influencer-Inhalte zirkulieren, da Plattformen, die mit Bußgeldern rechnen müssen, schnell handeln werden, um nicht gekennzeichnete Uploads zu blockieren oder automatisch zu markieren.
Metadaten und Wasserzeichen werden zur Grundvoraussetzung
Die praktische Reaktion der meisten Plattformen wird darin bestehen, auf technische Herkunftssignale – eingebettete Metadaten und Wasserzeichen – zu setzen, anstatt auf die Selbstoffenlegung der Ersteller zu vertrauen. Googles SynthID-Wasserzeichensystem und der Metadatenstandard der Coalition for Content Provenance and Authenticity (C2PA) sind die beiden führenden Ansätze, die bereits im Einsatz sind. Ersteller, die Werke mit Tools erstellen, die C2PA-Metadaten standardmäßig einbetten, werden feststellen, dass ihre Inhalte auf teilnehmenden Plattformen automatisch konform sind; wer Tools oder Workflows verwendet, die Metadaten entfernen, hat es schwerer.
Das schafft eine stille, aber reale Divergenz im Workflow-Wert. Generatoren, die Herkunftsdaten in jede Ausgabe einbetten – anstatt dies als optionale Exporteinstellung zu behandeln –, werden für alle, die in europäische Märkte distribuieren, deutlich nützlicher. Es lohnt sich zu prüfen, welche Modelle in einem bestimmten KI-Modellkatalog C2PA-Ausgabe nativ unterstützen, da diese Fähigkeit bald kommerziell relevant sein wird.
Die Offenlegungspflicht für Deepfakes hat zudem eine abschreckende Wirkung auf eine bestimmte Inhaltskategorie: KI-generierte Darstellungen, die ohne Zustimmung der betroffenen Person in Werbung, redaktionellen oder sozialen Inhalten verwendet werden. Plattformen, die bisher mehrdeutige synthetische Porträts tolerierten, haben nun regulatorische Rückendeckung – und einen Anreiz –, strengere Upload-Richtlinien durchzusetzen. Ersteller, die KI-Charakterarbeiten oder stilisierte Porträts fiktiver Personen erstellen, sind weitgehend nicht betroffen, aber wer mit fotorealistischen Darstellungen realer Personen arbeitet, muss seine Distributionspipeline jetzt prüfen.
Durchsetzungszeitplan und Ausblick
Diese Transparenzpflichten sind die erste Tranche des AI Act, die in Kraft tritt. Die Bestimmungen für höhere Risiken – die etwa biometrische Systeme und KI in kritischer Infrastruktur abdecken – werden bis 2026 und 2027 schrittweise eingeführt. Doch die Inhaltskennzeichnungsregeln sind jetzt aktiv, und das Europäische KI-Büro, das die Durchsetzung überwacht, hat signalisiert, dass es auf Beschwerden reagieren und keine Schonfrist abwarten will.
Für Ersteller, die sich dafür interessieren, wie sich die KI-Erkennungstechnologie parallel zu diesen Regeln entwickelt, veranschaulicht Pangrams kürzlicher Launch eines KI-Bilderkennungsmodells genau die Art von Infrastruktur, die Plattformen einsetzen werden, um die Einhaltung zu automatisieren – und die zunehmend darüber entscheiden wird, ob KI-generierte Werke sichtbar gemacht oder unterdrückt werden.
