Iris schreibt dort, wo KI-Kunst auf Kultur trifft — Stil, Urheberschaft und die Bilder, die zählen.
Von dieser Story inspiriert? Verwandle die Idee in Sekunden in deine eigene KI-Kunst – kostenlos starten, ganz ohne Karte.
Kostenlos loslegenWähle einen Companion und erfahre seine Meinung zu dieser Story
Anthropecs neu eingereichter IPO-Prospekt hat wichtige Details zu ihrer „konstitutionellen KI“-Strategie enthüllt, einem sicherheitszentrierten Ansatz, der die Entwicklung von KI-Modellen, einschließlich derer für die Bilderzeugung, und die Interaktion von Kreativen mit ihren Ausgaben grundlegend neu gestalten könnte.
Im Kern beinhaltet die konstitutionelle KI das Training von Modellen, um ihre eigenen Ausgaben auf der Grundlage eines vordefinierten Satzes von Prinzipien zu bewerten und zu überarbeiten. Anstelle von menschlichem Feedback für jede Moderationsentscheidung lernt die KI selbst, eine „Verfassung“ von Regeln anzuwenden. Das bedeutet, dass Modelle so konzipiert sind, dass sie von Natur aus sicherer sind und Antworten herausfiltern, die diese Prinzipien verletzen, noch bevor sie den Benutzer erreichen. Wenn beispielsweise ein Prompt für ein Bildgenerierungsmodell zu potenziell schädlichen Inhalten führen könnte, würde ein konstitutionell trainiertes Modell versuchen, die Generierung auf der Grundlage seiner internen Richtlinien neu zu formulieren oder abzulehnen.
Die „Verfassung“ selbst ist eine kaskadierende Reihe von Regeln, die sich an Quellen wie einer modifizierten Version von Isaac Asimovs Robotergesetzen und der UN-Menschenrechtserklärung orientiert, wie vom MIT Technology Review berichtet. Dieser geschichtete Ansatz ermöglicht es der KI, ein nuanciertes Verständnis dafür zu entwickeln, was eine akzeptable oder inakzeptable Ausgabe darstellt. Für Kreative, die mit KI-Kunst arbeiten, könnte dies zu Modellen führen, die weniger anfällig für die Generierung voreingenommener, expliziter oder anderweitig problematischer Bilder sind, wodurch die Last der ethischen Filterung vom Endbenutzer in die Architektur des Modells verlagert wird.
„Das Unternehmen trainiert KI-Modelle nicht mit menschlichem Feedback, sondern mit einer kaskadierenden Reihe von Prinzipien, einschließlich einer modifizierten Version von Isaac Asimovs Robotergesetzen und der UN-Menschenrechtserklärung.“
— The MIT Technology Review
Dieser Selbstkorrekturmechanismus hat direkte Auswirkungen auf das Prompting. Kreative könnten feststellen, dass hochambivalente oder ethisch graue Prompts konsistentere, sicherere Ergebnisse liefern oder direkt abgelehnt werden, anstatt unvorhersehbare oder schädliche Bilder zu erzeugen. Dies deutet auf eine Zukunft hin, in der der interne ethische Kompass der KI ein wichtigerer Faktor für die endgültige Ausgabe ist als bei vielen aktuellen Modellen, bei denen die Sicherheit oft auf Nachbearbeitungsfiltern oder Benutzerberichten beruht. Dies könnte den Prozess der Bilderzeugung innerhalb ethischer Grenzen vorhersehbarer machen und möglicherweise Arbeitsabläufe für professionelle Künstler und Designer optimieren, die zuverlässige, markensichere Inhalte benötigen.
Obwohl der Fokus auf Sicherheit von größter Bedeutung ist, könnte der konstitutionelle KI-Ansatz auch den ästhetischen und thematischen Umfang der KI-generierten Kunst beeinflussen. Modelle, die unter solch strengen Richtlinien trainiert werden, könnten von Natur aus zu konventionelleren oder „sicheren“ visuellen Interpretationen neigen, was möglicherweise die Erforschung avantgardistischer, provokanter oder grenzüberschreitender künstlerischer Konzepte einschränkt. Künstler, die an die uneingeschränkte, oft chaotische Freiheit früherer KI-Modelle gewöhnt sind, könnten sich gezwungen sehen, ihre Prompting-Strategien an diese neuen ethischen Rahmenbedingungen anzupassen. Es ist ein Kompromiss: erhöhte Zuverlässigkeit und Sicherheit gegenüber potenziell eingeschränkten kreativen Grenzen.
Für diejenigen, die maximale kreative Freiheit schätzen, unterstreicht diese Entwicklung die anhaltende Divergenz in den Philosophien der KI-Modelle. Einige Modelle priorisieren die Rohausgabe und die Benutzerkontrolle, während andere, wie die von Anthropic, die Sicherheit tiefer in ihren Kern einbetten. Kreative müssen ihre Werkzeuge zunehmend nicht nur nach Bildqualität oder Geschwindigkeit auswählen, sondern auch nach den zugrunde liegenden ethischen und kreativen Philosophien, die ihre Entwicklung bestimmen. Dies könnte zu einer größeren Nachfrage nach einer vielfältigen Palette von Modellen führen, die jeweils unterschiedliche künstlerische Bedürfnisse und ethische Überlegungen berücksichtigen, ähnlich wie verschiedene Kunstbewegungen unterschiedliche ästhetische Werte priorisieren. Das Verständnis dieser Unterschiede ist entscheidend für jeden, der die Kunst der KI-Bilderzeugung meistern möchte. Während sich die KI-Landschaft weiterentwickelt, wird die Wahl des Modells zunehmend die Haltung eines Kreativen zu diesen grundlegenden Fragen widerspiegeln.
Ansehen: Anthropecs „konstitutionelle KI“-Strategie
Dieser Schritt von Anthropic unterstreicht einen wachsenden Branchentrend, verantwortungsvolle KI-Praktiken von Grund auf zu integrieren, anstatt sie nachträglich zu berücksichtigen. Er signalisiert eine Zukunft, in der KI-Modelle nicht nur leistungsstark, sondern auch zweckmäßig mit einem moralischen Kompass gebaut werden, um Missbrauch zu verhindern und Vertrauen in die Technologie zu fördern. Dieser Wandel könnte einen neuen Standard für die KI-Entwicklung setzen, beeinflussen, wie andere Anbieter das Modelltraining und die Inhaltsmoderation angehen, und letztendlich die durch KI generierte visuelle Kultur für die kommenden Jahre prägen.
