Sofia verfolgt Geld, Regulierung und Plattformen, die bestimmen, was Kreative erschaffen können.
Erhalte die Top-Storys der Woche zu KI und KI-Kunst direkt in dein Postfach — kuratiert, kompakt, kostenlos.
Kostenlos. Jederzeit abbestellbar.
Wähle einen Companion und erfahre seine Meinung zu dieser Story
Anthropic-CEO Dario Amodei hat öffentlich dazu aufgerufen, die Entwicklung von Frontier-KI zu verlangsamen, und vorgeschlagen, unabhängigen Prüfern wie METR direkten Zugang zu Anthropics Modellen zu gewähren, um die Sicherheitszusagen des Unternehmens zu verifizieren – ein bedeutendes strukturelles Zugeständnis des Labors, das Claude entwickelt hat.\n\n## Die wichtigsten Punkte\n\n- Anthropic-CEO Dario Amodei hat einen formellen Vorschlag veröffentlicht, um „das Frontier-Tempo zu drosseln" – also die Geschwindigkeit der KI-Fähigkeitsentwicklung in führenden Laboren zu reduzieren.\n- Der Plan sieht vor, Drittorganisationen – namentlich METR – Zugang zu Anthropics Modellen zu gewähren, um die Einhaltung von Sicherheitspraktiken zu prüfen.\n- Amodeis dreistufiger Rahmen ist der detaillierteste öffentliche Vorschlag eines Top-KI-CEOs zur Einführung externer Rechenschaftspflicht bei Modell-Releases.\n- Der Schritt erfolgt, während regulatorischer Druck und öffentliche Skepsis gegenüber KI-Sicherheitsversprechen zunehmen.\n- Für KI-Kunstschaffende könnten externe Sicherheitsaudits direkt beeinflussen, welche Fähigkeiten in den von ihnen genutzten Modellen eingeschränkt oder verzögert werden.\n\n\n\nAmodeis Essay, der diese Woche veröffentlicht wurde, skizziert einen dreistufigen Plan, den sein Unternehmen als „Pacing the Frontier" bezeichnet. Die Wortwahl ist bewusst gewählt: Es ist kein Aufruf, die KI-Entwicklung zu stoppen, sondern die Geschwindigkeit mit der Reife der Sicherheitsinfrastruktur zu synchronisieren. Diese Unterscheidung ist wichtig, da Anthropic gleichzeitig eines der sicherheitsbewusstesten und eines der kommerziell aggressivsten Labore ist – Claude ist ein direkter Konkurrent zu OpenAIs GPT-4o und Googles Gemini im Unternehmensmarkt.\n\n## Was der Drittanbieter-Zugang zu Anthropics Modellen konkret bedeutet\n\nDas spezifische Bekenntnis zu METR – einer gemeinnützigen Organisation, die KI-Modelle auf gefährliche autonome Fähigkeiten prüft – ist das konkreteste Element von Amodeis Vorschlag. METR-Zugang bedeutet, dass unabhängige Forscher, nicht Anthropics eigene Red Teams, beurteilen würden, ob Claude-Modelle die angegebenen Sicherheitsschwellen vor oder während des Einsatzes erfüllen. Das ist ein anderer Maßstab als die internen Evaluierungen, die die meisten Labore derzeit veröffentlichen.\n\nFür Kreative, die Workflows auf Claudes API aufbauen oder Tools nutzen, die Claude im Hintergrund verwenden, hat dies einen realen nachgelagerten Effekt: Wenn METR eine Fähigkeit als unzureichend sicher einstuft, wäre Anthropic voraussichtlich verpflichtet, diese einzuschränken oder zu verzögern. Das könnte langsamere Rollouts neuer multimodaler Funktionen, strengere Ausgabefilter oder Fähigkeitsbeschränkungen bedeuten, die für Wettbewerber ohne dieselbe Verpflichtung nicht gelten.\n\n> „Es ist an der Zeit, bei der KI auf die Bremse zu treten."\n>\n> — Dario Amodei, Anthropic CEO\n\nDer historische Vergleich ist bemerkenswert. Als Stability AI 2023 unter zunehmendem Druck wegen unkontrollierter Bildgenerierung und fehlender formaler Sicherheitsprozesse stand, machte das Fehlen jeglichen externen Rechenschaftsmechanismus eine glaubwürdige Selbstregulierung nahezu unmöglich – was zu den darauffolgenden Führungswechseln und Reputationsschäden beitrug. Amodei versucht im Grunde, die Rechenschaftspflicht zu institutionalisieren, die Stability nie hatte, bevor eine vergleichbare Krise sie erzwingt.\n\n## Die Durchsetzungsfrage: Wer setzt das eigentlich durch?\n\nDer Vorschlag ist freiwillig. Amodei kündigt keine regulatorische Vereinbarung oder einen verbindlichen Branchenstandard an – er veröffentlicht einen Essay und nennt einen bevorzugten Prüfer. Der Durchsetzungsmechanismus ist reputationsbasiert: Wenn Anthropic seinen eigenen erklärten Rahmen nicht einhält, können METR oder externe Beobachter dies öffentlich sagen. Das ist ein bedeutender Druck, aber keine rechtliche Verpflichtung.\n\nDas ist relevant für alle, die verfolgen, welche KI-Bild- und Videogenerierungsmodelle uneingeschränkt bleiben und welche mit Fähigkeitsrücknahmen konfrontiert werden. Labore, die keine ähnlichen Rahmen übernehmen – und mehrere große haben keinerlei Anzeichen gegeben, dass sie dies tun werden – sehen sich keiner vergleichbaren Einschränkung gegenüber. Die wettbewerbliche Asymmetrie könnte Anthropic dazu bringen, bei neuen generativen Funktionen vorsichtiger vorzugehen, während Konkurrenten schneller liefern.\n\nDie Hugging Face Safety-Subset-Forschung, die Anfang dieses Jahres veröffentlicht wurde, zeigte, dass gezielte Sicherheitsfilter präzise genug sein können, um spezifische schädliche Ausgaben zu blockieren, ohne ganze Themenbereiche übermäßig abzulehnen – was darauf hindeutet, dass die technischen Werkzeuge für diese Art von geprüfter Zurückhaltung besser werden. Die Frage ist, ob die kommerziellen Anreize der Branche es den Laboren erlauben werden, sie in dem von Amodei vorgeschlagenen Tempo einzusetzen.\n\nFür Kreative, die evaluieren, auf welchen Modellen sie aufbauen möchten, verfolgt der Charmloop-Modellkatalog Fähigkeits- und Zugriffsänderungen in Echtzeit. Der nächste konkrete Indikator dafür, ob Amodeis Vorschlag Substanz hat, wird sein, ob METR Ergebnisse veröffentlicht – und ob sich Anthropics Release-Zeitplan dadurch sichtbar verändert.