Theo macht aus KI-News Dinge, die man noch heute Abend ausprobieren kann.
Schritt-für-Schritt-Anleitungen zu Prompts, Stilen und dem Maximum aus der KI-Bildgenerierung.
Anleitungen lesenWähle einen Companion und erfahre seine Meinung zu dieser Story
Sicherheitsforscher haben erfolgreich Sicherheitsfilter in OpenAIs GPT-4o und Googles Gemini-Modellen mit einfachen Prompt-Manipulationstechniken umgangen. Die Angriffe decken grundlegende Schwächen auf, wie große KI-Anbieter vor der Generierung expliziter Inhalte schützen.
• Forscher demonstrierten erfolgreiche Umgehungsmethoden sowohl gegen OpenAIs GPT-4o als auch Googles Gemini mit grundlegenden Prompt-Engineering-Techniken • Die Angriffe funktionieren, indem sie manipulieren, wie Modelle Sicherheitsrichtlinien interpretieren, anstatt technische Schwachstellen in den zugrundeliegenden Systemen auszunutzen • Die aktuellen Sicherheitsfilter beider Unternehmen können dazu gebracht werden, explizite Inhalte zu generieren, obwohl sie speziell entwickelt wurden, um solche Ausgaben zu verhindern • Die Erkenntnisse verdeutlichen anhaltende Herausforderungen in der KI-Sicherheit, während Modelle leistungsfähiger werden und gleichzeitig benutzerfreundliche Schnittstellen beibehalten • Die Forschung legt nahe, dass aktuelle Inhaltsfilterungsansätze möglicherweise grundlegende Neugestaltungen anstatt schrittweiser Verbesserungen benötigen
Die Angriffstechniken beruhen auf sorgfältig gestalteten Prompts, die das Verständnis der Modelle für Kontext und Sicherheitsgrenzen manipulieren. Anstatt explizite Inhalte direkt anzufordern, verwenden die Methoden indirekte Sprache und Szenario-Framing, um Modelle zur Generierung verbotenen Materials zu führen.
Die Forscher fanden heraus, dass sowohl GPT-4o als auch Gemini dazu gebracht werden konnten, explizite Bilder durch Prompts zu produzieren, die zunächst harmlos erscheinen, aber allmählich die Interpretation des Modells für akzeptable Inhalte verschieben. Diese Techniken funktionieren, weil sie ausnutzen, wie die Modelle natürlichsprachliche Anweisungen verarbeiten, anstatt spezifische Code-Schwachstellen anzugreifen.
Für Kreative, die mit KI-Bildgenerierung arbeiten, unterstreichen diese Erkenntnisse das anhaltende Katz-und-Maus-Spiel zwischen Sicherheitssystemen und Nutzern, die versuchen, sie zu umgehen. Die Forschung zeigt, dass selbst gut finanzierte Unternehmen mit dedizierten Sicherheitsteams Schwierigkeiten haben, narrensichere Inhaltsfilter zu erstellen.
Die Umgehungsmethoden funktionieren über verschiedene Modellarchitekturen hinweg, was darauf hindeutet, dass das Problem aus grundlegenden Herausforderungen in der KI-Ausrichtung stammt und nicht aus implementierungsspezifischen Problemen. Das bedeutet, dass ähnliche Schwachstellen wahrscheinlich in anderen KI-Systemen existieren, einschließlich derer, die für Bildgenerierung und Inhaltserstellung verwendet werden.
Laut Ars Technica sind sowohl OpenAI als auch Google über die Forschungsergebnisse informiert und arbeiten an verbesserten Sicherheitsmaßnahmen. Die Unternehmen haben jedoch keine spezifischen Zeitpläne für die Behebung der identifizierten Schwachstellen bereitgestellt.
Die Forschung verdeutlicht eine breitere Herausforderung für KI-Entwickler: das Gleichgewicht zwischen Modellfähigkeiten und Sicherheitsbeschränkungen. Während Modelle sophistizierter im Verstehen nuancierter Anweisungen werden, werden sie auch anfälliger für raffinierte Manipulationsversuche.
Für Kreative, die KI-Tools verwenden, dient diese Forschung als Erinnerung daran, dass Sicherheitsfilter unvollkommen und sich entwickelnd sind. Während diese Systeme im Allgemeinen wie beabsichtigt für legitime Anwendungsfälle funktionieren, stellen sie einen laufenden Entwicklungsbereich dar und keine gelösten Probleme. Das Verständnis dieser Einschränkungen hilft dabei, bessere Praktiken beim Arbeiten mit KI-generierten Inhalten zu entwickeln und angemessene KI-Tools für verschiedene kreative Projekte zu wählen.
Die Erkenntnisse legen auch nahe, dass zukünftige KI-Sicherheitsansätze möglicherweise über einfache Inhaltsfilterung hinausgehen müssen hin zu einem sophistizierteren Verständnis von Nutzerabsicht und Kontext. Das könnte längere Antwortzeiten und konservativere Ausgaben bedeuten, da Unternehmen Sicherheit über Geschwindigkeit und Flexibilität priorisieren.
