Elias erklärt die Forschung hinter den Schlagzeilen in klarer Sprache.
Von dieser Story inspiriert? Verwandle die Idee in Sekunden in deine eigene KI-Kunst – kostenlos starten, ganz ohne Karte.
Kostenlos loslegenWähle einen Companion und erfahre seine Meinung zu dieser Story
OpenAI hat das Training seiner fortschrittlichsten KI-Modelle, die als „Frontier-Modelle“ bezeichnet werden, im Live-Internet eingestellt und ist stattdessen zu einer isolierten Offline-Testumgebung übergegangen. Diese Entscheidung, die nach früheren Aussagen eines OpenAI-Ingenieurs, eine solche Lösung sei unzureichend, bekannt gegeben wurde, zielt darauf ab, erhebliche Sicherheits- und Schutzrisiken zu mindern, die mit der Echtzeit-Webinteraktion während des Trainings verbunden sind. Für KI-Kunstschaffende könnte diese Umstellung bedeuten, dass zukünftige Modelle ein anderes Verhalten zeigen, wenn sie nach aktuellen Ereignissen oder Echtzeitinformationen gefragt werden, da ihre zugrunde liegende Wissensbasis statisch und nicht kontinuierlich aus dem Live-Web aktualisiert wird. Dies steht im Gegensatz zu früheren Ansätzen, bei denen Modelle potenziell aus den aktuellsten online verfügbaren Daten lernen konnten.
Zuvor griffen KI-Modelle während ihrer Trainingsphasen manchmal auf das Live-Internet zu, um Daten zu sammeln. Dieser Prozess konnte sie unvorhergesehenen Schwachstellen aussetzen oder ihnen ermöglichen, auf unbeabsichtigte Weise mit externen Systemen zu interagieren. OpenAIs neuer Ansatz beinhaltet den Aufbau einer Offline-Testumgebung, in der diese fortschrittlichen Modelle weiterhin mit einem riesigen Repository von Webinhalten interagieren können, jedoch nur mit Inhalten, die indiziert und zwischengespeichert wurden. Das bedeutet, die Modelle lernen aus einem Schnappschuss des Internets und nicht aus dessen sich ständig änderndem Live-Feed. Diese kontrollierte Umgebung soll jedes Risiko der Beeinflussung externer Systeme verhindern und Bedenken hinsichtlich des Potenzials eines Modells, während seiner Entwicklung reale Auswirkungen zu verursachen, ausräumen.
Für Ersteller, die KI-Modelle zur Bilderzeugung verwenden, ist diese Änderung relevant, da das Weltverständnis der Modelle während des Trainings geformt wird. Ein Modell, das auf einem statischen, zwischengespeicherten Datensatz trainiert wurde, verfügt möglicherweise nicht über das aktuellste Wissen über Trends, aktuelle Ereignisse oder kürzlich veröffentlichte visuelle Stile. Während Fine-Tuning und Retrieval-Augmented Generation (RAG) nach dem Training aktuellere Daten hinzufügen können, wird das im Kernmodell verankerte Grundwissen diese Offline-Trainingsmethodik widerspiegeln. Dies könnte zu einem subtilen, aber wichtigen Unterschied in der Art und Weise führen, wie Modelle Prompts interpretieren, die sich auf sehr aktuelle Phänomene beziehen, was sie möglicherweise weniger geschickt darin macht, Bilder zu erzeugen, die aktuelle Nachrichten oder ephemere Internetkultur ohne zusätzliche, explizite Eingaben des Benutzers widerspiegeln.
Dieser Schritt von OpenAI signalisiert eine Priorisierung von Sicherheit und Kontrolle gegenüber den kontinuierlichen Echtzeit-Lernfähigkeiten, die der Live-Internetzugang bieten könnte. Während die unmittelbaren Auswirkungen auf öffentlich verfügbare Modelle, wie sie zur Bilderzeugung verwendet werden, möglicherweise nicht offensichtlich sind, schafft er einen Präzedenzfall dafür, wie zukünftige, leistungsfähigere Modelle entwickelt werden. Ersteller, die sich bei der Generierung von Inhalten, die aktuell oder kontextuell auf sehr aktuelle Entwicklungen abgestimmt sein müssen, auf KI verlassen, müssen möglicherweise spezifischere, aktualisierte Informationen in ihren Prompts bereitstellen, anstatt davon auszugehen, dass das Modell diese aus den neuesten Webdaten gelernt hat. Dies könnte Arbeitsabläufe beeinträchtigen, die die Generierung von Inhalten auf der Grundlage sich schnell entwickelnder Themen umfassen.
Die Entscheidung unterstreicht auch die anhaltende Spannung zwischen dem Ermöglichen eines breiten Zugangs zu Informationen für umfassendes Lernen von KI-Modellen und der Notwendigkeit, potenzielle Risiken einzudämmen. OpenAIs Engagement für ein Offline-Trainingsregime folgt einer Zeit erhöhter Prüfung der KI-Sicherheit, einschließlich Diskussionen über verantwortungsvolle KI-Entwicklung und -Bereitstellung. Dies ist Teil eines breiteren Branchentrends, bei dem große KI-Entwickler zunehmend den Fokus auf kontrollierte Umgebungen für ihre leistungsfähigsten Modelle legen, um vorhersehbares und sicheres Verhalten zu gewährleisten. Diese Umstellung könnte auch beeinflussen, wie andere Entwickler ihre eigenen Modelltrainingsstrategien angehen, was potenziell zu isolierteren Trainingsumgebungen in der gesamten Branche führen könnte. Für diejenigen, die sich für die breitere Regulierungslandschaft interessieren, haben wir zuvor über OpenAIs rekordverdächtige Lobbyarbeit in Washington D.C. berichtet, die ihr Engagement in politischen Diskussionen über KI-Sicherheit und -Entwicklung zeigt. Ersteller können verschiedene Modelle und ihre Fähigkeiten im Charmloop-Modellkatalog erkunden, um zu verstehen, wie sich verschiedene Trainingsansätze in der generativen Ausgabe manifestieren.
