Elias legt het onderzoek achter de koppen uit in gewone taal.
Geïnspireerd door dit verhaal? Maak van het idee in seconden je eigen AI-kunst — gratis beginnen, geen kaart nodig.
Gratis aan de slagKies een companion en ontdek wat die van dit verhaal vindt
OpenAI is gestopt met het trainen van zijn meest geavanceerde AI-modellen, aangeduid als „frontier-modellen”, op live internetdata en is in plaats daarvan overgestapt op een geïsoleerde, offline testomgeving. Deze beslissing, aangekondigd nadat eerdere verklaringen van een OpenAI-ingenieur suggereerden dat een dergelijke oplossing ontoereikend zou zijn, is gericht op het beperken van aanzienlijke beveiligings- en veiligheidsrisico's die gepaard gaan met realtime webinteractie tijdens de training. Voor AI-kunstmakers zou deze verschuiving kunnen betekenen dat toekomstige modellen ander gedrag zullen vertonen wanneer ze worden gevraagd naar actuele gebeurtenissen of realtime informatie, aangezien hun onderliggende kennisbasis statisch zal zijn in plaats van continu te worden bijgewerkt vanaf het live web. Dit contrasteert met eerdere benaderingen waarbij modellen potentieel konden leren van de meest recente gegevens die online beschikbaar waren.
Voorheen hadden AI-modellen soms toegang tot het live internet tijdens hun trainingsfasen om gegevens te verzamelen, een proces dat hen kon blootstellen aan onvoorziene kwetsbaarheden of hen in staat stelde om op onbedoelde manieren met externe systemen te interageren. De nieuwe aanpak van OpenAI omvat het bouwen van een offline testomgeving waar deze geavanceerde modellen nog steeds kunnen interageren met een enorme opslagplaats van webinhoud, maar alleen inhoud die is geïndexeerd en gecached. Dit betekent dat de modellen leren van een momentopname van het internet, in plaats van de constant veranderende live feed. Deze gecontroleerde omgeving is ontworpen om elk risico op beïnvloeding van externe systemen te voorkomen, en pakt zorgen aan over het potentieel van een model om tijdens de ontwikkeling een reële impact te veroorzaken.
Voor makers die AI-modellen gebruiken voor beeldgeneratie is deze verandering relevant omdat het begrip van de wereld door de modellen tijdens de training wordt gevormd. Een model dat is getraind op een statische, gecachte dataset heeft mogelijk niet de meest actuele kennis van trends, actuele gebeurtenissen of recent gepubliceerde visuele stijlen. Hoewel fine-tuning en retrieval-augmented generation (RAG) na de training meer actuele gegevens kunnen toevoegen, zal de fundamentele kennis die in het kernmodel is ingebed, deze offline trainingsmethodologie weerspiegelen. Dit kan leiden tot een subtiel maar belangrijk verschil in hoe modellen prompts interpreteren die verband houden met zeer recente fenomenen, waardoor ze misschien minder bedreven zijn in het genereren van afbeeldingen die breaking news of efemere internetcultuur weerspiegelen zonder aanvullende, expliciete invoer van de gebruiker.
Deze stap van OpenAI signaleert een prioritering van veiligheid en controle boven de continue, realtime leermogelijkheden die live internettoegang zou kunnen bieden. Hoewel de directe impact op publiekelijk beschikbare modellen, zoals die gebruikt voor beeldgeneratie, misschien niet duidelijk is, schept het een precedent voor hoe toekomstige, krachtigere modellen zullen worden ontwikkeld. Makers die afhankelijk zijn van AI voor het genereren van inhoud die actueel of contextueel bewust moet zijn van zeer recente ontwikkelingen, zullen mogelijk meer specifieke, bijgewerkte informatie in hun prompts moeten opnemen, in plaats van aan te nemen dat het model deze heeft geleerd van de nieuwste webgegevens. Dit kan van invloed zijn op workflows die het genereren van inhoud op basis van snel evoluerende onderwerpen omvatten.
De beslissing benadrukt ook de voortdurende spanning tussen het toestaan van AI-modellen brede toegang tot informatie voor uitgebreid leren en de noodzaak om potentiële risico's te beperken. De toewijding van OpenAI aan een offline trainingsregime volgt op een periode van verhoogde controle op AI-veiligheid, inclusief discussies over verantwoorde AI-ontwikkeling en -implementatie. Dit maakt deel uit van een bredere trend in de sector waarbij grote AI-ontwikkelaars zich steeds meer richten op gecontroleerde omgevingen voor hun krachtigste modellen om voorspelbaar en veilig gedrag te garanderen. Deze verschuiving kan ook van invloed zijn op hoe andere ontwikkelaars hun eigen modeltrainingsstrategieën benaderen, wat mogelijk leidt tot meer geïsoleerde trainingsomgevingen in de hele sector. Voor degenen die geïnteresseerd zijn in het bredere regelgevingslandschap, hebben we eerder de recordlobby-inspanningen van OpenAI in Washington D.C. behandeld, wat hun betrokkenheid bij beleidsdiscussies over AI-veiligheid en -ontwikkeling aangeeft. Makers kunnen verschillende modellen en hun mogelijkheden verkennen in de Charmloop-modelcatalogus om te begrijpen hoe verschillende trainingsbenaderingen zich manifesteren in generatieve output.
