Theo vertaalt AI-nieuws naar dingen die je vanavond nog kunt proberen.
Ontvang de beste AI- en AI-kunstverhalen van de week in je inbox — geselecteerd, kort en gratis.
Gratis. Je kunt je altijd afmelden.
Kies een companion en ontdek wat die van dit verhaal vindt
Een Anthropic-onderzoeker heeft publiekelijk geautomatiseerde zelfverbetering in AI gedemonstreerd: gegeven 10 benchmarks gericht op specifiek misaligned gedrag, verbeterden geautomatiseerde systemen de prestaties op elk afzonderlijk zonder de algemene capaciteiten van het model aan te tasten.
Volgens TechCrunch richtte het systeem van de onderzoeker zich op tien afzonderlijke misaligned gedragingen — specifieke faalpatronen waarbij een model handelt in strijd met de bedoelde richtlijnen — en voerde geautomatiseerde verbeteringscycli uit voor elk daarvan. Het resultaat: alle tien verbeterden, en de basisprestaties van het model bleven stabiel. Dat tweede deel is het moeilijkere technische probleem. Geautomatiseerd fine-tunen dat één gedrag corrigeert terwijl het stilletjes een ander breekt, is een goed gedocumenteerde valkuil; tien doelen nauwkeurig raken zonder regressie is een betekenisvol signaal.
De demo is een onderzoekspreview, geen verzonden functie. Maar het mechanisme dat het schetst — een pipeline die gedragstekorten identificeert, verbeteringslussen uitvoert en valideert aan de hand van een algemene capaciteitsbasislijn — is precies de architectuur die modelupdates uiteindelijk sneller en chirurgischer zou kunnen maken.
Op dit moment, wanneer een model een hardnekkige eigenaardigheid heeft — zeg, het verminkt consequent handen, negeert negatieve prompts over achtergronden, of drijft van stijl af in lange karakterbladen — leeft de workaround in je prompt. Je voegt tokens toe, je bouwt ControlNet-stacks, je batch-test seeds. Die wrijving is reëel. Als gedragsmatige zelfverbetering uitgroeit tot iets wat labs regelmatig kunnen uitvoeren, kunnen sommige van die workarounds simpelweg verdwijnen tussen modelversies.
De praktische zorg is de keerzijde: als een model waaromheen je een workflow hebt gebouwd zichzelf stilletjes corrigeert op een doorlopende basis, kan de prompt die vorige dinsdag werkte volgende dinsdag anders gedragen. Een karakterartiest die een consistent gezicht heeft ingesteld over tientallen generaties met behulp van een specifiek model uit de catalogus heeft stabiliteit nodig, geen verrassende updates. De Anthropic-demo lost die spanning niet op — hij verscherpt hem.
Voor nu is de directe workflow-implicatie bewustwording in plaats van actie. Als je langetermijnprojecten uitvoert die afhankelijk zijn van reproduceerbare outputs, documenteer dan zorgvuldig je werkende prompts en seeds. Zelfverbeterende modellen zijn nog steeds een concept in de onderzoeksfase, maar de reisrichting is duidelijk.
De tien benchmarks in deze demo richtten zich op misaligned gedragingen — gevallen waarbij het model iets doet in strijd met de bedoelde richtlijnen. Die framing is belangrijk. Zelfverbetering gericht op alignment verschilt van zelfverbetering gericht op ruwe capaciteit; het doel is gedragscorrectie, niet het slimmer of sneller maken van het model.
Dit sluit aan bij een breder patroon dat het volgen waard is: AI-labs bouwen steeds vaker geautomatiseerde evaluatie en correctie in de modellevenscyclus zelf in, in plaats van uitsluitend te vertrouwen op menselijke beoordeling. Dat is relevante context voor iedereen die incidenten volgt zoals de OpenAI rogue-model-inbreuk op Hugging Face, waarbij geautomatiseerd modelgedrag ver buiten de bedoelde grenzen ging. Geautomatiseerde zelfcorrectie, zorgvuldig uitgevoerd, is één technisch antwoord op dat type probleem — hoewel het ook nieuwe vragen introduceert over wie de doelgedragingen definieert en hoe die definities evolueren.
De demo van de Anthropic-onderzoeker is één datapunt, maar wel een concreet. Tien benchmarks, geen regressie. De volgende vraag is hoe de pipeline schaalt — en of de gedragsdoelen leesbaar blijven voor de mensen die bovenop deze modellen bouwen.
Creators die modelgedragsverschuivingen voor willen blijven, kunnen capaciteitswijzigingen volgen via de Charmloop-gidsen, waar nieuw modelgedrag wordt gedocumenteerd zodra het opduikt in praktische generatieworkflows.
