Google's Gemini voerde echte cyberaanvallen uit op andere bedrijven tijdens gecontroleerde tests

Google heeft bevestigd dat zijn Gemini AI-model met succes echte cyberaanvallen heeft uitgevoerd op externe bedrijven tijdens gecontroleerde beveiligingsonderzoeken — een bevinding met directe gevolgen voor de manier waarop AI-tools worden beoordeeld, beperkt en vertrouwd in creatieve en professionele workflows.\n\n## Belangrijkste conclusies\n\n- Gemini voerde succesvolle cyberaanvallen uit op echte externe bedrijfssystemen tijdens gecontroleerd beveiligingsonderzoek, waarmee het een van de eerste frontier-modellen is die dit op dit niveau bevestigd heeft gedaan.\n- Google verklaarde dat Gemini „zich correct gedroeg" door elke aanval onmiddellijk na voltooiing te beëindigen, in plaats van verder te sonderen of te escaleren.\n- De tests werden uitgevoerd in een gecontroleerde onderzoekscontext, niet als live kwaadaardige activiteit — maar ze maakten gebruik van echte doelsystemen, geen sandbox-simulaties.\n- Dit plaatst Gemini naast een korte lijst van frontier-modellen waarvan nu bevestigd is dat ze autonome offensieve beveiligingstaken kunnen uitvoeren.\n- Voor makers die vertrouwen op AI-platforms benadrukken de resultaten een groeiende kloof tussen wat frontier-modellen kunnen doen en welke beperkingen daadwerkelijk worden gehandhaafd in productie.\n\n## Wat Gemini wel — en niet — deed\n\nVolgens TechCrunch behoort Gemini nu tot de meest recente frontier AI-modellen waarvan bevestigd is dat ze externe bedrijven succesvol hebben gehackt tijdens gecontroleerde tests. De aanvallen waren echt — gericht op daadwerkelijke bedrijfsinfrastructuur, niet op speciaal gebouwde honeypots — wat de bevestiging belangrijker maakt dan typische red-team-oefeningen uitgevoerd tegen nep-omgevingen.\n\nHet standpunt van Google is dat het model zich correct gedroeg: het voltooide de toegewezen taak en stopte. Het bedrijf zei dat Gemini „zich correct had gedragen" door elke hack onmiddellijk te beëindigen. Die formulering is belangrijk, omdat ze een grens trekt tussen vermogen en intentie — Gemini kon verder gaan, maar was ontworpen om dat niet te doen.\n\nHet onderscheid is betekenisvol voor iedereen die nadenkt over hoe AI-modellen worden beheerd. Een model dat autonoom een offensieve beveiligingstaak kan voltooien en zichzelf vervolgens beëindigt, heeft een ander risicoprofiel dan een model dat ofwel volledig faalt ofwel blijft escaleren. Het signaleert ook dat capaciteitsevaluaties voor frontier-modellen nu routinematig live offensieve taken omvatten, niet alleen theoretische benchmarks.\n\n## Waarom dit verandert hoe je moet nadenken over de modellen die je gebruikt\n\nVoor AI-kunstmakers liggen de directe praktische risico's niet in het feit dat je wordt gehackt door je beeldgenerator. Ze liggen in het modelbestuur in bredere zin — specifiek, wat frontier-labs hun modellen willen laten doen, en hoe die beslissingen doorwerken in de API's, platforms en pipelines die creatieve tools aandrijven.\n\nDenk aan een conceptkunstenaar die een op Gemini gebaseerde tool gebruikt om in bulk omgevingsreferenties te genereren voor een gamestudio. De capaciteitsomgeving van het onderliggende model — en hoe strak die wordt beperkt — wordt bepaald door beslissingen die precies in dit soort beveiligingsevaluaties worden genomen. Wanneer een lab bevestigt dat zijn model autonoom offensieve taken kan voltooien en dat als aanvaardbaar gedrag omschrijft, geeft het ook zijn filosofie aan over waar het capaciteitsplafonds trekt over de hele linie.\n\nDie filosofie beïnvloedt wat wordt gefilterd, wat wordt toegestaan, en hoe agressief modellen worden bijgewerkt wanneer ze iets onverwachts doen. Dezelfde bestuurspositie die het hackgedrag van Gemini vormgeeft, bepaalt ook hoe het omgaat met een prompt die vraagt een moreel dubbelzinnige scène te renderen, een inhoudsfilter te omzeilen, of een randgeval-instructie te interpreteren.\n\nAls je kiest tussen op Gemini gebaseerde generatietools en alternatieven, is het de moeite waard om te volgen hoe Google deze resultaten blijft karakteriseren. „Correct gedragen" is een zelfverzekerde formulering — maar het bevestigt ook dat het vermogen reëel en aanwezig is, niet hypothetisch.\n\n\n\n## Het bredere patroon onder frontier-modellen\n\nGemini staat hier niet alleen in. Meerdere frontier-modellen zijn nu bevestigd echte offensieve beveiligingstaken te hebben voltooid onder gecontroleerde omstandigheden. Dit wordt een standaardonderdeel van capaciteitsevaluatie in plaats van een anomalie — en de resultaten worden steeds vaker openbaar gemaakt, niet begraven.\n\nDie transparantie is nuttig. Het betekent dat het capaciteitslandschap ten minste gedeeltelijk zichtbaar is, ook al is de volledige evaluatiemethodologie dat niet. Voor makers die zich bekommeren om welke modellen onder hun tools zitten — en de beschikbare keuzes in AI-modelcatalogi breiden zich snel uit — zijn deze onthullingen een van de weinige concrete signalen over wat een model daadwerkelijk kan doen aan zijn grenzen.\n\nDe praktische vraag is niet of Gemini jou zal hacken. Het is of de bestuurskaders die rond deze capaciteiten worden gebouwd gelijke tred houden met de modellen zelf. Op basis van wat tot nu toe is onthuld, is die race nog volop gaande. Volgen hoe Google reageert op vervolgonderzoek naar deze tests zal informatiever zijn dan de initiële bevestiging.