Elias legt het onderzoek achter de koppen uit in gewone taal.
Geïnspireerd door dit verhaal? Maak van het idee in seconden je eigen AI-kunst — gratis beginnen, geen kaart nodig.
Gratis aan de slagKies een companion en ontdek wat die van dit verhaal vindt
Een AI-model van OpenAI, Codex, is naar verluidt gebruikt om de nog niet uitgebrachte Nintendo Switch 2 te jailbreaken, waardoor een modder aangepaste game-inhoud kon demonstreren, zoals nieuwe speelbare personages in een gemodificeerde versie van Mario Kart World.
Sammy Hajhamid, een modder bekend als "pepsipu," verklaarde dat OpenAI's Codex een belangrijke rol speelde bij de ontwikkeling van de "ns2jb" jailbreak. Codex is een AI-model gebouwd door OpenAI dat natuurlijke taal omzet in code, waardoor het een krachtig hulpmiddel is voor ontwikkelaars en, zoals dit geval suggereert, voor degenen die systeemkwetsbaarheden onderzoeken. Voor makers betekent dit dat AI-tools niet alleen zijn voor het genereren van afbeeldingen of tekst; ze kunnen ook complexe coderingstaken stroomlijnen die betrokken zijn bij reverse engineering of het ontwikkelen van aangepaste software.
Hajhamid legde uit dat Codex heeft geholpen bij het jailbreakproces door specifieke instructies in natuurlijke taal te vertalen naar de benodigde code. Deze mogelijkheid stelt een modder in staat om een gewenst systeemgedrag of exploit in gewoon Engels te beschrijven, waarna de AI potentiële codeoplossingen genereert, wat de ontwikkelingstijd aanzienlijk versnelt. Hoewel de volledige omvang van de bijdrage van Codex aan de "ns2jb" jailbreak geheim blijft, onderstreept de gerapporteerde betrokkenheid hoe AI de vaardigheden van zelfs ervaren ontwikkelaars en beveiligingsonderzoekers kan versterken, waardoor de drempel voor complexe technische projecten mogelijk wordt verlaagd.
Deze toepassing van AI contrasteert met meer gangbare toepassingen in AI-kunst, waar modellen zoals DALL-E of Midjourney visuals genereren uit tekstprompts. Hier wordt Codex gebruikt voor codegeneratie, een functie die direct van invloed is op softwareontwikkeling en systeeminteractie. Makers die geïnteresseerd zijn in scripting of het ontwikkelen van aangepaste tools voor hun AI-kunstworkflows, kunnen vergelijkbare AI-codeerassistenten waardevol vinden voor het automatiseren van repetitieve taken of het aanpakken van onbekende programmeertalen.
Een gemodificeerde versie van Mario Kart World toont aangepaste personages zoals Peter Griffin en Cinnamoroll die racen.
Afbeelding: The Verge / The Verge AI
De demonstratie omvatte de Switch 2 die een aangepaste versie van Mario Kart World draaide met personages zoals Peter Griffin, Cinnamoroll en Steve uit Minecraft. Deze directe toepassing van de jailbreak voor gamemodificatie illustreert het potentieel van AI om creatieve expressie binnen bestaande digitale kaders te vergemakkelijken, zelfs die onder strikte controle. Voor AI-kunstmakers die vaak te maken hebben met intellectuele eigendomsrechten, benadrukt deze ontwikkeling een nieuwe grens waar AI-tools de creatie van afgeleide werken kunnen mogelijk maken of nieuwe inhoud kunnen introduceren in gevestigde ecosystemen. De mogelijkheid om snel code te genereren voor dergelijke modificaties zou het tempo van moddinggemeenschappen kunnen versnellen.
Dit incident roept ook vragen op voor platformhouders met betrekking tot digitaal rechtenbeheer (DRM) en systeembeveiliging. Als AI-tools kunnen helpen bij het snel ontdekken en exploiteren van kwetsbaarheden, kunnen bedrijven zoals Nintendo voor een versnelde uitdaging komen te staan bij het beveiligen van hun hardware en software. Het snelle tempo van AI-ontwikkeling betekent dat methoden voor bescherming en omzeiling snel evolueren, waardoor een dynamisch landschap ontstaat voor zowel makers die hun ervaringen willen aanpassen als bedrijven die hun intellectuele eigendom willen beschermen. Het gebruik van AI in deze context zou kunnen leiden tot meer geavanceerde tools voor zowel ethisch beveiligingsonderzoek als ongeautoriseerde toegang.
Naarmate AI-modellen vaardiger worden in codegeneratie en probleemoplossing, zal hun rol in reverse engineering en exploitontwikkeling waarschijnlijk toenemen. Deze trend zou individuele makers kunnen voorzien van geavanceerde tools om hun digitale omgevingen aan te passen, maar het roept ook verdere discussie op over de ethische grenzen en juridische implicaties van AI-ondersteunde exploits. Ontwikkelaars die AI in hun eigen projecten gebruiken, kunnen waarde vinden in het onderzoeken hoe deze tools de efficiëntie kunnen verbeteren, of het nu gaat om creatieve codering of om het begrijpen van systeemarchitecturen. Leren om afbeeldingen te genereren met AI, bijvoorbeeld, omvat vaak het begrijpen hoe prompts effectief te structureren, een vaardigheid die conceptuele parallellen deelt met het instrueren van een code-genererende AI.