De stadsadvocaat van San Francisco heeft Apple en Google opgedragen AI-naaktapps uit hun respectieve appstores te verwijderen, met het argument dat beide bedrijven hebben geprofiteerd — waarschijnlijk voor miljoenen dollars aan kosten — van tools die zijn ontworpen om niet-consensuele intieme beelden te genereren.
Belangrijkste punten
- De stadsadvocaat van San Francisco heeft formele opdrachten uitgevaardigd aan Apple en Google met de eis AI-naaktapps te verwijderen uit de App Store en Google Play.
- Officiële schattingen suggereren dat beide platforms gezamenlijk miljoenen aan kosten hebben verdiend aan deze apps.
- De actie richt zich op de platforms als commerciële begunstigden, niet alleen op de app-ontwikkelaars zelf.
- De stap is de meest directe overheidsdruk tot nu toe op grote appstores om AI-beeldgeneratietools die niet-consensuele intieme beelden produceren aan te pakken.
- Noch Apple noch Google heeft publiekelijk bevestigd dat zij zich zullen schikken naar de opdracht op het moment van publicatie.
Het argument van het platform als profiteur
Volgens Ars Technica heeft het kantoor van de stadsadvocaat de zaak nadrukkelijk rondom geld geformuleerd: Apple en Google hosten deze apps niet passief — zij innen een standaard aandeel van 15–30% van in-app-aankopen en abonnementskosten. Wanneer naaktapps geld verdienen via abonnementen, stroomt die omzet rechtstreeks naar de platforms. De juridische redenering is dat het accepteren van dat aandeel beide bedrijven tot actieve deelnemers aan de schade maakt, niet tot neutrale doorgeefluiken.
Die formulering is van belang voor het bredere AI-kunstecosysteem. Toezichthouders behandelen de infrastructuurlaag — appstores, API-aanbieders, cloudhosts — steeds vaker als juridisch aansprakelijk voor wat erop draait. Dezelfde logica die van toepassing is op naaktapps zou in toekomstige acties kunnen worden uitgebreid naar elk beeldgeneratietool waarvan toezichthouders besluiten dat het op grote schaal schadelijke inhoud produceert.
Wat naaktapps werkelijk doen — en waarom ze anders zijn
Naaktapps zijn een specifieke categorie AI-beeldtools: ze nemen een geklede foto van een echte persoon en genereren een synthetische naaktversie zonder medeweten of toestemming van die persoon. Dat onderscheidt ze scherp van algemene AI-beeldgeneratoren, waarbij een gebruiker een afbeelding opbouwt vanuit een tekstprompt of referentiebeelden uploadt die hij zelf beheert. Het niet-consensuele gebruik van de beeltenis van een echte persoon is het kernprobleem — juridisch en ethisch — en dat is wat deze categorie onderscheidt van de bredere creatieve tools die AI-kunstmakers dagelijks gebruiken op platforms zoals de generator van Charmloop.
Het onderscheid is de moeite waard om helder te houden: deze actie is geen aanval op AI-beeldgeneratie als praktijk. Ze richt zich op een specifiek, toestemmingschendend gebruik. Maar de regelgevende dynamiek die ze opbouwt is reëel, en elk platform dat beeldgeneratietools host, kijkt nu nauwlettend hoe Apple en Google reageren.
Appstore-beleid was altijd al de zwakke schakel
Zowel Apple als Google heeft bestaand beleid dat apps die niet-consensuele intieme beelden genereren nominaal verbiedt. De actie van de stadsadvocaat is in wezen een beschuldiging dat dat beleid niet werd gehandhaafd — dat de apps door de beoordeling glippen, lang genoeg actief bleven om aanzienlijke abonnementsinkomsten te genereren, en (als ze al werden verwijderd) alleen onder externe druk werden verwijderd.
Voor AI-makers heeft deze handhavingskloof een praktisch gevolg: de appstores zijn een onbetrouwbaar distributiekanaal voor elke AI-beeldtool die dicht bij de grenzen van het inhoudsbeleid opereert. Ontwikkelaars die legitieme creatieve tools bouwen, klagen al lang dat het beoordelingsproces van Apple inconsistent en ondoorzichtig is. Deze zaak voegt politieke druk toe die Apple en Google zou kunnen aanzetten tot algehele beperkingen op AI-beeldgeneratie-apps — het soort overcorrectie dat legitieme tools in hetzelfde net vangt als schadelijke.
Wat er nu volgt
De stadsadvocaat van San Francisco heeft geen federale jurisdictie, dus de juridische kracht van de opdracht hangt af van de Californische wetgeving en de bereidheid van Apple en Google om te voldoen in plaats van te procederen. Geen van beide bedrijven heeft publiekelijk bevestigd dat het de gemarkeerde apps zal verwijderen. Als zij zich verzetten, zou de zaak een precedent kunnen scheppen — of de grenzen van de gemeentelijke bevoegdheid over mondiale appdistributieplatforms blootleggen.
Voor makers die workflows bouwen rondom AI-beeldtools is het meest directe signaal wetgevend: verschillende staten en de federale overheid werken aan wetsvoorstellen die niet-consensuele AI-gegenereerde intieme beelden expliciet strafbaar zouden stellen. Die wetten zouden, anders dan een brief van een stadsadvocaat, handhaafbare sancties met zich meebrengen en zouden kunnen hervormen wat beeldgeneratiemodellen mogen doen — en welke veiligheidsfilters aanbieders wettelijk verplicht zijn in te bouwen. Op de hoogte blijven van die regelgevende ontwikkeling is net zo belangrijk als het volgen van modelreleases. Onze eerdere berichtgeving over de rechtszaak van xAI tegen Grok-gebruikers wegens CSAM-generatie laat zien hoe snel het juridische landschap rondom AI-gegenereerde schadelijke beelden zich ontwikkelt.
