El fiscal de la ciudad de San Francisco ha ordenado a Apple y Google eliminar las aplicaciones de desnudez con IA de sus respectivas tiendas de aplicaciones, argumentando que ambas empresas se han beneficiado económicamente —probablemente con millones de dólares en comisiones— de herramientas diseñadas para generar imágenes íntimas sin consentimiento.
Puntos clave
- El fiscal de la ciudad de San Francisco emitió órdenes formales a Apple y Google exigiendo la eliminación de las aplicaciones de desnudez con IA de la App Store y Google Play.
- Las estimaciones oficiales sugieren que ambas plataformas recaudaron colectivamente millones en comisiones provenientes de estas aplicaciones.
- La acción apunta a las plataformas como beneficiarias comerciales, no solo a los propios desarrolladores de las aplicaciones.
- La medida representa la presión gubernamental más directa hasta la fecha sobre las principales tiendas de aplicaciones para que controlen las herramientas de generación de imágenes con IA que producen imágenes íntimas sin consentimiento.
- Ninguna de las dos empresas ha confirmado públicamente su cumplimiento desde la emisión de la orden.
El argumento de la plataforma como beneficiaria
Según Ars Technica, la oficina del fiscal enmarcó el caso directamente en torno al dinero: Apple y Google no se limitan a alojar estas aplicaciones de forma pasiva, sino que perciben una comisión estándar de entre el 15 y el 30 % de las compras dentro de la aplicación y las cuotas de suscripción. Cuando las aplicaciones de desnudez se monetizan mediante suscripciones, esos ingresos fluyen directamente hacia las plataformas. La teoría jurídica sostiene que aceptar esa comisión convierte a ambas empresas en participantes activas del daño causado, y no en meros intermediarios neutrales.
Este enfoque tiene implicaciones para el ecosistema más amplio del arte con IA. Los reguladores tratan cada vez más la capa de infraestructura —tiendas de aplicaciones, proveedores de API, servidores en la nube— como legalmente responsable de lo que se ejecuta sobre ella. La misma lógica que se aplica a las aplicaciones de desnudez podría, en acciones futuras, extenderse a cualquier herramienta de generación de imágenes que los reguladores consideren que produce contenido dañino a gran escala.
Qué hacen realmente las aplicaciones de «desnudez» y por qué son diferentes
Las aplicaciones de desnudez con IA son una categoría específica de herramienta de imagen: toman una fotografía vestida de una persona real y generan una versión sintética desnuda sin el conocimiento ni el consentimiento de esa persona. Esto las distingue claramente de los generadores de imágenes con IA de propósito general, donde el usuario construye una imagen a partir de un texto descriptivo o sube imágenes de referencia que él mismo controla. El uso no consensuado de la imagen de una persona real es el problema jurídico y ético central, y es lo que separa esta categoría de las herramientas creativas más amplias que los creadores de arte con IA utilizan a diario en plataformas como el generador de Charmloop.
Conviene mantener clara esta distinción: esta acción no es un ataque frontal contra la generación de imágenes con IA como práctica. Apunta a un caso de uso concreto que viola el consentimiento. Sin embargo, el impulso regulatorio que genera es real, y cualquier plataforma que aloje herramientas de generación de imágenes está observando ahora cómo responden Apple y Google.
La política de las tiendas de aplicaciones siempre ha sido el eslabón débil
Tanto Apple como Google cuentan con políticas existentes que prohíben nominalmente las aplicaciones que generan imágenes íntimas sin consentimiento. La acción del fiscal es, en esencia, una acusación de que esas políticas no se aplicaron: las aplicaciones pasaron la revisión, permanecieron activas el tiempo suficiente para generar ingresos sustanciales por suscripciones y fueron eliminadas —si es que lo fueron— solo bajo presión externa.
Para los creadores con IA, esta brecha en la aplicación tiene una consecuencia práctica: las tiendas de aplicaciones son un canal de distribución poco fiable para cualquier herramienta de imagen con IA que opere cerca de los límites de las políticas de contenido. Los desarrolladores que crean herramientas creativas legítimas llevan tiempo quejándose de que el proceso de revisión de Apple es inconsistente y opaco. Este caso añade presión política que podría empujar a Apple y Google hacia restricciones generales sobre las aplicaciones de generación de imágenes con IA, el tipo de corrección excesiva que atrapa herramientas legítimas en la misma red que las dañinas.
Qué viene a continuación
El fiscal de la ciudad de San Francisco no tiene jurisdicción federal, por lo que la fuerza legal de la orden depende de la legislación de California y de la disposición de Apple y Google a cumplirla en lugar de litigar. Ninguna de las dos empresas ha confirmado públicamente que vaya a eliminar las aplicaciones señaladas. Si se resisten, el caso podría sentar un precedente —o exponer los límites de la autoridad municipal sobre las plataformas globales de distribución de aplicaciones.
Para los creadores que construyen flujos de trabajo en torno a herramientas de imagen con IA, la señal más inmediata es legislativa: varios estados y el gobierno federal están impulsando proyectos de ley que criminalizarían explícitamente las imágenes íntimas generadas por IA sin consentimiento. Esas leyes, a diferencia de la carta de un fiscal municipal, conllevarían sanciones ejecutables y podrían redefinir qué pueden hacer los modelos de generación de imágenes —y qué filtros de seguridad están legalmente obligados a incorporar los proveedores. Mantenerse al día sobre esa evolución regulatoria es tan importante como seguir los lanzamientos de modelos. Nuestra cobertura anterior sobre la demanda de xAI contra usuarios de Grok por generación de CSAM muestra la rapidez con que se está moviendo el panorama legal en torno a las imágenes dañinas generadas por IA.
