¿Te inspiró esta historia? Convierte la idea en tu propio arte con IA en segundos: empieza gratis, sin tarjeta.
El nuevo sistema Content Seal de Meta puede detectar imágenes generadas por IA en Facebook e Instagram, pero solo si esas imágenes fueron creadas con el modelo Muse de la propia empresa, dejando prácticamente todo lo demás sin detectar.
El Consejo de Supervisión instó a Meta en marzo a «cumplir sus compromisos públicos y utilizar sus propias herramientas» para reducir la difusión de contenido de IA generativa engañoso. La respuesta de Meta en julio —Content Seal— es técnicamente funcional pero operativamente limitada. La herramienta de detección muestra una señal clara cuando encuentra una imagen generada con Muse, incluidos metadatos sobre el modelo y la fecha de generación.
La información que se muestra cuando la herramienta Content Seal de Meta identifica con éxito una imagen creada con su propio modelo Muse.
Imagen: The Verge / The Verge AI
Para los creadores de arte con IA, la brecha práctica es evidente. La gran mayoría de las imágenes de IA que circulan en Facebook e Instagram no fueron creadas con Muse, sino con Midjourney, DALL-E 3, Flux o variantes de Stable Diffusion. Content Seal no puede hacer nada con ninguna de ellas. Según The Verge, SynthID de Google ya admite una gama más amplia de generadores y representa el enfoque de detección multiplataforma más creíble.
La herramienta de Meta muestra este mensaje cuando no se encuentran marcadores de Content Seal, pero la ausencia de un marcador no confirma que una imagen sea auténtica.
Imagen: The Verge / The Verge AI
SynthID, el estándar de marcas de agua de Google, fue diseñado desde el principio para funcionar con distintos generadores, incluidos modelos de terceros que opten por participar. Esa arquitectura significa que un único detector puede cubrir una porción significativa del contenido generado por IA. Content Seal, por diseño o por limitación, cubre exactamente uno: Muse. Para los creadores a quienes les importa la procedencia —ya sea porque quieren que su propio trabajo esté correctamente atribuido o porque quieren saber si una imagen de referencia encontrada en línea fue generada por IA— esta distinción es enormemente relevante.
La herramienta tampoco sobrevive al posprocesado básico. Una compresión intensa, el recorte o la corrección de color pueden eliminar o corromper las marcas de agua invisibles. Meta no ha publicado detalles sobre la robustez de Content Seal frente a esas transformaciones, que son habituales en el uso compartido en redes sociales.
Si generas imágenes con herramientas como Flux o Midjourney y las publicas en Instagram, Content Seal no las etiquetará como generadas por IA, aunque tú quieras que lo haga. Esto tiene consecuencias en ambos sentidos: los creadores que desean que su trabajo de IA esté etiquetado de forma transparente no reciben ninguna ayuda de este sistema, y los actores malintencionados que usan cualquier generador que no sea de Meta no encuentran ningún obstáculo.
El generador de imágenes de Charmloop y la mayoría de las herramientas de terceros quedan igualmente fuera del alcance de Content Seal. Para los creadores que navegan por cuestiones de atribución y autenticidad, el hábito más útil en este momento es divulgar manualmente la generación por IA en los pies de foto y los metadatos, porque ningún sistema de detección de la plataforma cubre actualmente toda la gama de herramientas en uso activo.
El catálogo de modelos de IA de Meta incluye Muse junto con sus otras herramientas generativas, pero el detector de Content Seal solo es tan útil como el ecosistema que cubre. Hasta que Meta no licencie SynthID, establezca asociaciones entre modelos o abra su estándar de marcas de agua a terceros, Content Seal funciona más como una capa de protección de marca para Muse que como una solución significativa al engaño con contenido de IA a escala.
El Consejo de Supervisión aún no ha respondido públicamente al lanzamiento de julio, y dado lo limitadamente que Content Seal aborda el mandato original, esa respuesta podría ser contundente cuando llegue.
