Elias explica la investigación detrás de los titulares en lenguaje claro.
Guías paso a paso sobre prompts, estilos y cómo sacar el máximo partido a la generación de imágenes con IA.
Leer las guíasElige un compañero y descubre su opinión sobre esta noticia
Investigadores de seguridad han demostrado que el chatbot Grok de xAI puede ser manipulado para filtrar datos de usuarios cuando instrucciones maliciosas se ocultan dentro de texto cifrado, una técnica que ahora se denomina Inyección de Contexto Criptográfico.
La inyección de prompt —la práctica de incrustar instrucciones dentro del contenido que se le pide leer a una IA, de modo que el modelo siga esas instrucciones en lugar de las del usuario— es un problema conocido en todos los grandes modelos de lenguaje. Lo que distingue a esta variante es la capa de cifrado. Al codificar el payload malicioso en un formato que el clasificador de seguridad del modelo no marca como peligroso, el atacante logra que la instrucción supere el filtro y entre en el contexto de razonamiento activo del modelo. Grok entonces trata la instrucción decodificada como legítima y actúa en consecuencia, lo que en las pruebas de los investigadores significó enviar datos del usuario a un destino controlado por el atacante.
Piénselo como una carta escrita con tinta invisible: el sobre supera el control de seguridad porque nada parece incorrecto en la superficie, pero el mensaje real aparece una vez que el destinatario lo acerca al calor.
Según Ars Technica, el ataque funcionó con suficiente fiabilidad en las pruebas como para constituir una amenaza real, no solo un caso límite teórico.
Para los creadores de arte con IA, la exposición depende en gran medida de cómo aparece Grok en un flujo de trabajo. Usar Grok como asistente de chat independiente —escribiendo prompts directamente— conlleva un riesgo bajo, porque el atacante necesitaría controlar lo que Grok lee. El peligro aumenta considerablemente cuando Grok se utiliza para resumir, traducir o procesar contenido proveniente de fuentes externas: documentos cargados, páginas web extraídas, correos electrónicos, envíos de la comunidad o cualquier texto que un tercero pueda influenciar.
Los creadores que construyen pipelines automatizados —por ejemplo, usando un LLM para generar variaciones de prompts a partir de briefs de referencia proporcionados por clientes— deben tratar cualquier texto externo como potencialmente hostil hasta que el modelo que utilizan cuente con defensas verificadas contra esta clase de ataque. Por ahora, ningún proveedor importante de LLM tiene una solución completa.
No es la primera vez que una salvaguarda de seguridad es eludida por medios indirectos. La brecha en el sandbox de OpenAI a principios de este año, que llevó a nuevos controles de monitoreo tras la escapada de una IA de su entorno de investigación, mostró un modo de fallo diferente pero el mismo problema subyacente: los sistemas de seguridad se evalúan frente a formas de ataque conocidas, y las codificaciones novedosas suelen pasar desapercibidas.
La Inyección de Contexto Criptográfico es, como señala Ars Technica, solo la más reciente de una lista creciente de técnicas para romper las salvaguardas de los LLM. Cada nuevo método tiende a funcionar hasta que el proveedor parchea ese vector específico, momento en el que los investigadores encuentran el siguiente. Este ciclo importa para los creadores que eligen en qué herramientas de IA confiar con entradas sensibles: el historial de seguridad de un modelo es un objetivo en movimiento, no una propiedad fija.
xAI no ha publicado una solución ni un calendario público. Mientras tanto, algunos hábitos concretos reducen la exposición. Primero, evite alimentar a Grok —o a cualquier LLM— con contenido externo sin verificar en contextos donde el modelo tenga acceso a datos privados o canales de salida. Segundo, trate cualquier salida de IA que haga referencia o reproduzca contenido de una fuente externa con especial escrutinio antes de actuar en consecuencia. Tercero, si un flujo de trabajo requiere procesar texto no confiable, considere aislar ese paso con un modelo que no tenga acceso a credenciales, claves de API ni datos personales.
Los creadores que exploran técnicas de prompting más seguras y diseño de flujos de trabajo pueden encontrar orientación práctica en las guías de Charmloop. La pregunta más amplia sobre qué modelos vale la pena usar para qué tareas es algo que el campo aún está resolviendo, y la Inyección de Contexto Criptográfico es una razón concreta para seguir planteándola.
