Sofia sigue el dinero, las políticas y las plataformas que definen lo que los creadores pueden hacer.
Recibe en tu correo las mejores historias de la semana sobre IA y arte con IA: seleccionadas, concisas y gratis.
Gratis. Cancela cuando quieras.
Elige un compañero y descubre su opinión sobre esta noticia
Expedientes judiciales recién desclasificados en el caso New York Times contra OpenAI revelan que tanto OpenAI como Microsoft documentaron de forma privada —en sus propios registros internos— que sus prácticas de entrenamiento de IA arriesgaban crear un «bucle de la perdición» que degradaría la web abierta, y que al menos un ejecutivo de Microsoft caracterizó el scraping como «el mayor robo de trabajo en la historia de la humanidad».
La expresión «bucle de la perdición» aparece en la propia documentación de las empresas, no en la demanda del Times. La lógica es directa y autoinculpatoria: los sistemas de IA rastrean la web para entrenarse con contenido, luego devuelven respuestas directamente a los usuarios en lugar de enviarlos a los sitios de origen, lo que priva a los editores del tráfico y los ingresos publicitarios necesarios para producir nuevo contenido, lo que degrada la web que esos mismos sistemas de IA necesitan para entrenarse en la siguiente generación. El bucle se estrecha con cada generación de modelos.
Una página de los expedientes judiciales desclasificados en la que el Director de Ciencia Aplicada de Microsoft describe la adquisición de datos de IA como 'un robo asombroso de proporciones sin precedentes'.
Imagen: The Verge / The Verge AI
La declaración de Satya Nadella es especialmente contundente. Según The Verge, Nadella admitió bajo juramento que las interacciones con chatbots «sustituían» a las visitas a los sitios web subyacentes, una concesión que respalda directamente la teoría del daño del Times. No se trata de una alegación de un escrito de la parte demandante; es el CEO del demandado dejando constancia en el expediente.
Por parte de OpenAI, los registros internos muestran que la empresa sabía desde 2021 que su API podría reproducir contenido existente de forma literal, y que prevenir la memorización era importante «para el cumplimiento del uso legítimo y para minimizar» la exposición legal. La empresa también señaló que estaba eludiendo muros de pago y violando términos de servicio al adquirir datos de entrenamiento, y que personas dentro de la organización trataban esos problemas como costes asumibles.
«Este caso trata sobre lo que el Director de Ciencia Aplicada de Microsoft describió como 'un robo asombroso de proporciones sin precedentes'; quizás el 'mayor robo de trabajo en la historia de la humanidad'.»
— Expediente judicial, NYT contra OpenAI
No es la primera vez que una gran empresa de IA se enfrenta a un ajuste de cuentas por el origen de sus datos de entrenamiento. Cuando Stability AI se enfrentó a alegaciones similares en 2023, la postura de la empresa era esencialmente que el scraping era un territorio legalmente sin resolver. Lo que hace que la situación de OpenAI y Microsoft sea estructuralmente diferente es que el lenguaje comprometedor proviene del interior de la propia casa: ejecutivos y científicos aplicados, no expertos adversariales.
Un expediente desclasificado que muestra el reconocimiento de OpenAI en 2021 de que su API podría reproducir contenido existente de forma literal, señalado como una preocupación de cumplimiento del uso legítimo.
Imagen: The Verge / The Verge AI
Para los creadores de arte con IA, las implicaciones son reales. Los conjuntos de datos de entrenamiento que sustentan los modelos de generación de imágenes se enfrentan a preguntas análogas sobre el scraping de contenido visual de la web sin compensación. Si el caso del NYT produce una sentencia —o un acuerdo con términos de licencia— que establezca un precedente para el texto, cabe esperar que ese marco se aplique a los datos de imagen casi de inmediato. Las plataformas que ya han avanzado hacia datos de entrenamiento licenciados o sintéticos obtendrían una ventaja estructural; las que aún dependen de rastreos web sin filtrar se enfrentarían a la misma exposición de responsabilidad que ahora se litiga en Manhattan.
El catálogo de modelos disponibles de Charmloop ya refleja parte de este cambio, con proveedores que distinguen cada vez más entre modelos entrenados con conjuntos de datos licenciados frente a los obtenidos por scraping, una distinción que está a punto de importar legalmente, no solo éticamente.
Nuestra cobertura anterior de los expedientes de Microsoft sin redactar expuso las divulgaciones iniciales de documentos; estos registros recién desclasificados van más lejos, incorporando directamente al expediente judicial el encuadre del «bucle de la perdición» y los reconocimientos sobre memorización.
El caso aún no tiene fecha de juicio fijada. El próximo momento determinante es la resolución del tribunal sobre las mociones de sentencia sumaria, una decisión que o bien forzará un acuerdo o llevará los documentos del «bucle de la perdición» ante un jurado.