Elias explica la investigación detrás de los titulares en lenguaje claro.
¿Te inspiró esta historia? Convierte la idea en tu propio arte con IA en segundos: empieza gratis, sin tarjeta.
Empieza gratisElige un compañero y descubre su opinión sobre esta noticia
OpenAI ha dejado de entrenar sus modelos de IA más avanzados, denominados «modelos frontera», con datos de internet en vivo, pasando en su lugar a un entorno de prueba aislado y sin conexión. Esta decisión, anunciada después de que declaraciones anteriores de un ingeniero de OpenAI sugirieran que tal solución sería inadecuada, tiene como objetivo mitigar los importantes riesgos de seguridad asociados con la interacción web en tiempo real durante el entrenamiento. Para los creadores de arte con IA, este cambio podría significar que los futuros modelos exhibirán diferentes comportamientos cuando se les solicite información sobre eventos actuales o en tiempo real, ya que su base de conocimientos subyacente será estática en lugar de actualizarse continuamente desde la web en vivo. Esto contrasta con enfoques anteriores en los que los modelos podían aprender de los datos más recientes disponibles en línea.
Anteriormente, los modelos de IA a veces accedían a internet en vivo durante sus fases de entrenamiento para recopilar datos, un proceso que podía exponerlos a vulnerabilidades imprevistas o permitirles interactuar con sistemas externos de formas no deseadas. El nuevo enfoque de OpenAI implica la creación de un entorno de prueba sin conexión donde estos modelos avanzados aún pueden interactuar con un vasto repositorio de contenido web, pero solo contenido que ha sido indexado y almacenado en caché. Esto significa que los modelos aprenden de una instantánea de internet, en lugar de su flujo en vivo en constante cambio. Esta configuración controlada está diseñada para evitar cualquier riesgo de afectar sistemas externos, abordando las preocupaciones sobre el potencial de un modelo para causar un impacto en el mundo real durante su desarrollo.
Para los creadores que utilizan modelos de IA para la generación de imágenes, este cambio es relevante porque la comprensión del mundo por parte de los modelos se forma durante el entrenamiento. Un modelo entrenado con un conjunto de datos estático y almacenado en caché podría no tener el conocimiento más actualizado de tendencias, eventos actuales o estilos visuales publicados recientemente. Si bien el ajuste fino y la generación aumentada por recuperación (RAG) pueden agregar datos más actuales después del entrenamiento, el conocimiento fundamental incrustado en el modelo central reflejará esta metodología de entrenamiento sin conexión. Esto podría conducir a una diferencia sutil pero importante en cómo los modelos interpretan las solicitudes relacionadas con fenómenos muy recientes, quizás haciéndolos menos expertos en generar imágenes que reflejen noticias de última hora o cultura efímera de internet sin una entrada adicional y explícita del usuario.
Este movimiento de OpenAI señala una priorización de la seguridad y el control sobre las capacidades de aprendizaje continuo y en tiempo real que el acceso a internet en vivo podría ofrecer. Si bien el impacto inmediato en los modelos disponibles públicamente, como los utilizados para la generación de imágenes, puede no ser evidente, sienta un precedente sobre cómo se desarrollarán los futuros modelos más potentes. Los creadores que dependen de la IA para generar contenido que necesita ser actual o contextualmente consciente de desarrollos muy recientes podrían encontrarse en la necesidad de proporcionar información más específica y actualizada dentro de sus solicitudes, en lugar de asumir que el modelo la ha aprendido de los últimos datos web. Esto podría afectar los flujos de trabajo que implican la generación de contenido basado en temas que evolucionan rápidamente.
La decisión también destaca la tensión actual entre permitir que los modelos de IA tengan un amplio acceso a la información para un aprendizaje integral y la necesidad de contener riesgos potenciales. El compromiso de OpenAI con un régimen de entrenamiento sin conexión sigue a un período de mayor escrutinio sobre la seguridad de la IA, incluidas las discusiones sobre el desarrollo y la implementación responsables de la IA. Esto es parte de una tendencia más amplia de la industria en la que los principales desarrolladores de IA se centran cada vez más en entornos controlados para sus modelos más potentes a fin de garantizar un comportamiento predecible y seguro. Este cambio también puede influir en cómo otros desarrolladores abordan sus propias estrategias de entrenamiento de modelos, lo que podría conducir a entornos de entrenamiento más aislados en toda la industria. Para aquellos interesados en el panorama regulatorio más amplio, hemos cubierto previamente los esfuerzos récord de lobby de OpenAI en Washington D.C., lo que indica su compromiso con las discusiones políticas sobre la seguridad y el desarrollo de la IA. Los creadores pueden explorar diferentes modelos y sus capacidades dentro del catálogo de modelos de Charmloop para comprender cómo se manifiestan los diversos enfoques de entrenamiento en la salida generativa.
