Elias décrypte la recherche derrière les gros titres en langage clair.
Inspiré par cette histoire ? Transformez l’idée en votre propre création par IA en quelques secondes — gratuit pour commencer, sans carte bancaire.
Commencer gratuitementChoisissez un compagnon et découvrez son avis sur cette histoire
OpenAI a cessé d'entraîner ses modèles d'IA les plus avancés, appelés «modèles de pointe», sur des données internet en direct, se déplaçant plutôt vers un environnement de test isolé et hors ligne. Cette décision, annoncée après que des déclarations antérieures d'un ingénieur d'OpenAI aient suggéré qu'une telle solution serait inadéquate, vise à atténuer les risques significatifs de sécurité et de sûreté associés à l'interaction web en temps réel pendant l'entraînement. Pour les créateurs d'art IA, ce changement pourrait signifier que les futurs modèles présenteront des comportements différents lorsqu'ils seront sollicités pour des événements actuels ou des informations en temps réel, car leur base de connaissances sous-jacente sera statique plutôt que continuellement mise à jour à partir du web en direct. Cela contraste avec les approches précédentes où les modèles pouvaient potentiellement apprendre des données les plus récentes disponibles en ligne.
Précédemment, les modèles d'IA accédaient parfois à l'internet en direct pendant leurs phases d'entraînement pour collecter des données, un processus qui pouvait les exposer à des vulnérabilités imprévues ou leur permettre d'interagir avec des systèmes externes de manière involontaire. La nouvelle approche d'OpenAI implique la construction d'un environnement de test hors ligne où ces modèles avancés peuvent toujours interagir avec un vaste référentiel de contenu web, mais uniquement du contenu qui a été indexé et mis en cache. Cela signifie que les modèles apprennent à partir d'un instantané de l'internet, plutôt que de son flux en direct en constante évolution. Ce cadre contrôlé est conçu pour prévenir tout risque d'affecter des systèmes externes, répondant aux préoccupations concernant le potentiel d'un modèle à avoir un impact réel pendant son développement.
Pour les créateurs utilisant des modèles d'IA pour la génération d'images, ce changement est pertinent car la compréhension du monde par les modèles est façonnée pendant l'entraînement. Un modèle entraîné sur un ensemble de données statique et mis en cache pourrait ne pas avoir les connaissances les plus récentes sur les tendances, les événements actuels ou les styles visuels récemment publiés. Bien que le réglage fin et la génération augmentée par récupération (RAG) puissent ajouter des données plus récentes après l'entraînement, les connaissances fondamentales intégrées dans le modèle de base refléteront cette méthodologie d'entraînement hors ligne. Cela pourrait entraîner une différence subtile mais importante dans la façon dont les modèles interprètent les prompts liés à des phénomènes très récents, les rendant peut-être moins aptes à générer des images qui reflètent les dernières nouvelles ou la culture internet éphémère sans une entrée supplémentaire et explicite de l'utilisateur.
Cette décision d'OpenAI signale une priorisation de la sécurité et du contrôle par rapport aux capacités d'apprentissage continu et en temps réel que l'accès à l'internet en direct pourrait offrir. Bien que l'impact immédiat sur les modèles accessibles au public, comme ceux utilisés pour la génération d'images, puisse ne pas être évident, cela établit un précédent pour la façon dont les futurs modèles plus puissants seront développés. Les créateurs qui comptent sur l'IA pour générer du contenu qui doit être actuel ou contextuellement conscient des développements très récents pourraient se retrouver à devoir fournir des informations plus spécifiques et mises à jour dans leurs prompts, plutôt que de supposer que le modèle les a apprises à partir des dernières données web. Cela pourrait affecter les flux de travail qui impliquent la génération de contenu basé sur des sujets en évolution rapide.
La décision souligne également la tension continue entre l'octroi aux modèles d'IA d'un large accès à l'information pour un apprentissage complet et la nécessité de contenir les risques potentiels. L'engagement d'OpenAI envers un régime d'entraînement hors ligne fait suite à une période de surveillance accrue de la sécurité de l'IA, y compris des discussions autour du développement et du déploiement responsables de l'IA. Cela fait partie d'une tendance industrielle plus large où les principaux développeurs d'IA se concentrent de plus en plus sur des environnements contrôlés pour leurs modèles les plus puissants afin d'assurer un comportement prévisible et sûr. Ce changement pourrait également influencer la façon dont d'autres développeurs abordent leurs propres stratégies d'entraînement de modèles, conduisant potentiellement à des environnements d'entraînement plus isolés dans l'ensemble de l'industrie. Pour ceux qui s'intéressent au paysage réglementaire plus large, nous avons précédemment couvert les efforts de lobbying records d'OpenAI à Washington D.C., indiquant leur engagement dans les discussions politiques autour de la sécurité et du développement de l'IA. Les créateurs peuvent explorer différents modèles et leurs capacités dans le catalogue de modèles Charmloop pour comprendre comment diverses approches d'entraînement se manifestent dans la sortie générative.
