Iris couvre la rencontre entre l'art IA et la culture : le style, la paternité des œuvres et les images qui comptent.
Inspiré par cette histoire ? Transformez l’idée en votre propre création par IA en quelques secondes — gratuit pour commencer, sans carte bancaire.
Commencer gratuitementChoisissez un compagnon et découvrez son avis sur cette histoire
Le prospectus d'IPO récemment déposé par Anthropic a dévoilé des détails significatifs sur sa stratégie d'« IA Constitutionnelle », une approche centrée sur la sécurité qui pourrait fondamentalement remodeler la manière dont les modèles d'IA, y compris ceux pour la génération d'images, sont développés et comment les créateurs interagissent avec leurs productions.
À la base, l'IA Constitutionnelle implique d'entraîner les modèles à évaluer et à réviser leurs propres productions en fonction d'un ensemble de principes prédéfinis. Au lieu d'un retour humain pour chaque décision de modération, l'IA elle-même apprend à appliquer une « constitution » de règles. Cela signifie que les modèles sont conçus pour être intrinsèquement plus sûrs, filtrant les réponses qui violent ces principes avant même qu'elles n'atteignent l'utilisateur. Par exemple, si une incitation pour un modèle de génération d'images pourrait conduire à un contenu potentiellement nuisible, un modèle entraîné constitutionnellement tenterait de recadrer ou de refuser la génération en fonction de ses directives internes.
La « constitution » elle-même est un ensemble de règles en cascade, s'inspirant de sources telles qu'une version modifiée des Lois de la Robotique d'Isaac Asimov et la Déclaration Universelle des Droits de l'Homme de l'ONU, comme l'a rapporté The MIT Technology Review. Cette approche stratifiée permet à l'IA de développer une compréhension nuancée de ce qui constitue une production acceptable ou inacceptable. Pour les créateurs travaillant avec l'art IA, cela pourrait se traduire par des modèles moins sujets à générer des images biaisées, explicites ou autrement problématiques, déplaçant le fardeau du filtrage éthique de l'utilisateur final vers l'architecture du modèle.
« L'entreprise entraîne des modèles d'IA non pas avec des retours humains, mais avec un ensemble de principes en cascade, y compris une version modifiée des Lois de la Robotique d'Isaac Asimov et la Déclaration Universelle des Droits de l'Homme de l'ONU. »
— The MIT Technology Review
Ce mécanisme d'auto-correction a des implications directes pour l'incitation. Les créateurs pourraient constater que les incitations très ambiguës ou éthiquement grises donnent des résultats plus cohérents et sûrs, ou sont carrément refusées, plutôt que de produire des images imprévisibles ou nuisibles. Cela suggère un avenir où la boussole éthique interne de l'IA est un facteur plus significatif dans la production finale qu'elle ne l'est dans de nombreux modèles actuels, où la sécurité repose souvent sur des filtres de post-traitement ou des rapports d'utilisateurs. Cela pourrait rendre le processus de génération d'images plus prévisible dans les limites éthiques, potentiellement rationalisant les flux de travail pour les artistes et designers professionnels qui ont besoin de contenu fiable et sûr pour leur marque.
Bien que l'accent mis sur la sécurité soit primordial, l'approche de l'IA Constitutionnelle pourrait également influencer la portée esthétique et thématique de l'art généré par l'IA. Les modèles entraînés selon des directives aussi strictes pourraient intrinsèquement tendre vers des interprétations visuelles plus conventionnelles ou « sûres », limitant potentiellement l'exploration de concepts artistiques avant-gardistes, provocateurs ou repoussant les limites. Les artistes habitués à la liberté illimitée, souvent chaotique, des modèles d'IA antérieurs pourraient se retrouver à devoir adapter leurs stratégies d'incitation pour s'aligner sur ces nouveaux cadres éthiques. C'est un compromis : fiabilité et sécurité accrues contre des frontières créatives potentiellement contraintes.
Pour ceux qui valorisent une liberté créative maximale, ce développement met en évidence la divergence continue des philosophies des modèles d'IA. Certains modèles privilégient la production brute et le contrôle de l'utilisateur, tandis que d'autres, comme ceux d'Anthropic, intègrent la sécurité plus profondément dans leur cœur. Les créateurs devront de plus en plus choisir leurs outils non seulement en fonction de la qualité ou de la vitesse de l'image, mais aussi en fonction des philosophies éthiques et créatives sous-jacentes qui régissent leur développement. Cela pourrait entraîner une plus grande demande pour une gamme diversifiée de modèles, chacun répondant à des besoins artistiques et des considérations éthiques différents, un peu comme la façon dont les différents mouvements artistiques privilégient des valeurs esthétiques distinctes. Comprendre ces distinctions est crucial pour quiconque cherche à maîtriser l'art de la génération d'images IA. À mesure que le paysage de l'IA évolue, le choix du modèle reflétera de plus en plus la position d'un créateur sur ces questions fondamentales.
Regarder : La stratégie d'« IA Constitutionnelle » d'Anthropic
Cette initiative d'Anthropic souligne une tendance croissante de l'industrie à intégrer des pratiques d'IA responsables dès le départ, plutôt qu'après coup. Elle signale un avenir où les modèles d'IA ne sont pas seulement puissants, mais aussi conçus avec une boussole morale, visant à prévenir les abus et à favoriser la confiance dans la technologie. Ce changement pourrait établir une nouvelle norme pour le développement de l'IA, influençant la façon dont les autres fournisseurs abordent l'entraînement des modèles et la modération du contenu, et façonnant finalement la culture visuelle générée par l'IA pour les années à venir.
