Un chercheur en sécurité a démontré que des données privées d'utilisateurs, y compris des informations personnellement identifiables, peuvent être extraites de la sortie de modèles d'IA accessibles au public, révélant une vulnérabilité critique dans la chaîne d'approvisionnement de l'IA. Cela signifie que les créateurs utilisant des modèles d'IA pour la génération d'images ou de personnages pourraient involontairement voir leurs données privées exposées si elles étaient incluses dans les données d'entraînement.
Points clés à retenir
- Un chercheur a intégré 2 millions de « canaris » (points de données secrets) uniques et traçables dans des ensembles de données d'entraînement de modèles d'IA accessibles au public.
- Ces canaris ont été extraits avec succès des sorties de plusieurs modèles d'IA populaires, prouvant que les données privées ne sont pas suffisamment anonymisées ou sécurisées.
- Les résultats mettent en évidence un risque systémique pour la vie privée des personnes dont les données sont utilisées pour entraîner des modèles d'IA, même si elles n'interagissent jamais directement avec les modèles.
- Pour les créateurs d'art IA, cela souligne l'importance d'examiner attentivement les politiques de gouvernance des données des plateformes et des modèles qu'ils utilisent, car leurs invites et leur contenu généré pourraient également être à risque.
Le piège du canari : comment les données s'échappent des modèles d'IA
Le chercheur, qui a choisi de rester anonyme, a systématiquement injecté environ 2 millions de « canaris » uniques dans divers ensembles de données publics couramment utilisés pour l'entraînement de modèles d'IA. Ces canaris ont été conçus pour être distincts et traçables, imitant des points de données privés du monde réel. L'objectif était de voir si ces secrets plantés referaient surface dans les sorties des modèles d'IA entraînés sur ces ensembles de données. L'expérience a confirmé qu'ils l'ont fait, avec un taux d'extraction notable à partir de plusieurs modèles, y compris des grands modèles linguistiques (LLM) et des modèles de génération d'images. Ce n'est pas théorique ; des noms spécifiques, des adresses e-mail et d'autres informations sensibles ont été récupérés.
Le mécanisme derrière ces fuites est souvent une combinaison d'une anonymisation insuffisante des données pendant l'entraînement et de la tendance des modèles à mémoriser et à reproduire des portions de leurs données d'entraînement. Bien que les développeurs d'IA affirment souvent filtrer ou anonymiser les informations sensibles, cette recherche indique que ces mesures ne sont pas suffisamment robustes. Pour les créateurs, cela signifie que si leurs données personnelles, ou même des actifs d'image propriétaires, entrent d'une manière ou d'une autre dans l'ensemble d'entraînement d'un modèle, il existe un risque tangible que ces données soient reproduites dans une sortie générée par un autre utilisateur.
Implications pour les créateurs d'art IA et la sécurité des données
Cette vulnérabilité s'étend au-delà des simples invites textuelles. Pour les créateurs d'art IA générant des images ou des personnages, les implications sont directes : tout élément stylistique unique, motif propriétaire ou même métadonnées intégrées qui se retrouvent dans les données d'entraînement pourraient potentiellement être reproduits. Cela brouille les lignes de la propriété intellectuelle et de la vie privée d'une manière difficile à contrôler une fois que les données sont ingérées par un modèle. Cela soulève également des préoccupations pour les utilisateurs de compagnons IA, où les données conversationnelles pourraient théoriquement être mémorisées et régurgitées.
Les plateformes comme Charmloop qui fournissent des outils de génération d'images IA s'appuient souvent sur des modèles fondamentaux ou les affinent avec des ensembles de données supplémentaires. La transparence de ces ensembles de données sous-jacents et de leurs politiques de gouvernance des données devient primordiale. Les créateurs doivent être conscients que la nature de « boîte noire » de nombreux modèles d'IA signifie qu'une fois les données absorbées, leur sort est largement hors de leur contrôle. Cela fait du choix du modèle et de la plateforme une décision critique en matière de confidentialité, et pas seulement une décision créative.
Un appel à une gouvernance plus stricte des données de l'IA
Selon Ars Technica, les découvertes du chercheur mettent en évidence une « chaîne d'approvisionnement de l'IA fuyante » qui expose les données secrètes des utilisateurs à un rythme alarmant. Cela souligne le besoin urgent de pratiques de gouvernance des données plus strictes, de meilleures techniques d'anonymisation et d'une divulgation plus claire de la part des développeurs d'IA concernant leurs sources de données d'entraînement et leurs mesures de protection de la vie privée. Les organismes de réglementation examinent de plus en plus les pratiques en matière de données de l'IA, mais les solutions techniques sont à la traîne. Tant que des protections plus solides ne seront pas mises en place, les créateurs devraient supposer que toute donnée, aussi obscure soit-elle, pourrait potentiellement être extraite de la sortie d'un modèle d'IA. Cela pourrait influencer la façon dont les créateurs choisissent de licencier leur travail ou de contribuer à des ensembles de données publics, en particulier pour ceux qui dépendent de styles uniques ou de leur marque personnelle.
La recherche renforce l'idée que la confidentialité des données à l'ère de l'IA est une responsabilité partagée, nécessitant la vigilance des utilisateurs, des développeurs et des régulateurs. À mesure que les modèles d'IA deviennent plus sophistiqués et intégrés dans les flux de travail créatifs quotidiens, assurer la sécurité des données sous-jacentes sera un défi continu. Les créateurs à la recherche de modèles avec des politiques de données transparentes pourraient explorer les modèles d'IA à poids ouverts qui offrent plus d'informations sur leurs sources de données d'entraînement.