Источники
Сделай её своей
Вдохновила эта история? Преврати идею в собственное ИИ-искусство за секунды — бесплатный старт, без банковской карты.
Начать бесплатноОбсуди это с
Выбери компаньона и узнай его мнение об этой истории

Майя прогоняет через бенчмарки каждый новый релиз — сначала цифры, и никакого хайпа.
Вдохновила эта история? Преврати идею в собственное ИИ-искусство за секунды — бесплатный старт, без банковской карты.
Начать бесплатноВыбери компаньона и узнай его мнение об этой истории
Исследователь безопасности продемонстрировал, что частные пользовательские данные, включая персонально идентифицируемую информацию, могут быть извлечены из результатов работы общедоступных моделей ИИ, выявляя критическую уязвимость в цепочке поставок ИИ. Это означает, что создатели, использующие модели ИИ для генерации изображений или персонажей, могут непреднамеренно раскрыть свои частные данные, если они были включены в обучающие данные.\n\n## Основные выводы\n\n* Исследователь встроил 2 миллиона уникальных, отслеживаемых «канареек» (секретных точек данных) в общедоступные наборы данных для обучения моделей ИИ.\n* Эти «канарейки» были успешно извлечены из результатов работы нескольких популярных моделей ИИ, что доказывает, что частные данные недостаточно анонимизированы или защищены.\n* Полученные данные подчеркивают системный риск конфиденциальности для лиц, чьи данные используются для обучения моделей ИИ, даже если они никогда напрямую не взаимодействуют с моделями.\n* Для создателей ИИ-арта это подчеркивает важность тщательного изучения политики управления данными платформ и моделей, которые они используют, поскольку их запросы и сгенерированный контент также могут быть под угрозой.\n\n## Ловушка для «канареек»: как данные утекают из моделей ИИ\n\nИсследователь, который предпочел остаться анонимным, систематически внедрил около 2 миллионов уникальных «канареек» в различные общедоступные наборы данных, обычно используемые для обучения моделей ИИ. Эти «канарейки» были разработаны таким образом, чтобы быть отличительными и отслеживаемыми, имитируя реальные частные точки данных. Цель состояла в том, чтобы выяснить, появятся ли эти внедренные секреты в результатах работы моделей ИИ, обученных на этих наборах данных. Эксперимент подтвердил, что они появились, с заметной скоростью извлечения из нескольких моделей, включая большие языковые модели (LLM) и модели генерации изображений. Это не теория; были восстановлены конкретные имена, адреса электронной почты и другая конфиденциальная информация.\n\nМеханизм этих утечек часто представляет собой комбинацию недостаточной анонимизации данных во время обучения и тенденции моделей запоминать и воспроизводить части своих обучающих данных. Хотя разработчики ИИ часто заявляют о фильтрации или анонимизации конфиденциальной информации, это исследование показывает, что эти меры недостаточно надежны. Для создателей это означает, что если их личные данные или даже проприетарные графические активы каким-либо образом попадают в обучающий набор модели, существует ощутимый риск того, что эти данные будут воспроизведены в сгенерированном результате другим пользователем.\n\n## Последствия для создателей ИИ-арта и безопасности данных\n\nЭта уязвимость выходит за рамки простых текстовых запросов. Для создателей ИИ-арта, генерирующих изображения или персонажей, последствия прямые: любые уникальные стилистические элементы, проприетарные мотивы или даже встроенные метаданные, которые попадают в обучающие данные, потенциально могут быть воспроизведены. Это размывает границы интеллектуальной собственности и конфиденциальности таким образом, что трудно контролировать, как только данные поглощаются моделью. Это также подчеркивает опасения для пользователей ИИ-компаньонов, где данные разговоров теоретически могут быть запомнены и воспроизведены.\n\nПлатформы, такие как Charmloop, предоставляющие инструменты для генерации изображений ИИ, часто полагаются на базовые модели или донастраивают их с помощью дополнительных наборов данных. Прозрачность этих базовых наборов данных и их политики управления данными становится первостепенной. Создатели должны знать, что «черный ящик» многих моделей ИИ означает, что как только данные поглощены, их судьба в значительной степени находится вне их контроля. Это делает выбор модели и платформы критически важным решением для конфиденциальности, а не только творческим.\n\n## Призыв к более строгому управлению данными ИИ\n\nПо данным Ars Technica, выводы исследователя указывают на «дырявую цепочку поставок ИИ», которая раскрывает секретные пользовательские данные с тревожной скоростью. Это подчеркивает острую необходимость в более строгих практиках управления данными, улучшенных методах анонимизации и более четком раскрытии информации от разработчиков ИИ об их источниках обучающих данных и мерах защиты конфиденциальности. Регулирующие органы все чаще изучают практики работы с данными ИИ, но технические решения отстают. Пока не будут введены более надежные меры защиты, создатели должны предполагать, что любые данные, какими бы неясными они ни казались, потенциально могут быть извлечены из результатов работы модели ИИ. Это может повлиять на то, как создатели решают лицензировать свою работу или вносить вклад в общедоступные наборы данных, особенно для тех, кто полагается на уникальные стили или личный бренд.\n\nИсследование подтверждает идею о том, что конфиденциальность данных в эпоху ИИ является общей ответственностью, требующей бдительности как от пользователей, так и от разработчиков и регулирующих органов. По мере того как модели ИИ становятся все более сложными и интегрированными в повседневные творческие рабочие процессы, обеспечение безопасности базовых данных будет постоянной проблемой. Создатели, ищущие модели с прозрачной политикой данных, могут изучить модели ИИ с открытым весом, которые предлагают больше информации об их источниках обучающих данных.