Джерела
Зроби її своєю
Надихнула ця історія? Перетвори ідею на власне ШІ-мистецтво за лічені секунди — безкоштовний старт, без банківської картки.
Почати безкоштовноОбговори це з
Обери компаньйона і дізнайся його думку про цю історію

Мая проганяє через бенчмарки кожен новий реліз — спершу цифри, жодного хайпу.
Надихнула ця історія? Перетвори ідею на власне ШІ-мистецтво за лічені секунди — безкоштовний старт, без банківської картки.
Почати безкоштовноОбери компаньйона і дізнайся його думку про цю історію
Дослідник з безпеки продемонстрував, що приватні дані користувачів, включаючи особисту ідентифікаційну інформацію, можуть бути вилучені з вихідних даних загальнодоступних моделей ШІ, виявляючи критичну вразливість у ланцюжку постачання ШІ. Це означає, що творці, які використовують моделі ШІ для генерації зображень або персонажів, можуть ненавмисно викрити свої приватні дані, якщо вони були включені до навчальних даних.\n\n## Основні висновки\n\n* Дослідник вбудував 2 мільйони унікальних, відстежуваних «канарок» (секретних точок даних) у загальнодоступні набори даних для навчання моделей ШІ.\n* Ці канарки були успішно вилучені з вихідних даних кількох популярних моделей ШІ, доводячи, що приватні дані недостатньо анонімізовані або захищені.\n* Результати підкреслюють системний ризик конфіденційності для осіб, чиї дані використовуються для навчання моделей ШІ, навіть якщо вони ніколи безпосередньо не взаємодіють з моделями.\n* Для творців ШІ-арту це підкреслює важливість ретельного вивчення політики управління даними платформ і моделей, які вони використовують, оскільки їхні підказки та згенерований контент також можуть бути під загрозою.\n\n## Пастка «Канарка»: як дані виходять з моделей ШІ\n\nДослідник, який вирішив залишитися анонімним, систематично ввів приблизно 2 мільйони унікальних «канарок» у різні публічні набори даних, які зазвичай використовуються для навчання моделей ШІ. Ці канарки були розроблені як відмінні та відстежувані, імітуючи реальні приватні точки даних. Метою було з'ясувати, чи з'являться ці закладені секрети у вихідних даних моделей ШІ, навчених на цих наборах даних. Експеримент підтвердив, що вони з'явилися, зі значною швидкістю вилучення з кількох моделей, включаючи великі мовні моделі (LLM) та моделі генерації зображень. Це не теоретично; були відновлені конкретні імена, адреси електронної пошти та інша конфіденційна інформація.\n\nМеханізм цих витоків часто є поєднанням недостатньої анонімізації даних під час навчання та схильності моделей запам'ятовувати та відтворювати частини своїх навчальних даних. Хоча розробники ШІ часто стверджують, що фільтрують або анонімізують конфіденційну інформацію, це дослідження показує, що ці заходи недостатньо надійні. Для творців це означає, що якщо їхні особисті дані або навіть власні графічні активи якимось чином потрапляють до навчального набору моделі, існує відчутний ризик того, що ці дані будуть відтворені в згенерованому вихідному файлі іншим користувачем.\n\n## Наслідки для творців ШІ-арту та безпеки даних\n\nЦя вразливість виходить за рамки простих текстових підказок. Для творців ШІ-арту, які генерують зображення або персонажів, наслідки є прямими: будь-які унікальні стилістичні елементи, власні мотиви або навіть вбудовані метадані, які потрапляють до навчальних даних, потенційно можуть бути відтворені. Це розмиває межі інтелектуальної власності та конфіденційності таким чином, що важко контролювати, як тільки дані поглинаються моделлю. Це також підкреслює занепокоєння для користувачів ШІ-компаньйонів, де розмовні дані теоретично можуть бути запам'ятовані та відтворені.\n\nПлатформи, такі як Charmloop, які надають інструменти для генерації зображень ШІ, часто покладаються на базові моделі або доопрацьовують їх за допомогою додаткових наборів даних. Прозорість цих базових наборів даних та їх політика управління даними стає першочерговою. Творці повинні усвідомлювати, що «чорний ящик» багатьох моделей ШІ означає, що після поглинання даних їхня доля значною мірою знаходиться поза їхнім контролем. Це робить вибір моделі та платформи критичним рішенням щодо конфіденційності, а не лише творчим.\n\n## Заклик до посилення управління даними ШІ\n\nЗа даними Ars Technica, висновки дослідника вказують на «дірявий ланцюжок постачання ШІ», який викриває секретні дані користувачів з тривожною швидкістю. Це підкреслює нагальну потребу в більш суворих практиках управління даними, кращих методах анонімізації та чіткішому розкритті інформації від розробників ШІ щодо їхніх джерел навчальних даних та заходів захисту конфіденційності. Регуляторні органи все частіше перевіряють практики даних ШІ, але технічні рішення відстають. Доки не будуть впроваджені більш надійні засоби захисту, творці повинні припускати, що будь-які дані, якими б неясними вони не здавалися, потенційно можуть бути вилучені з вихідних даних моделі ШІ. Це може вплинути на те, як творці вирішують ліцензувати свою роботу або робити внесок у публічні набори даних, особливо для тих, хто покладається на унікальні стилі або особистий бренд.\n\nДослідження підтверджує ідею, що конфіденційність даних в епоху ШІ є спільною відповідальністю, що вимагає пильності від користувачів, розробників та регуляторів. Оскільки моделі ШІ стають все більш складними та інтегрованими в повсякденні творчі робочі процеси, забезпечення безпеки базових даних буде постійним викликом. Творці, які шукають моделі з прозорою політикою даних, можуть вивчити моделі ШІ з відкритою вагою, які пропонують більше інформації про джерела своїх навчальних даних.