Тео перетворює новини про ШІ на те, що можна спробувати вже сьогодні ввечері.
Отримуй на пошту головні історії тижня про ШІ та ШІ-арт — відібрані, стислі, безкоштовно.
Безкоштовно. Відписатися можна будь-коли.
Обери компаньйона і дізнайся його думку про цю історію
Google заморозив свою програму винагород за помилки у відкритому коді після «значного зростання» кількості згенерованих ШІ заявок, що унеможливило відокремлення реальних вразливостей від машинного шуму — конкретний приклад того, як автоматизований вивід ШІ починає руйнувати системи, побудовані для обсягів людського масштабу.
Програми винагород за помилки працюють за простим принципом: досвідчений дослідник знаходить реальну вразливість, описує її, а рецензент-людина оцінює звіт. Вузьким місцем завжди є час рецензента. Коли ШІ-інструменти роблять генерацію правдоподібних звітів про вразливості тривіально дешевою — навіть таких, що не витримують перевірки, — це вузьке місце повністю руйнується.
За даними TechCrunch, обсяг згенерованих ШІ заявок зріс до такої міри, що співвідношення сигнал/шум зробило програму функціонально непрацездатною. Відповіддю Google стало заморожування програми, а не допущення того, щоб неякісні звіти продовжували ховати законні.
Це не історія про те, як ШІ знаходить помилки. Це про те, як ШІ відтворює форму звіту про помилку — структуровану, технічно звучну, правильно відформатовану — без змісту. Та сама динаміка застосовується скрізь, де структурований шаблон зустрічається з генеративною моделлю без жодного тертя на етапі подання.
Google заморозив свою програму винагород за помилки у відкритому коді після сплеску згенерованих ШІ звітів, за даними TechCrunch.
Зображення: TechCrunch / TechCrunch AI
Творці, які використовують ШІ-інструменти для масового генерування зображень, персонажів або відео, вже знайомі з вихідною стороною цього рівняння — пакетний рендеринг десятків варіацій, масштабування у великих обсягах, ітерація промптів у рамках запуску моделі. Ситуація з Google є дзеркальним відображенням системи прийому: що відбувається, коли приймальний кінець конвеєра не був побудований для пропускної здатності обсягів ШІ.
Платформи, що приймають надіслані спільнотою ресурси, стайл-паки, моделі LoRA або бібліотеки промптів, стикаються з таким самим структурним тиском. Якщо ви надсилаєте роботи до будь-якого відкритого каталогу або черги модерації спільноти, очікуйте збільшення часу рецензування та посилення стандартів подання — не тому, що ваша робота підозріла, а тому, що рецензенти тепер тонуть у згенерованому ШІ наповнювачі від інших учасників.
Для творців, які покладаються на генерацію зображень за допомогою ШІ як на професійний робочий процес, практичний висновок такий: диференціація за якістю стає дедалі ціннішою, а не менш. Коли обсяг є дешевим для всіх, увагу привертають ті заявки, що демонструють чітке людське судження — конкретне творче завдання, добре обґрунтоване пояснення промпту, свідчення ітерації.
Заморозка також порушує гостре питання щодо дослідження безпеки за допомогою ШІ в ширшому контексті. Такі інструменти, як власні моделі Gemini від Google, частково позиціонувалися як засоби для пошуку вразливостей — Google Gemini 4 Argon був явно обмежений для перевірених партнерів у сфері кібербезпеки, частково щоб запобігти зловживанням. Ситуація з програмою винагород свідчить про те, що навіть добросовісне дослідження безпеки за допомогою ШІ, коли воно масштабується без воріт якості, створює таке саме перевантаження, як і недобросовісний спам.
Google не оголосив, коли програма винагород у відкритому коді відновить роботу або яких змін вона потребуватиме — жодної переглянутої політики подання заявок, жодної вимоги щодо розкриття використання ШІ, жодних деталей автоматизованої попередньої перевірки не було оприлюднено. Поки ці запобіжники не оголошено, програма залишається замороженою.
Для ширшої екосистеми більш стійкий висновок є структурним: будь-яка відкрита система подання без тертя врешті-решт буде випробувана обсягами ШІ. Платформи, що переживуть це, будуть тими, хто побудує ворота якості до заморозки, а не після.
