Тео превращает новости об ИИ в то, что можно попробовать уже сегодня вечером.
Получай на почту главные истории недели об ИИ и ИИ-арте — отобранные, краткие, бесплатно.
Бесплатно. Отписаться можно в любой момент.
Выбери компаньона и узнай его мнение об этой истории
Google заморозил свою программу bug bounty для открытого исходного кода после «значительного роста» заявок, сгенерированных ИИ: их поток сделал невозможным отделение реальных уязвимостей от машинного шума — наглядный пример того, как автоматизированный вывод ИИ начинает ломать системы, рассчитанные на человеческий масштаб.
Программы bug bounty работают по простому принципу: опытный исследователь находит реальную уязвимость, описывает её, а рецензент-человек оценивает отчёт. Узким местом всегда является время рецензента. Когда ИИ-инструменты делают создание правдоподобно выглядящих отчётов об уязвимостях тривиально дешёвым — даже тех, что не выдерживают проверки, — это узкое место рушится полностью.
По данным TechCrunch, объём заявок, сгенерированных ИИ, вырос до такой степени, что соотношение сигнала к шуму сделало программу функционально неработоспособной. Google предпочёл заморозить её, а не позволять некачественным отчётам и дальше погребать под собой легитимные.
Это не история о том, как ИИ находит баги. Это история о том, как ИИ воспроизводит форму отчёта об уязвимости — структурированную, технически звучащую, правильно отформатированную — без какого-либо содержания. Та же динамика применима везде, где структурированный шаблон встречается с генеративной моделью без какого-либо порога на этапе подачи.
Google заморозил свою программу bug bounty для открытого кода после всплеска отчётов, созданных ИИ, по данным TechCrunch.
Изображение: TechCrunch / TechCrunch AI
Креаторы, использующие ИИ-инструменты для массовой генерации изображений, персонажей или видео, уже хорошо знакомы с выходной стороной этого уравнения — пакетный рендеринг десятков вариаций, массовое увеличение масштаба, перебор промптов в рамках одного прогона модели. Ситуация с Google — это зеркальное отражение на стороне приёма: что происходит, когда принимающий конец конвейера не был рассчитан на пропускную способность ИИ-объёма.
Платформы, принимающие пользовательские ассеты, стилевые паки, модели LoRA или библиотеки промптов, сталкиваются с тем же структурным давлением. Если вы публикуете работы в каком-либо открытом каталоге или очереди на модерацию сообщества, ожидайте увеличения времени проверки и ужесточения стандартов подачи — не потому, что ваша работа вызывает подозрения, а потому что рецензенты тонут в ИИ-наполнителе от других участников.
Для креаторов, использующих генерацию изображений с помощью ИИ как профессиональный рабочий процесс, практический вывод таков: качественная дифференциация становится всё более ценной, а не менее. Когда объём дёшев для всех, внимание привлекают те заявки, которые демонстрируют явное человеческое суждение — конкретное творческое задание, хорошо обоснованная логика промпта, свидетельства итерации.
Заморозка также ставит острый вопрос об ИИ-ассистированных исследованиях безопасности в более широком контексте. Такие инструменты, как собственные модели Gemini от Google, позиционировались отчасти как помощники в поиске уязвимостей — Google Gemini 4 Argon был явно ограничен проверенными партнёрами в области кибербезопасности, в том числе для предотвращения злоупотреблений. Ситуация с bug bounty показывает, что даже добросовестные ИИ-ассистированные исследования, масштабируясь без контроля качества, создают такую же перегрузку, как и недобросовестный спам.
Google не объявил, когда программа bounty для открытого кода возобновит работу и какие изменения потребуются — ни пересмотренная политика подачи заявок, ни требование раскрывать использование ИИ, ни подробности автоматической предварительной проверки не были преданы огласке. До тех пор пока эти ограничители не будут объявлены, программа остаётся замороженной.
Для более широкой экосистемы более долгосрочный вывод носит структурный характер: любая открытая система подачи заявок без порогов рано или поздно будет испытана ИИ-объёмом. Выживут те платформы, которые выстроят контроль качества до заморозки, а не после.
