Google, AI가 생성한 제출물이 프로그램을 뒤덮은 후 오픈소스 버그 바운티를 동결했다

Google이 AI가 생성한 제출물의 「급격한 증가」로 인해 실제 취약점과 기계가 만들어낸 노이즈를 분류하는 것이 불가능해지자 오픈소스 버그 바운티 프로그램을 동결했다 — 자동화된 AI 출력물이 인간 규모의 입력을 위해 설계된 시스템을 무너뜨리기 시작하고 있다는 구체적인 사례다.

핵심 요약

• Google은 AI가 생성한 제출물이 급증해 인간 검토자를 압도하자 2026년 오픈소스 보안 버그 바운티 프로그램을 동결했다.
• 이번 동결은 Google의 오픈소스 프로젝트를 대상으로 하는 프로그램에 영향을 미치며, 주요 Chrome 또는 Android 바운티 프로그램은 해당되지 않는다.
• AI가 생성한 보고서가 너무 많아 정당한 취약점 공개를 묻어버려 프로그램의 핵심 기능이 저하되었다.
• 이 상황은 더 넓은 패턴을 보여준다: 구조화된 출력물 생산 비용을 낮추는 AI 도구는 그 규모를 위해 설계되지 않은 모든 접수 시스템을 뒤덮을 수 있다.
• Google은 프로그램 재개 일정이나 수정된 제출 정책을 발표하지 않았다.

실제로 무엇이 망가졌는가 — 그리고 왜 규모가 무기였는가

버그 바운티 프로그램은 단순한 전제로 운영된다: 숙련된 연구자가 실제 결함을 발견하고, 이를 작성하면, 인간 검토자가 평가한다. 병목은 항상 검토자의 시간이다. AI 도구가 그럴듯해 보이는 취약점 보고서를 — 면밀한 검토를 버티지 못하는 것이라도 — 생성하는 비용을 극도로 낮추면, 그 병목은 완전히 무너진다.

TechCrunch에 따르면, AI가 생성한 제출물의 양이 신호 대 잡음 비율이 프로그램을 사실상 작동 불가능하게 만드는 수준까지 증가했다. Google의 대응은 저품질 보고서가 계속해서 정당한 보고서를 묻어버리도록 내버려 두는 대신 프로그램을 동결하는 것이었다.

이것은 AI가 버그를 찾는다는 이야기가 아니다. AI가 버그 보고서의 형식 — 구조화되고, 기술적으로 들리며, 올바르게 포맷된 — 을 실질적인 내용 없이 생산한다는 이야기다. 동일한 역학은 구조화된 템플릿이 제출 단계에서 마찰 없이 생성 모델을 만나는 모든 곳에 적용된다.

AI 아트 창작자에게 주는 시사점은 가상이 아니다

AI 도구를 사용해 이미지, 캐릭터, 영상을 대규모로 생성하는 창작자들은 이미 이 방정식의 출력 측면에 익숙하다 — 수십 가지 변형을 일괄 렌더링하고, 대량으로 업스케일하며, 모델 실행 전반에 걸쳐 프롬프트를 반복한다. Google의 상황은 그 반대편 거울이다: 파이프라인의 수신 측이 AI 규모의 처리량을 위해 설계되지 않았을 때 무슨 일이 일어나는가.

커뮤니티 제출 에셋, 스타일 팩, LoRA 모델, 또는 프롬프트 라이브러리를 받는 플랫폼들은 동일한 구조적 압박에 직면해 있다. 오픈 카탈로그나 커뮤니티 검토 대기열에 작업을 제출한다면, 검토 시간이 길어지고 제출 기준이 엄격해질 것을 예상하라 — 당신의 작업이 의심스러워서가 아니라, 검토자들이 이제 다른 제출자들의 AI가 생성한 채우기 콘텐츠에 압도되고 있기 때문이다.

AI 이미지 생성을 전문적인 워크플로로 활용하는 창작자들에게 실질적인 시사점은 이것이다: 품질 차별화가 점점 더 중요해지고 있다. 규모가 모두에게 저렴해지면, 주목받는 제출물은 명확한 인간적 판단을 보여주는 것들이다 — 구체적인 창작 브리프, 잘 정리된 프롬프트 근거, 반복 작업의 증거.

노이즈 속에 묻힌 신호

이번 동결은 AI 지원 보안 연구 전반에 대해 날카로운 질문을 제기한다. Google 자체의 Gemini 모델 같은 도구들은 부분적으로 취약점 발견을 위한 보조 수단으로 자리매김해 왔다 — Google의 Gemini 4 Argon은 오용을 방지하기 위해 검증된 사이버보안 파트너에게만 명시적으로 제한되었다. 버그 바운티 상황은 선의의 AI 지원 연구조차 품질 게이트 없이 확장될 때 악의적인 스팸과 동일한 혼잡을 만들어낸다는 것을 시사한다.

Google은 오픈소스 바운티 프로그램이 언제 재개될지, 어떤 변경이 필요한지 발표하지 않았다 — 수정된 제출 정책도, AI 공개 요건도, 자동화된 사전 심사 세부 사항도 공개되지 않았다. 그 가이드라인이 발표될 때까지 프로그램은 동결 상태로 남는다.

더 넓은 생태계에 대한 더 지속적인 시사점은 구조적이다: 마찰이 없는 모든 오픈 제출 시스템은 결국 AI 규모에 의해 시험받게 될 것이다. 이를 견뎌내는 플랫폼은 동결 이후가 아니라 이전에 품질 게이트를 구축하는 곳들이 될 것이다.