법원 문서, OpenAI와 Microsoft가 AI 스크래핑이 웹에 '둠 루프'를 초래한다는 사실을 알고 있었음을 드러내다

뉴욕타임스 대 OpenAI 소송에서 새롭게 공개된 법원 제출 문서에 따르면, OpenAI와 Microsoft 모두 자사의 내부 기록에서 AI 학습 관행이 오픈 웹을 저하시키는 「둠 루프」를 초래할 위험이 있다고 사적으로 문서화했으며, 최소한 한 명의 Microsoft 임원은 해당 스크래핑 행위를 「인류 역사상 최대 규모의 노동 착취」라고 표현한 것으로 드러났다.

핵심 요약

• NYT 대 OpenAI 소송에서 공개된 문서는 Microsoft와 OpenAI가 AI 스크래핑이 자사 모델을 지탱하는 웹 생태계를 파괴하는 「둠 루프」를 촉발할 수 있다고 내부적으로 경고했음을 보여준다.
• Microsoft의 응용과학 디렉터는 해당 데이터 수집 행위를 「전례 없는 규모의 놀라운 절도」, 어쩌면 「인류 역사상 최대 규모의 노동 착취」일 수 있다고 묘사했다.
• Microsoft CEO 사티아 나델라는 선서 하에 챗봇이 출처 웹사이트 방문을 대체한다고 인정했으며, 이는 언론사들이 의존하는 트래픽을 차단한다.
• OpenAI는 이미 2021년에 자사 API가 「기존 콘텐츠를 그대로 출력할 수 있다」는 사실을 인지했으며, 공정 이용 준수를 위해 암기 방지가 중요하다고 표시했다.
• 이제 법원 기록의 일부가 된 이러한 인정들은 타임스의 소송을 크게 강화하고, AI 기업들이 향후 학습 데이터를 라이선스하는 방식을 형성할 수 있다.

내부 문서의 실제 내용

「둠 루프」라는 표현은 타임스의 소장이 아닌 두 회사의 자체 문서에 등장한다. 그 논리는 명확하며 자기 고발적이다. AI 시스템은 콘텐츠를 학습하기 위해 웹을 스크래핑하고, 사용자를 출처 사이트로 보내는 대신 직접 답변을 제공하며, 이는 언론사들이 새로운 콘텐츠를 생산하는 데 필요한 트래픽과 광고 수익을 고갈시키고, 결국 그 AI 시스템들이 다음 세대 학습에 필요로 하는 웹 자체를 저하시킨다. 이 루프는 모델 세대가 거듭될수록 더욱 조여든다.

사티아 나델라의 증언은 특히 날카롭다. The Verge에 따르면, 나델라는 선서 하에 챗봇 상호작용이 기반 웹사이트 방문을 「대체한다」는 데 동의했으며, 이는 타임스의 피해 이론을 직접적으로 뒷받침하는 양보다. 이는 원고 측 준비서면의 주장이 아니라, 피고 측 CEO가 공식 기록에 남긴 발언이다.

OpenAI 측에서는 내부 기록을 통해 회사가 2021년에 이미 자사 API가 기존 콘텐츠를 그대로 재현할 수 있다는 사실을 알고 있었으며, 암기 방지가 「공정 이용 준수 및 법적 노출 최소화」를 위해 중요하다고 인식했음이 드러났다. 또한 회사는 학습 데이터 수집 과정에서 유료 장벽을 우회하고 서비스 약관을 위반하고 있다는 사실을 인지했으며, 조직 내 일부 구성원들은 이러한 문제를 감수할 만한 비용으로 취급했다.

「이 사건은 Microsoft 응용과학 디렉터의 표현대로, '전례 없는 규모의 놀라운 절도', 어쩌면 '인류 역사상 최대 규모의 노동 착취'에 관한 것이다.」

— 법원 제출 문서, NYT 대 OpenAI

대규모 학습 데이터에 관한 선례 문제

주요 AI 기업이 학습 데이터 출처를 둘러싼 책임 문제에 직면한 것이 이번이 처음은 아니다. Stability AI가 2023년 유사한 혐의에 맞닥뜨렸을 때, 회사의 입장은 본질적으로 스크래핑이 법적으로 미해결 영역이라는 것이었다. OpenAI-Microsoft 상황이 구조적으로 다른 점은 문제가 되는 언어가 내부에서 나왔다는 것, 즉 적대적 전문가가 아닌 임원과 응용과학자들로부터 나왔다는 점이다.

AI 아트 창작자들에게 있어 하류 효과는 실질적이다. 이미지 생성 모델의 기반이 되는 학습 데이터셋은 보상 없이 웹에서 시각적 콘텐츠를 스크래핑하는 것에 관한 유사한 질문에 직면해 있다. NYT 소송이 텍스트에 대한 선례를 확립하는 판결이나 라이선스 조건이 포함된 합의를 이끌어낸다면, 그 틀은 거의 즉시 이미지 데이터에도 적용될 것으로 예상된다. 이미 라이선스 또는 합성 학습 데이터로 전환한 플랫폼은 구조적 우위를 얻게 되고, 여전히 필터링되지 않은 웹 스크래핑에 의존하는 플랫폼은 현재 맨해튼에서 소송 중인 것과 동일한 법적 책임 노출에 직면하게 될 것이다.

Charmloop의 이용 가능한 모델 카탈로그는 이미 이러한 변화의 일부를 반영하고 있으며, 제공업체들은 라이선스 데이터셋으로 학습된 모델과 스크래핑 데이터셋으로 학습된 모델을 점점 더 구분하고 있다. 이 구분은 윤리적 차원을 넘어 곧 법적으로도 중요해질 것이다.

비공개 해제된 Microsoft 제출 문서에 대한 이전 보도에서 초기 문서 공개 내용을 다루었으며, 이번에 새롭게 공개된 기록들은 한 걸음 더 나아가 「둠 루프」 프레이밍과 암기 인정 내용을 법원 기록에 직접 포함시켰다.

이 사건은 아직 재판 날짜가 정해지지 않았다. 다음 결정적 순간은 법원이 약식 판결 신청에 대해 어떻게 판결하느냐이며, 이 결정은 합의를 강제하거나 「둠 루프」 문서를 배심원단 앞에 세우는 결과를 낳을 것이다.