Sofia śledzi pieniądze, regulacje i platformy, które kształtują to, co mogą tworzyć twórcy.
Otrzymuj na maila najważniejsze historie tygodnia o AI i sztuce AI — wyselekcjonowane, zwięzłe, za darmo.
Za darmo. Wypisz się w każdej chwili.
Wybierz towarzysza i poznaj jego zdanie na temat tej historii
Nowo ujawnione akta sądowe w procesie New York Times przeciwko OpenAI pokazują, że zarówno OpenAI, jak i Microsoft prywatnie udokumentowały — we własnych wewnętrznych zapisach — że ich praktyki szkolenia AI ryzykowały stworzenie „pętli zagłady", która zdegradowałaby otwartą sieć, a przynajmniej jeden dyrektor Microsoftu scharakteryzował skrobanie jako „największą kradzież pracy w historii ludzkości".\n\n## Kluczowe wnioski\n\n- Ujawnione dokumenty w sprawie NYT przeciwko OpenAI pokazują, że Microsoft i OpenAI wewnętrznie ostrzegały, iż skrobanie AI może wywołać „pętlę zagłady" niszczącą ekosystem sieci, który karmi ich modele.\n- Dyrektor ds. Nauk Stosowanych Microsoftu opisał pozyskiwanie danych jako „zdumiewającą kradzież o bezprecedensowych rozmiarach" — prawdopodobnie „największą kradzież pracy w historii ludzkości".\n- CEO Microsoftu Satya Nadella przyznał pod przysięgą, że chatboty zastępują odwiedzanie źródłowych stron internetowych, odcinając ruch, na którym polegają wydawcy.\n- OpenAI rozpoznało już w 2021 roku, że jego API „może wyprowadzać istniejącą treść dosłownie" i oznaczyło zapobieganie zapamiętywaniu jako ważne dla zgodności z dozwolonym użytkiem.\n- Te przyznania, teraz część akt sądowych, mogą znacząco wzmocnić sprawę Timesa i kształtować sposób, w jaki firmy AI licencjonują dane treningowe w przyszłości.\n\n## Co faktycznie mówiły wewnętrzne dokumenty\n\nFraza „pętla zagłady" pojawia się we własnej dokumentacji firm, nie w skardze Timesa. Logika jest prosta i samooskarżająca: systemy AI skrobią sieć, aby trenować na treściach, następnie zwracają odpowiedzi bezpośrednio użytkownikom zamiast kierować ich na źródłowe strony, co pozbawia wydawców ruchu i przychodów z reklam potrzebnych do tworzenia nowych treści, co degraduje sieć, na której te same systemy AI muszą trenować następnie. Pętla zaciska się z każdą generacją modeli.\n\n\n\nZeznanie Satyi Nadelli jest szczególnie ostre. Według The Verge, Nadella zgodził się pod przysięgą, że interakcje z chatbotami „zastępowały" odwiedzanie podstawowych stron internetowych — ustępstwo, które bezpośrednio wspiera teorię szkody Timesa. To nie jest zarzut z pisma powoda; to CEO pozwanego w protokole.\n\nPo stronie OpenAI, wewnętrzne zapisy pokazują, że firma wiedziała do 2021 roku, że jej API może reprodukować istniejące treści dosłownie, i że zapobieganie zapamiętywaniu było ważne „dla zgodności z dozwolonym użytkiem i minimalizowania" ekspozycji prawnej. Firma również zauważyła, że omijała paywalle i naruszała warunki usługi podczas pozyskiwania danych treningowych — i że osoby w organizacji traktowały te kwestie jako akceptowalne koszty.\n\n> „Ta sprawa dotyczy, jak ujął to Dyrektor ds. Nauk Stosowanych Microsoftu, 'zdumiewającej kradzieży o bezprecedensowych rozmiarach'; prawdopodobnie 'największej kradzieży pracy w historii ludzkości'."\n>\n> — Akt sądowy, NYT przeciwko OpenAI\n\n## Problem precedensu dla danych treningowych na dużą skalę\n\nTo nie pierwszy raz, gdy duża firma AI staje w obliczu rozliczenia z pozyskiwaniem danych treningowych. Gdy Stability AI stanęło w obliczu podobnych zarzutów w 2023 roku, stanowisko firmy było zasadniczo takie, że skrobanie było prawnie nierozstrzygniętym terytorium. To, co czyni sytuację OpenAI-Microsoft strukturalnie różną, to fakt, że szkodliwy język pochodzi z wnętrza domu — od dyrektorów i naukowców stosowanych, nie od przeciwnych ekspertów.\n\n\n\nDla twórców sztuki AI, stawki są realne. Zbiory danych treningowych stojące za modelami generowania obrazów stoją w obliczu analogicznych pytań o skrobanie treści wizualnych z sieci bez rekompensaty. Jeśli sprawa NYT przyniesie orzeczenie — lub ugodę z warunkami licencyjnymi — które ustanowi precedens dla tekstu, spodziewaj się, że ta struktura zostanie zastosowana do danych obrazowych niemal natychmiast. Platformy, które już przeszły na licencjonowane lub syntetyczne dane treningowe, zyskałyby przewagę strukturalną; te nadal polegające na niefiltrowanych skrobach sieciowych stanęłyby w obliczu tej samej ekspozycji na odpowiedzialność prawną, która jest teraz przedmiotem sporu na Manhattanie.\n\nKatalog dostępnych modeli Charmloop już odzwierciedla część tej zmiany, z dostawcami coraz częściej rozróżniającymi między modelami trenowanymi na licencjonowanych a skrobanych zbiorach danych — rozróżnienie, które ma się stać ważne prawnie, nie tylko etycznie.\n\nNasze wcześniejsze relacje o niecenzurowanych aktach Microsoftu przedstawiły początkowe ujawnienia dokumentów; te nowo ujawnione zapisy idą dalej, umieszczając ujęcie „pętli zagłady" i przyznania dotyczące zapamiętywania bezpośrednio w aktach sądowych.\n\nSprawa nie ma jeszcze ustalonej daty rozprawy. Następnym decydującym momentem jest to, jak sąd orzeknie w sprawie wniosków o wydanie wyroku w postępowaniu uproszczonym — decyzja, która albo wymusi ugodę, albo wyśle dokumenty „pętli zagłady" przed ławę przysięgłych.