Źródła
Zrób to po swojemu
Zainspirowała Cię ta historia? Zamień pomysł we własną sztukę AI w kilka sekund — zacznij za darmo, bez karty.
Zacznij za darmoPogadaj o tym z
Wybierz towarzysza i poznaj jego zdanie na temat tej historii

Maya benchmarkuje każdą premierę modelu — najpierw liczby, nigdy hype.
Zainspirowała Cię ta historia? Zamień pomysł we własną sztukę AI w kilka sekund — zacznij za darmo, bez karty.
Zacznij za darmoWybierz towarzysza i poznaj jego zdanie na temat tej historii
Helen Toner, dyrektor wykonawcza Centrum Bezpieczeństwa i Nowych Technologii (CSET) Uniwersytetu Georgetown oraz była członkini zarządu OpenAI, publicznie stwierdziła, że społeczeństwo i twórcy AI nie powinni ślepo ufać prezesom firm AI. Jej komentarze są następstwem jej bezpośredniego zaangażowania w listopadową próbę usunięcia Sama Altmana ze stanowiska CEO w OpenAI w 2023 roku, o czym mówiła w niedawnym wywiadzie dla The Verge.
W swoim wywiadzie Toner podkreśliła, że głównym problemem nie był konkretny prezes, ale inherentny konflikt między szybką komercjalizacją a fundamentalną misją bezpieczeństwa organizacji badawczych AI. Ta perspektywa jest kluczowa dla artystów i deweloperów AI, którzy polegają na tych firmach w zakresie modeli i narzędzi, ponieważ wskazuje na potencjalną niestabilność i zmiany w priorytetach korporacyjnych, które mogą wpłynąć na dostęp, ceny, a nawet dostępność modeli.
Toner podkreśliła, że organizacje rozwijające potężne systemy AI wymagają silnych, niezależnych struktur zarządzania, które mogą priorytetowo traktować długoterminowe bezpieczeństwo i korzyści publiczne ponad krótkoterminowe zyski komercyjne lub indywidualne ambicje przywódcze. To stanowisko sugeruje, że twórcy powinni podchodzić do nowych modeli i funkcji z głównych laboratoriów AI ze zdrową dawką sceptycyzmu, rozumiejąc, że podstawowe strategie korporacyjne mogą szybko się zmieniać. Na przykład, model, który jest dziś swobodnie dostępny do generowania obrazów, jutro może stać się funkcją płatną, jeśli dyktują to presje komercyjne, lub jego zabezpieczenia mogą zostać zaostrzone lub poluzowane na podstawie decyzji wykonawczych.
„Myślę, że bardzo ważne jest, abyśmy nie ufali po prostu prezesom tych firm, że sami się uregulują”.
— Helen Toner
Ta perspektywa dotyka również szerszej debaty w społeczności AI dotyczącej modeli open-source kontra closed-source. Firmy, które działają z mniejszą przejrzystością i silniejszymi zachętami komercyjnymi, mogą być mniej skłonne do udostępniania wag modeli lub zezwalania na szerokie audyty zewnętrzne, potencjalnie ograniczając swobodę twórczą i zrozumienie techniczne tych, którzy budują na ich platformach. Dla twórców oznacza to staranną ocenę długoterminowej rentowności i etycznych stanowisk platform, które wybierają do swoich przepływów pracy związanych z generowaniem obrazów.
Doświadczenie Toner w OpenAI podkreśla zmienność w wiodących organizacjach AI. Ta niestabilność może objawiać się na różne sposoby dla twórców: zmiany w dostępie do API, zmiany w polityce treści lub nieoczekiwane wycofanie modeli. Na przykład, nagła zmiana w podstawowych wartościach lub możliwościach modelu, być może z powodu zmiany przywództwa lub nowej dyrektywy komercyjnej, może zmusić artystów AI do znacznego dostosowania swoich technik promptowania lub nawet przejścia na zupełnie inne modele.
Wezwanie do silniejszego zarządzania implikuje również nacisk na bardziej przejrzysty rozwój i wdrażanie modeli. Jeśli się powiedzie, może to prowadzić do lepszej dokumentacji stronniczości modeli, ograniczeń i funkcji bezpieczeństwa, oferując twórcom jaśniejsze zrozumienie, jak działają ich wybrane narzędzia AI i jakie kwestie etyczne mogą wchodzić w grę. Chociaż natychmiastowy wpływ na codzienne promptowanie może wydawać się pośredni, te dyskusje na wysokim szczeblu ostatecznie kształtują krajobraz dostępnych narzędzi AI i warunki, na jakich twórcy mogą do nich uzyskać dostęp. Trwająca debata na temat kontroli i kierunku potężnych systemów AI będzie nadal wpływać na stabilność i niezawodność platform, na których artyści AI polegają w swojej pracy. Dla twórców dążących do budowania solidnych przepływów pracy, dywersyfikacja zależności od wielu platform lub eksploracja lokalnych rozwiązań AI, takich jak te umożliwione przez llama.cpp, może zapewnić większą odporność na zmiany korporacyjne.