Elias traduz a pesquisa por trás das manchetes em linguagem simples.
Se inspirou nesta história? Transforme a ideia na sua própria arte com IA em segundos — comece de graça, sem cartão.
Começar de graçaEscolha um companheiro e veja o que ele acha dessa história
A OpenAI parou de treinar seus modelos de IA mais avançados, referidos como "modelos de fronteira", em dados da internet ao vivo, movendo-se para um ambiente de teste isolado e offline. Essa decisão, anunciada após declarações anteriores de um engenheiro da OpenAI sugerirem que tal solução seria inadequada, visa mitigar riscos significativos de segurança e proteção associados à interação web em tempo real durante o treinamento. Para criadores de arte com IA, essa mudança pode significar que futuros modelos exibirão comportamentos diferentes ao serem solicitados para eventos atuais ou informações em tempo real, pois sua base de conhecimento subjacente será estática em vez de continuamente atualizada a partir da web ao vivo. Isso contrasta com abordagens anteriores, onde os modelos poderiam potencialmente aprender com os dados mais recentes disponíveis online.
Anteriormente, os modelos de IA às vezes acessavam a internet ao vivo durante suas fases de treinamento para coletar dados, um processo que poderia expô-los a vulnerabilidades imprevistas ou permitir que interagissem com sistemas externos de maneiras não intencionais. A nova abordagem da OpenAI envolve a construção de um ambiente de teste offline onde esses modelos avançados ainda podem interagir com um vasto repositório de conteúdo web, mas apenas conteúdo que foi indexado e armazenado em cache. Isso significa que os modelos aprendem a partir de um instantâneo da internet, em vez de seu feed ao vivo em constante mudança. Esse ambiente controlado é projetado para prevenir qualquer risco de afetar sistemas externos, abordando preocupações sobre o potencial de um modelo causar impacto no mundo real durante seu desenvolvimento.
Para criadores que usam modelos de IA para geração de imagens, essa mudança é relevante porque a compreensão do mundo pelos modelos é moldada durante o treinamento. Um modelo treinado em um conjunto de dados estático e armazenado em cache pode não ter o conhecimento mais atualizado de tendências, eventos atuais ou estilos visuais publicados recentemente. Embora o ajuste fino e a geração aumentada por recuperação (RAG) possam adicionar dados mais atuais pós-treinamento, o conhecimento fundamental incorporado no modelo central refletirá essa metodologia de treinamento offline. Isso pode levar a uma diferença sutil, mas importante, em como os modelos interpretam prompts relacionados a fenômenos muito recentes, talvez tornando-os menos hábeis em gerar imagens que reflitam notícias de última hora ou cultura efêmera da internet sem entrada adicional e explícita do usuário.
Essa mudança da OpenAI sinaliza uma priorização da segurança e controle sobre as capacidades de aprendizado contínuo e em tempo real que o acesso à internet ao vivo poderia oferecer. Embora o impacto imediato em modelos disponíveis publicamente, como os usados para geração de imagens, possa não ser evidente, ela estabelece um precedente para como futuros modelos mais poderosos serão desenvolvidos. Criadores que dependem de IA para gerar conteúdo que precisa ser atual ou contextualmente ciente de desenvolvimentos muito recentes podem precisar fornecer informações mais específicas e atualizadas em seus prompts, em vez de presumir que o modelo as aprendeu a partir dos dados mais recentes da web. Isso pode afetar fluxos de trabalho que envolvem a geração de conteúdo com base em tópicos em rápida evolução.
A decisão também destaca a tensão contínua entre permitir que os modelos de IA tenham amplo acesso à informação para um aprendizado abrangente e a necessidade de conter riscos potenciais. O compromisso da OpenAI com um regime de treinamento offline segue um período de maior escrutínio sobre a segurança da IA, incluindo discussões sobre o desenvolvimento e implantação responsáveis da IA. Isso faz parte de uma tendência mais ampla da indústria, onde os principais desenvolvedores de IA estão cada vez mais focando em ambientes controlados para seus modelos mais poderosos para garantir um comportamento previsível e seguro. Essa mudança também pode influenciar como outros desenvolvedores abordam suas próprias estratégias de treinamento de modelos, potencialmente levando a ambientes de treinamento mais isolados em toda a indústria. Para aqueles interessados no cenário regulatório mais amplo, cobrimos anteriormente os esforços recordes de lobby da OpenAI em Washington D.C., indicando seu engajamento com discussões políticas sobre segurança e desenvolvimento da IA. Os criadores podem explorar diferentes modelos e suas capacidades no catálogo de modelos Charmloop para entender como várias abordagens de treinamento se manifestam na saída generativa.
