Элиас простым языком объясняет исследования, стоящие за заголовками.
Вдохновила эта история? Преврати идею в собственное ИИ-искусство за секунды — бесплатный старт, без банковской карты.
Начать бесплатноВыбери компаньона и узнай его мнение об этой истории
OpenAI прекратила обучение своих самых передовых моделей ИИ, называемых «передовыми моделями», на данных из живого интернета, перейдя вместо этого в изолированную офлайн-среду тестирования. Это решение, объявленное после того, как предыдущие заявления инженера OpenAI предполагали, что такое решение будет неадекватным, направлено на снижение значительных рисков безопасности, связанных с взаимодействием с интернетом в реальном времени во время обучения. Для создателей ИИ-арта этот сдвиг может означать, что будущие модели будут демонстрировать другое поведение при запросах о текущих событиях или информации в реальном времени, поскольку их базовая база знаний будет статической, а не постоянно обновляемой из живого интернета. Это контрастирует с предыдущими подходами, когда модели потенциально могли учиться на самых свежих данных, доступных онлайн.
Ранее модели ИИ иногда получали доступ к живому интернету во время фаз обучения для сбора данных, процесс, который мог подвергнуть их непредвиденным уязвимостям или позволить им взаимодействовать с внешними системами непреднамеренными способами. Новый подход OpenAI включает создание офлайн-среды тестирования, где эти передовые модели по-прежнему могут взаимодействовать с обширным хранилищем веб-контента, но только с контентом, который был проиндексирован и кэширован. Это означает, что модели учатся на снимке интернета, а не на его постоянно меняющейся живой ленте. Эта контролируемая среда предназначена для предотвращения любого риска воздействия на внешние системы, устраняя опасения по поводу потенциальной способности модели вызывать реальное воздействие во время ее разработки.
Для создателей, использующих модели ИИ для генерации изображений, это изменение актуально, потому что понимание мира моделями формируется во время обучения. Модель, обученная на статическом, кэшированном наборе данных, может не иметь самых актуальных знаний о тенденциях, текущих событиях или недавно опубликованных визуальных стилях. Хотя тонкая настройка и генерация с использованием извлечения (RAG) могут добавить более актуальные данные после обучения, фундаментальные знания, заложенные в основной модели, будут отражать эту методологию офлайн-обучения. Это может привести к тонкой, но важной разнице в том, как модели интерпретируют запросы, связанные с очень недавними явлениями, возможно, делая их менее способными генерировать изображения, отражающие последние новости или эфемерную интернет-культуру без дополнительного, явного ввода от пользователя.
Этот шаг OpenAI сигнализирует о приоритете безопасности и контроля над возможностями непрерывного обучения в реальном времени, которые может предложить доступ к живому интернету. Хотя непосредственное влияние на общедоступные модели, такие как те, что используются для генерации изображений, может быть не очевидным, это создает прецедент для того, как будут разрабатываться будущие, более мощные модели. Создатели, которые полагаются на ИИ для генерации контента, который должен быть актуальным или контекстуально осведомленным о самых последних событиях, могут обнаружить, что им необходимо предоставлять более конкретную, обновленную информацию в своих запросах, а не предполагать, что модель узнала ее из последних веб-данных. Это может повлиять на рабочие процессы, связанные с генерацией контента на основе быстро развивающихся тем.
Это решение также подчеркивает постоянное напряжение между предоставлением моделям ИИ широкого доступа к информации для всестороннего обучения и необходимостью сдерживать потенциальные риски. Приверженность OpenAI режиму офлайн-обучения следует за периодом повышенного внимания к безопасности ИИ, включая обсуждения ответственной разработки и развертывания ИИ. Это часть более широкой отраслевой тенденции, когда крупные разработчики ИИ все чаще сосредотачиваются на контролируемых средах для своих самых мощных моделей, чтобы обеспечить предсказуемое и безопасное поведение. Этот сдвиг также может повлиять на то, как другие разработчики подходят к своим собственным стратегиям обучения моделей, потенциально приводя к более изолированным средам обучения по всей отрасли. Для тех, кто интересуется более широким регуляторным ландшафтом, мы ранее освещали рекордные лоббистские усилия OpenAI в Вашингтоне, округ Колумбия, указывающие на их участие в политических дискуссиях вокруг безопасности и развития ИИ. Создатели могут изучить различные модели и их возможности в каталоге моделей Charmloop, чтобы понять, как различные подходы к обучению проявляются в генеративном выводе.
