София следит за деньгами, политикой и платформами, которые определяют, что могут создавать авторы.
Получай на почту главные истории недели об ИИ и ИИ-арте — отобранные, краткие, бесплатно.
Бесплатно. Отписаться можно в любой момент.
Выбери компаньона и узнай его мнение об этой истории
Стартапы в области мировых моделей располагают колоссальными раундами финансирования и колоссальным ажиотажем — и почти никому, включая собственных поставщиков данных, не рассказывают, что именно строят.
По данным TechCrunch, непрозрачность в этом секторе необычна даже по меркам ИИ-индустрии. Основатели отказываются описывать свои архитектуры. Поставщики данных говорят, что подписали соглашения, но не имеют никакого представления о том, как используется их контент. Потенциальных корпоративных клиентов просят подтвердить интерес, не предоставляя им технической документации.
Мировые модели — ИИ-системы, обученные симулировать среды, физику или интерактивные сцены, а не просто генерировать статичные результаты, — позиционируются как инфраструктурный слой под будущими генеративными инструментами. Это делает секретность напрямую актуальной для всех, кто сегодня строит на основе ИИ-генерации изображений или видео. Если базовые платформы мировых моделей непрозрачны в отношении своих обучающих данных, авторы, которые в конечном счёте будут зависеть от этих систем, унаследуют те же правовые и качественные риски — без информации, необходимой для их оценки.
Компании, создающие мировые модели, привлекают значительный капитал, сохраняя свои архитектуры и пайплайны обучения почти в полной тайне.
Изображение: TechCrunch / TechCrunch AI
Динамику финансирования здесь стоит назвать прямо. Инвесторы оценивают эти компании исходя из видения и команды, а не из проверяемых технических заявлений — потому что проверяемых технических заявлений почти нет. Для венчурного раунда это приемлемая позиция, но она перекладывает риск на нижние звенья цепочки. Предприятия, интегрирующие API мировых моделей в производственные пайплайны, и творческие инструменты, построенные поверх них, в конечном счёте должны будут разобраться, что именно находится внутри этих систем.
Поставщики данных находятся в особенно слабой позиции. Когда компания не может сказать вам, что именно обучает ваши данные, вы не можете полноценно вести переговоры о роялти, атрибуции или эксклюзивности. Спор Microsoft и OpenAI о скрейпинге показал, насколько серьёзно могут обостриться споры об источниках данных, когда они выходят на уровень судебных разбирательств, — а компании мировых моделей накапливают ту же скрытую уязвимость за значительно более толстой стеной молчания.
Секретность также исключает независимую оценку безопасности, которая стала предметом острых дискуссий на переднем крае. Стремление Anthropic к сторонним аудитам и собственные раскрытые инциденты с рассогласованием OpenAI по меньшей мере создали некоторую публичную летопись. Компании мировых моделей, напротив, не создают никакой летописи вообще.
Для авторов, использующих инструменты ИИ-генерации изображений и видео на таких платформах, как генератор ИИ Charmloop, практическое следствие — пробел в должной осмотрительности. Когда новый генеративный инструмент объявляет о возможностях мировых моделей — более богатой 3D-согласованности, постоянной памяти сцен, генерации интерактивных сред — публичного бенчмарка или раскрытия архитектуры, с которым можно было бы сопоставить это заявление, в настоящее время не существует. Авторов просят тестировать и принимать на веру.
Это не беспрецедентно. Волна диффузионных моделей 2022–23 годов породила схожую картину: закрытые пайплайны, спорные обучающие данные и пробелы в качестве, которые стали видны лишь после того, как авторы уже выстроили рабочие процессы вокруг конкретных инструментов. Разница сейчас — в масштабе. Компании мировых моделей привлекают финансирование при оценках, подразумевающих, что они станут инфраструктурой, а не просто приложениями, — а значит, непрозрачность усиливается по мере продвижения вниз по стеку.
Конкретная зависимость, за которой стоит следить, — публикация бенчмарков. До тех пор пока компании мировых моделей не выпустят воспроизводимые оценки — по согласованности сцен, физической правдоподобности и происхождению обучающих данных — авторы и платформы, строящие поверх них, работают без информации, необходимой для обоснованного выбора. Вопрос, который определяет временны́е рамки, — что вынудит к этому раскрытию первым: конкурентное давление или регуляторный контроль.