Источники
Сделай её своей
Вдохновила эта история? Преврати идею в собственное ИИ-искусство за секунды — бесплатный старт, без банковской карты.
Начать бесплатноОбсуди это с
Выбери компаньона и узнай его мнение об этой истории

Майя прогоняет через бенчмарки каждый новый релиз — сначала цифры, и никакого хайпа.
Вдохновила эта история? Преврати идею в собственное ИИ-искусство за секунды — бесплатный старт, без банковской карты.
Начать бесплатноВыбери компаньона и узнай его мнение об этой истории
Хелен Тонер, исполнительный директор Центра безопасности и развивающихся технологий (CSET) Джорджтаунского университета и бывший член совета директоров OpenAI, публично заявила, что общественность и создатели ИИ не должны слепо доверять руководителям ИИ-компаний. Ее комментарии последовали за ее непосредственным участием в попытке смещения Сэма Альтмана с поста генерального директора OpenAI в ноябре 2023 года, о чем она рассказала в недавнем интервью The Verge.
В своем интервью Тонер подчеркнула, что основная проблема заключалась не в конкретном генеральном директоре, а в присущем конфликте между быстрой коммерциализацией и фундаментальной миссией по обеспечению безопасности исследовательских организаций в области ИИ. Эта перспектива критически важна для ИИ-художников и разработчиков, которые полагаются на эти компании в отношении моделей и инструментов, поскольку она указывает на потенциальную нестабильность и изменения в корпоративных приоритетах, которые могут повлиять на доступ, ценообразование или даже доступность моделей.
Тонер подчеркнула, что организации, разрабатывающие мощные системы ИИ, нуждаются в сильных, независимых структурах управления, которые могут отдавать приоритет долгосрочной безопасности и общественной пользе над краткосрочными коммерческими выгодами или амбициями отдельных лидеров. Эта позиция предполагает, что создателям следует подходить к новым моделям и функциям от крупных ИИ-лабораторий со здоровой долей скептицизма, понимая, что лежащие в основе корпоративные стратегии могут быстро меняться. Например, модель, которая сегодня свободно доступна для генерации изображений, завтра может стать платной функцией, если того потребует коммерческое давление, или ее защитные меры могут быть ужесточены или ослаблены на основе решений руководства.
«Я думаю, очень важно, чтобы мы не просто доверяли генеральным директорам этих компаний регулировать себя».
— Хелен Тонер
Эта перспектива также затрагивает более широкие дебаты в сообществе ИИ относительно моделей с открытым и закрытым исходным кодом. Компании, которые работают с меньшей прозрачностью и более сильными коммерческими стимулами, могут быть менее склонны делиться весами моделей или разрешать обширный внешний аудит, потенциально ограничивая творческую свободу и техническое понимание тех, кто строит на их платформах. Для создателей это означает тщательную оценку долгосрочной жизнеспособности и этических позиций платформ, которые они выбирают для своих генерации изображений рабочих процессов.
Опыт Тонер в OpenAI подчеркивает нестабильность в ведущих ИИ-организациях. Эта нестабильность может проявляться для создателей по-разному: изменения в доступе к API, изменения в политике контента или неожиданные устаревания моделей. Например, внезапное изменение базовых значений или возможностей модели, возможно, из-за смены руководства или новой коммерческой директивы, может вынудить ИИ-художников значительно скорректировать свои методы подсказок или даже перейти на совершенно другие модели.
Призыв к более сильному управлению также подразумевает стремление к более прозрачной разработке и развертыванию моделей. В случае успеха это может привести к лучшей документации смещений, ограничений и функций безопасности моделей, предлагая создателям более четкое понимание того, как работают выбранные ими инструменты ИИ и какие этические соображения могут быть задействованы. Хотя непосредственное влияние на ежедневные подсказки может показаться косвенным, эти высокоуровневые дискуссии в конечном итоге формируют ландшафт доступных инструментов ИИ и условия, на которых создатели могут получить к ним доступ. Продолжающиеся дебаты вокруг контроля и направления мощных систем ИИ будут продолжать влиять на стабильность и надежность платформ, от которых зависят ИИ-художники в своей работе. Для создателей, стремящихся построить надежные рабочие процессы, диверсификация зависимости от нескольких платформ или изучение локальных ИИ-решений, таких как те, что реализованы в llama.cpp, может предложить большую устойчивость к корпоративным изменениям.