Источники
Сделай её своей
Вдохновила эта история? Преврати идею в собственное ИИ-искусство за секунды — бесплатный старт, без банковской карты.
Начать бесплатноОбсуди это с
Выбери компаньона и узнай его мнение об этой истории

Элиас простым языком объясняет исследования, стоящие за заголовками.
Вдохновила эта история? Преврати идею в собственное ИИ-искусство за секунды — бесплатный старт, без банковской карты.
Начать бесплатноВыбери компаньона и узнай его мнение об этой истории
OpenAI запустила новый классификатор изображений, специально разработанный для выявления материалов о сексуальном насилии над детьми (CSAM), в частности, включая контент, сгенерированный ИИ, чтобы помочь правоохранительным органам и агентствам по защите детей отфильтровывать растущий объем подозрительных изображений. Этот инструмент призван снизить нагрузку на человеческих аналитиков, более точно помечая подлежащие расследованию незаконные материалы, отличая их от неоскорбительного или синтетического контента, который в противном случае мог бы вызвать оповещения.
Это развитие напрямую влияет на создателей ИИ-арта, подчеркивая передовые механизмы фильтрации, развертываемые для борьбы со злоупотреблением генеративным ИИ. По мере того, как модели становятся более мощными, риск их использования в вредоносных целях возрастает, что требует надежного обнаружения. Для создателей это означает постоянный акцент на этических практиках генерации и понимание того, что платформы активно разрабатывают контрмеры против незаконного контента, будь то из реальных источников или синтетической генерации. Классификатор по своей конструкции стремится минимизировать вероятность ошибочной пометки неоскорбительного контента, сгенерированного ИИ, что крайне важно для художников, исследующих разнообразные темы.
Новый классификатор представляет собой эволюцию в технологии модерации контента, выходя за рамки простого сопоставления ключевых слов или шаблонов для анализа визуальных характеристик изображений. OpenAI заявляет, что инструмент может идентифицировать признаки, указывающие на CSAM, даже когда эти признаки синтетически воспроизведены моделью ИИ. Это особенно актуально, поскольку инструменты генерации изображений ИИ становятся более доступными, вызывая опасения по поводу их потенциального неправомерного использования. Способность классификатора распознавать сгенерированный ИИ незаконный контент является критически важным шагом в предотвращении распространения таких материалов, предлагая уровень защиты от сложных попыток обойти существующие фильтры.
Традиционная модерация контента часто сталкивается с огромным объемом данных и нюансами изображений, иногда приводя к ложным срабатываниям, которые отвлекают ресурсы следователей. Интегрируя обнаружение на основе ИИ, OpenAI стремится предоставить более точный фильтр, позволяя человеческим экспертам сосредоточиться на проверенных случаях. Эта точность жизненно важна для создателей ИИ-арта, поскольку она предполагает будущее, в котором системы обнаружения смогут более надежно различать злонамеренное использование и законное художественное выражение, даже если это выражение затрагивает деликатные или сложные темы, не переходя в незаконную территорию.
Помимо классификации изображений, OpenAI также внедряет более строгие политики в своем разговорном ИИ, ChatGPT. Пользователи, пытающиеся получить доступ или сгенерировать контент, связанный с CSAM, теперь будут немедленно забанены на 24 часа, что служит четким предупреждением против такой деятельности. Эта мера подчеркивает приверженность OpenAI предотвращению использования своих инструментов в незаконных целях и укрепляет этические границы для взаимодействия с ее моделями ИИ. Хотя эта конкретная политика в основном затрагивает текстовые взаимодействия, она сигнализирует о более широких, общекорпоративных усилиях по обеспечению безопасности контента во всех ее продуктах.
Для тех, кто использует генеративный ИИ, эта политика подчеркивает важность понимания и соблюдения правил платформы. Большинство генераторов изображений ИИ, включая те, что доступны на Charmloop, имеют строгие политики в отношении незаконных и оскорбительных материалов. Это включает не только явный CSAM, но и контент, который пропагандирует разжигание ненависти, насилие или дискриминацию. Создателям следует ознакомиться с этими рекомендациями, чтобы убедиться, что их работы остаются в допустимых параметрах, и избежать приостановки действия учетной записи. Регулярные обновления моделей ИИ и связанных с ними политик означают, что создатели должны оставаться в курсе развивающихся мер безопасности, чтобы продолжать эффективно и ответственно использовать эти мощные инструменты. Вы можете исследовать широкий спектр творческих возможностей в рамках безопасных рекомендаций на нашей странице генерации или просмотреть разнообразные стили в нашем каталоге.