OpenAI внедряет классификатор изображений и предупреждения ChatGPT для борьбы с CSAM, созданным с помощью ИИ

iconCryptoBriefing
Поделиться
AI summary iconСводка
Новости об ИИ и криптовалюте распространились, когда OpenAI запустила инструменты для обнаружения материалов сексуального насилия над детьми, включая классификатор изображений и предупреждения ChatGPT. Система использует хеширование и ИИ для выявления новых материалов сексуального насилия над детьми. Запущенная в середине ноября 2026 года, она включает инструменты для разработчиков и правоохранительных органов. OpenAI сообщила о результатах в NCMEC. Новые листинги токенов остаются ключевым приоритетом для криптовалютных рынков.

OpenAI объявила о новом наборе инструментов, направленных на борьбу с материалами детской сексуальной эксплуатации (CSAM). Центральным элементом является классификатор изображений, созданный для обнаружения такого контента, включая изображения, сгенерированные ИИ.

Развертывание включает четыре компонента: новый классификатор изображений, предупреждения и временные блокировки внутри ChatGPT, новые руководства для разработчиков и набор инструментов для правоохранительных органов. Вместе они охватывают пользователя, разработчика и следователя.

Что на самом деле внедряет OpenAI

Начните с обнаружения. OpenAI интегрировала внешние классификаторы изображений в свои системы, включая классификатор контента CSAM от Thorn — некоммерческой организации, специализирующейся на технологиях безопасности детей.

Этот классификатор выполняет две отдельные задачи. Первая — обнаружение известного CSAM с помощью сопоставления хешей. Вторая — выявление нового материала, включая варианты, сгенерированные ИИ, которые ранее не встречались.

Различие имеет большее значение, чем кажется. Сопоставление хешей работает как база данных отпечатков пальцев: изображение преобразуется в уникальную цифровую подпись, и эта подпись проверяется против списка ранее идентифицированного материала с нарушениями.

Свежесгенерированное изображение не имеет отпечатка в базе, поэтому система, проверяющая только список, пропустит его. Существуют классификаторы нового контента, которые оценивают, что изображает изображение, а не было ли оно занесено в каталог.

Второй элемент расположен внутри ChatGPT. Пользователи, пытающиеся создавать или получать доступ к контенту, сексуализирующему детей, теперь будут сталкиваться с автоматическими предупреждениями, а повторные или серьезные попытки могут привести к временной блокировке или приостановке аккаунта.

Эти меры начали постепенный глобальный запуск для персональных аккаунтов в середине ноября 2026 года. Они еще не распространяются на корпоративные аккаунты, образовательные аккаунты или некоторые настольные интерфейсы.

За предупреждениями скрывается более широкий слой классификаторов в реальном времени, способных обрабатывать текстовую, изображения и аудио-контент. В комплект также входят контекстно-зависимые классификаторы и обнаружение на уровне запроса, что означает, что запрос может быть помечен на основе того, что запрашивает пользователь, а не только на основе того, что генерирует модель.

Разработчики получают собственные инструкции. 15 ноября 2026 года OpenAI опубликовала руководство по CSAM для разработчиков API, в котором описано интегрирование сопоставления перцептивных хэшей вместе с классификаторами для нового контента.

Перцептивное хеширование — это более терпимый родственник стандартного хеширования. Вместо требования точного совпадения оно может распознавать изображение, которое было изменено в размере, обрезано или слегка изменено.

Наконец, существует отчетная система. OpenAI сообщает подтвержденные случаи CSAM в Национальный центр по делам пропавших и эксплуатируемых детей (NCMEC) — американский центр обработки таких сообщений, который направляет их в правоохранительные органы.

Подтвержденные сообщения о CSAM от OpenAI в NCMEC значительно выросли в 2025 году, рост, который компания связывает с развитием своих продуктов.

Как OpenAI пришла сюда

8 апреля 2026 года OpenAI выпустила Концепцию защиты детей, разработанную совместно с NCMEC и другими организациями.

Этот документ опирался в основном на политику. В нем подчеркивалось, что правовые рамки необходимо модернизировать, чтобы справиться с CSAM, сгенерированным ИИ, — категорией, для которой существующие законы не были разработаны.

Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации. Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.