OpenAI объявила о новом наборе инструментов, направленных на борьбу с материалами детской сексуальной эксплуатации (CSAM). Центральным элементом является классификатор изображений, созданный для обнаружения такого контента, включая изображения, сгенерированные ИИ.
Развертывание включает четыре компонента: новый классификатор изображений, предупреждения и временные блокировки внутри ChatGPT, новые руководства для разработчиков и набор инструментов для правоохранительных органов. Вместе они охватывают пользователя, разработчика и следователя.
Что на самом деле внедряет OpenAI
Начните с обнаружения. OpenAI интегрировала внешние классификаторы изображений в свои системы, включая классификатор контента CSAM от Thorn — некоммерческой организации, специализирующейся на технологиях безопасности детей.
Этот классификатор выполняет две отдельные задачи. Первая — обнаружение известного CSAM с помощью сопоставления хешей. Вторая — выявление нового материала, включая варианты, сгенерированные ИИ, которые ранее не встречались.
Различие имеет большее значение, чем кажется. Сопоставление хешей работает как база данных отпечатков пальцев: изображение преобразуется в уникальную цифровую подпись, и эта подпись проверяется против списка ранее идентифицированного материала с нарушениями.
Свежесгенерированное изображение не имеет отпечатка в базе, поэтому система, проверяющая только список, пропустит его. Существуют классификаторы нового контента, которые оценивают, что изображает изображение, а не было ли оно занесено в каталог.
Второй элемент расположен внутри ChatGPT. Пользователи, пытающиеся создавать или получать доступ к контенту, сексуализирующему детей, теперь будут сталкиваться с автоматическими предупреждениями, а повторные или серьезные попытки могут привести к временной блокировке или приостановке аккаунта.
Эти меры начали постепенный глобальный запуск для персональных аккаунтов в середине ноября 2026 года. Они еще не распространяются на корпоративные аккаунты, образовательные аккаунты или некоторые настольные интерфейсы.
За предупреждениями скрывается более широкий слой классификаторов в реальном времени, способных обрабатывать текстовую, изображения и аудио-контент. В комплект также входят контекстно-зависимые классификаторы и обнаружение на уровне запроса, что означает, что запрос может быть помечен на основе того, что запрашивает пользователь, а не только на основе того, что генерирует модель.
Разработчики получают собственные инструкции. 15 ноября 2026 года OpenAI опубликовала руководство по CSAM для разработчиков API, в котором описано интегрирование сопоставления перцептивных хэшей вместе с классификаторами для нового контента.
Перцептивное хеширование — это более терпимый родственник стандартного хеширования. Вместо требования точного совпадения оно может распознавать изображение, которое было изменено в размере, обрезано или слегка изменено.
Наконец, существует отчетная система. OpenAI сообщает подтвержденные случаи CSAM в Национальный центр по делам пропавших и эксплуатируемых детей (NCMEC) — американский центр обработки таких сообщений, который направляет их в правоохранительные органы.
Подтвержденные сообщения о CSAM от OpenAI в NCMEC значительно выросли в 2025 году, рост, который компания связывает с развитием своих продуктов.
Как OpenAI пришла сюда
8 апреля 2026 года OpenAI выпустила Концепцию защиты детей, разработанную совместно с NCMEC и другими организациями.
Этот документ опирался в основном на политику. В нем подчеркивалось, что правовые рамки необходимо модернизировать, чтобы справиться с CSAM, сгенерированным ИИ, — категорией, для которой существующие законы не были разработаны.




