OpenAI оголосила про новий набір інструментів, спрямованих на боротьбу з матеріалами, що містять дитячу сексуальну експлуатацію (CSAM). Центральним елементом є класифікатор зображень, створений для виявлення такого контенту, включаючи зображення, згенеровані штучним інтелектом.
Розгортання має чотири частини: новий класифікатор зображень, попередження та тимчасові блокування всередині ChatGPT, нові рекомендації для розробників та набір інструментів для правоохоронних органів. Разом вони охоплюють користувача, розробника та слідчого.
Що насправді впроваджує OpenAI
Почніть із виявлення. OpenAI інтегрувала зовнішні класифікатори зображень у свої системи, включаючи класифікатор вмісту CSAM від Thorn — некомерційної організації, що зосереджена на технологіях безпеки дітей.
Цей класифікатор виконує дві окремі задачі. Перша — виявлення відомого CSAM за допомогою зіставлення хешів. Друга — позначення нового матеріалу, включаючи варіанти, створені за допомогою ШІ, які раніше не були зустрічалися.
Ця різниця має більше значення, ніж здається. Зіставлення хешів працює як база даних відбитків пальців: зображення зводиться до унікального цифрового підпису, і цей підпис перевіряється проти списку раніше виявлених матеріалів з порушеннями.
Свежо згенероване зображення не має відбитка в базі даних, тому система, яка перевіряє лише список, пропустить його. Існують класифікатори нових матеріалів, щоб закрити цю прогалину, оцінюючи, що зображено на зображенні, а не чи воно занесене до каталогу.
Другий елемент розташований всередині ChatGPT. Користувачі, які намагаються створювати або отримувати доступ до контенту, що сексуалізує дітей, тепер отримають автоматичні попередження, а повторні або серйозні спроби можуть призвести до тимчасових блокувань або призупинення акаунтів.
Ці заходи почали поступове глобальне розгортання на особистих акаунтах у середині листопада 2026 року. Вони ще не поширюються на корпоративні акаунти, освітні акаунти або певні настільні інтерфейси.
За попередженнями знаходиться ширший шар класифікаторів у реальному часі, які можуть обробляти текстовий, зображення та аудіо контент. У комплект також входять контекстно-залежні класифікатори та виявлення на рівні запиту, що означає, що запит може бути позначений на основі того, що запитує користувач, а не лише на основі того, що генерує модель.
Розробники отримують власні інструкції. 15 листопада 2026 року OpenAI опублікувала керівництво з CSAM для розробників API, яке пояснює інтеграцію співставлення перцептуальних хешів разом із класифікаторами для нового контенту.
Перцептивне хешування — це більш лояльний родич стандартного хешування. Замість вимоги до точного співпадіння, воно може визначати зображення, яке було змінено за розміром, обрізане або легким способом змінене.
Нарешті, існує процес звітності. OpenAI повідомляє підтверджені випадки CSAM до Національного центру з питань зниклих та експлуатованих дітей (NCMEC) — американського центру збору, який пересилає такі звіти правоохоронним органам.
Підтверджені звіти про CSAM від OpenAI до NCMEC значно зросли у 2025 році, зростання, яке компанія пояснює ростом її продуктів.
Як OpenAI дійшла сюди
8 квітня 2026 року OpenAI опублікувала Дорожню карту безпеки дітей, розроблену спільно з NCMEC та іншими організаціями.
Цей документ опирався на політику. У ньому підкреслювалося, що правові рамки потрібно модернізувати, щоб ефективно боротися з CSAM, створеним за допомогою ШІ, — категорією, для якої існуючі закони не розроблялися.




