OpenAI запроваджує класифікатор зображень і попередження ChatGPT для боротьби зі штучно створеним CSAM

iconCryptoBriefing
Поділитися
AI summary iconКороткий зміст
Новини про ШІ та криптовалюту вийшли на передній план, коли OpenAI запустила інструменти для виявлення матеріалів з дитячою сексуальною експлуатацією, включаючи класифікатор зображень і попередження ChatGPT. Система використовує хеш-зіставлення та ШІ для виявлення нових CSAM. Запущена в середині листопада 2026 року, вона включає інструменти для розробників та правоохоронних органів. OpenAI повідомила про свої знахідки NCMEC. Нові лістинги токенів залишаються ключовим пріоритетом для крипторинків.

OpenAI оголосила про новий набір інструментів, спрямованих на боротьбу з матеріалами, що містять дитячу сексуальну експлуатацію (CSAM). Центральним елементом є класифікатор зображень, створений для виявлення такого контенту, включаючи зображення, згенеровані штучним інтелектом.

Розгортання має чотири частини: новий класифікатор зображень, попередження та тимчасові блокування всередині ChatGPT, нові рекомендації для розробників та набір інструментів для правоохоронних органів. Разом вони охоплюють користувача, розробника та слідчого.

Що насправді впроваджує OpenAI

Почніть із виявлення. OpenAI інтегрувала зовнішні класифікатори зображень у свої системи, включаючи класифікатор вмісту CSAM від Thorn — некомерційної організації, що зосереджена на технологіях безпеки дітей.

Цей класифікатор виконує дві окремі задачі. Перша — виявлення відомого CSAM за допомогою зіставлення хешів. Друга — позначення нового матеріалу, включаючи варіанти, створені за допомогою ШІ, які раніше не були зустрічалися.

Ця різниця має більше значення, ніж здається. Зіставлення хешів працює як база даних відбитків пальців: зображення зводиться до унікального цифрового підпису, і цей підпис перевіряється проти списку раніше виявлених матеріалів з порушеннями.

Свежо згенероване зображення не має відбитка в базі даних, тому система, яка перевіряє лише список, пропустить його. Існують класифікатори нових матеріалів, щоб закрити цю прогалину, оцінюючи, що зображено на зображенні, а не чи воно занесене до каталогу.

Другий елемент розташований всередині ChatGPT. Користувачі, які намагаються створювати або отримувати доступ до контенту, що сексуалізує дітей, тепер отримають автоматичні попередження, а повторні або серйозні спроби можуть призвести до тимчасових блокувань або призупинення акаунтів.

Ці заходи почали поступове глобальне розгортання на особистих акаунтах у середині листопада 2026 року. Вони ще не поширюються на корпоративні акаунти, освітні акаунти або певні настільні інтерфейси.

За попередженнями знаходиться ширший шар класифікаторів у реальному часі, які можуть обробляти текстовий, зображення та аудіо контент. У комплект також входять контекстно-залежні класифікатори та виявлення на рівні запиту, що означає, що запит може бути позначений на основі того, що запитує користувач, а не лише на основі того, що генерує модель.

Розробники отримують власні інструкції. 15 листопада 2026 року OpenAI опублікувала керівництво з CSAM для розробників API, яке пояснює інтеграцію співставлення перцептуальних хешів разом із класифікаторами для нового контенту.

Перцептивне хешування — це більш лояльний родич стандартного хешування. Замість вимоги до точного співпадіння, воно може визначати зображення, яке було змінено за розміром, обрізане або легким способом змінене.

Нарешті, існує процес звітності. OpenAI повідомляє підтверджені випадки CSAM до Національного центру з питань зниклих та експлуатованих дітей (NCMEC) — американського центру збору, який пересилає такі звіти правоохоронним органам.

Підтверджені звіти про CSAM від OpenAI до NCMEC значно зросли у 2025 році, зростання, яке компанія пояснює ростом її продуктів.

Як OpenAI дійшла сюди

8 квітня 2026 року OpenAI опублікувала Дорожню карту безпеки дітей, розроблену спільно з NCMEC та іншими організаціями.

Цей документ опирався на політику. У ньому підкреслювалося, що правові рамки потрібно модернізувати, щоб ефективно боротися з CSAM, створеним за допомогою ШІ, — категорією, для якої існуючі закони не розроблялися.

Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації. Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.