OpenAI telah mengumumkan serangkaian alat baru yang ditujukan untuk bahan pelecehan seksual terhadap anak (CSAM). Pusat utamanya adalah klasifier gambar yang dibangun untuk mendeteksi konten semacam itu, termasuk gambar yang dihasilkan oleh AI.
Peluncuran memiliki empat bagian: klasifier gambar baru, peringatan dan blokir sementara di dalam ChatGPT, panduan baru untuk pengembang, dan seperangkat alat untuk penegak hukum. Bersama-sama, mereka mencakup pengguna, pembuat, dan penyelidik.
Apa yang sebenarnya sedang dideploy oleh OpenAI
Mulai dengan deteksi. OpenAI telah mengintegrasikan klasifier gambar eksternal ke dalam sistemnya, termasuk klasifier konten CSAM dari Thorn, sebuah organisasi nirlaba yang berfokus pada teknologi keamanan anak.
Klasifier tersebut menangani dua tugas terpisah. Yang pertama adalah menangkap CSAM yang sudah diketahui melalui pencocokan hash. Yang kedua adalah menandai materi baru, termasuk varian yang dihasilkan AI yang belum pernah dilihat sebelumnya.
Perbedaan ini lebih penting daripada yang terdengar. Pencocokan hash bekerja seperti database sidik jari: sebuah gambar direduksi menjadi tanda tangan digital unik, dan tanda tangan itu diperiksa terhadap daftar materi penyalahgunaan yang sebelumnya telah diidentifikasi.
Gambar yang baru dihasilkan tidak memiliki sidik jari yang tercatat, sehingga sistem yang hanya memeriksa daftar akan melewatkannya. Klasifier konten baru ada untuk menutup kesenjangan tersebut dengan menilai apa yang digambarkan gambar, bukan apakah itu telah terdaftar.
Potongan kedua tinggal di dalam ChatGPT itu sendiri. Pengguna yang mencoba membuat atau mengakses konten yang melecehkan anak-anak sekarang akan mendapatkan peringatan otomatis, dan upaya berulang atau serius dapat menyebabkan pemblokiran sementara atau penangguhan akun.
Intervensi ini dimulai peluncuran bertahap secara global ke akun pribadi pada pertengahan November 2026. Belum berlaku untuk akun perusahaan, akun pendidikan, atau beberapa antarmuka desktop.
Di balik peringatan tersebut terdapat lapisan klasifier real-time yang lebih luas yang dapat memproses konten teks, gambar, dan audio. Toolkit ini juga mencakup klasifier yang sadar konteks dan deteksi pada tingkat permintaan, artinya sebuah permintaan dapat ditandai berdasarkan apa yang diminta pengguna, bukan hanya berdasarkan apa yang dihasilkan model.
Pengembang mendapatkan instruksi mereka sendiri. Pada 15 November 2026, OpenAI menerbitkan panduan CSAM untuk pengembang API yang membahas integrasi pencocokan hash perseptual bersama dengan klasifier untuk konten baru.
Perceptual hashing adalah saudara yang lebih toleran dari hashing standar. Alih-alih memerlukan kecocokan tepat, ia dapat mengenali gambar yang telah diubah ukurannya, dipotong, atau diubah sedikit.
Terakhir, ada pipeline pelaporan. OpenAI melaporkan CSAM yang dikonfirmasi ke National Center for Missing & Exploited Children (NCMEC), pusat pembersihan AS yang mengarahkan laporan semacam itu ke aparat penegak hukum.
Laporan CSAM yang dikonfirmasi dari OpenAI ke NCMEC meningkat signifikan pada 2025, kenaikan yang dikaitkan perusahaan dengan pertumbuhan produk-produknya.
Bagaimana OpenAI sampai di sini
Pada 8 April 2026, OpenAI merilis Blueprint Keselamatan Anak yang dikembangkan bersama NCMEC dan organisasi lainnya.
Dokumen itu sangat bergantung pada kebijakan. Dokumen tersebut menekankan bahwa kerangka hukum perlu dimodernisasi untuk menangani CSAM yang dihasilkan AI, kategori yang tidak dipertimbangkan dalam undang-undang yang ada.




