OpenAI telah mengumumkan satu set alat baharu yang bertujuan untuk bahan penyalahgunaan seksual kanak-kanak (CSAM). Pusat utamanya ialah pengklasifikasi imej yang dibina untuk mengesan kandungan tersebut, termasuk imej yang dihasilkan oleh AI.
Pelaksanaan ini terdiri daripada empat bahagian: pengelas imej baharu, amaran dan blok sementara di dalam ChatGPT, garis panduan baharu untuk pembangun, dan satu set alat untuk pihak penegak undang-undang. Bersama-sama, mereka merangkumi pengguna, pembina, dan penyiasat.
Apa yang sebenarnya dilaksanakan oleh OpenAI
Mulakan dengan pengesanan. OpenAI telah mengintegrasikan pengelas imej luaran ke dalam sistemnya, termasuk pengelas kandungan CSAM dari Thorn, sebuah pertubuhan bukan keuntungan yang berfokus pada teknologi keselamatan kanak-kanak.
Klasifier itu menangani dua tugas berasingan. Yang pertama ialah mengesan CSAM yang diketahui melalui pemadanan hash. Yang kedua ialah menandakan bahan baharu, termasuk varian yang dihasilkan AI yang belum pernah dilihat sebelumnya.
Perbezaan ini lebih penting daripada yang kedengaran. Pencocokan hash berfungsi seperti pangkalan data cap jari: satu gambar dikurangkan kepada tanda tangan digital unik, dan tanda tangan itu diperiksa terhadap senarai bahan penyalahgunaan yang telah dikenal pasti sebelumnya.
Gambar yang baru dihasilkan tidak mempunyai cap di dalam senarai, jadi sistem yang hanya memeriksa senarai akan membenarkannya lulus. Pengelas kandungan baharu wujud untuk menutup kesenjangan itu dengan menilai apa yang digambarkan oleh gambar tersebut, bukan sama ada ia telah dicatatkan.
Bahagian kedua berada di dalam ChatGPT itu sendiri. Pengguna yang cuba mencipta atau mengakses kandungan yang mensuksikan kanak-kanak kini akan mendapat amaran automatik, dan percubaan berulang atau serius boleh menyebabkan blok sementara atau penangguhan akaun.
Intervensi ini bermula pada pertengahan November 2026 dengan pelancaran bertahap secara global ke akaun peribadi. Ia belum berkuat kuasa terhadap akaun enterpris, akaun pendidikan, atau antaramuka desktop tertentu.
Di sebalik amaran terdapat lapisan lebih luas pengelas masa nyata yang boleh memproses kandungan teks, gambar, dan audio. Toolkit ini juga termasuk pengelas yang sedar konteks dan pengesanan pada peringkat arahan, bermakna permintaan boleh ditandai berdasarkan apa yang diminta pengguna, bukan sahaja berdasarkan apa yang dihasilkan model.
Pembangun mendapat arahan mereka sendiri. Pada 15 November 2026, OpenAI menerbitkan panduan CSAM untuk pembangun API yang membimbing integrasi pencocokan hash persepsi bersama dengan pengelas untuk kandungan baharu.
Penghasingan persepsi adalah saudara yang lebih fleksibel kepada penghasingan standard. Alih-alih memerlukan persamaan tepat, ia boleh mengenal pasti gambar yang telah diubah saiz, dipotong, atau diubah sedikit.
Akhirnya, terdapat saluran pelaporan. OpenAI melaporkan CSAM yang disahkan kepada National Center for Missing & Exploited Children (NCMEC), pusat pembersihan AS yang menghala laporan tersebut kepada pihak berkuasa.
Laporan CSAM yang dikonfirmasi dari OpenAI kepada NCMEC meningkat secara signifikan pada 2025, kenaikan yang dikaitkan oleh syarikat kepada pertumbuhan produk-produknya.
Bagaimana OpenAI sampai di sini
Pada 8 April 2026, OpenAI mengeluarkan Rancangan Keselamatan Kanak-kanak yang dibangunkan bekerjasama dengan NCMEC dan organisasi-organisasi lain.
Dokumen itu sangat bergantung kepada dasar. Ia menekankan bahawa kerangka undang-undang perlu dimodenkan untuk menangani CSAM yang dihasilkan oleh AI, satu kategori yang tidak dipertimbangkan dalam undang-undang sedia ada.




