OpenAI, AI tarafından oluşturulan CSAM ile mücadele etmek için görüntü sınıflandırıcı ve ChatGPT uyarılarını yayıyor

iconCryptoBriefing
Paylaş
AI summary iconÖzet
AI ve kripto haberleri, OpenAI'nin çocuk cinsel istismarı materyali tespiti için bir görüntü sınıflandırıcı ve ChatGPT uyarıları dahil araçları piyasaya sürmesiyle patladı. Sistem, yeni CSAM'ları tespit etmek için hash eşleştirme ve AI kullanıyor. 2026 yılının ortalarında başlatılan sistem, geliştiriciler ve yasal uygulama organları için araçlar içeriyor. OpenAI, bulgularını NCMEC'ye bildirdi. Yeni token listelemeleri, kripto piyasaları için ana odak noktalarını korumaya devam ediyor.

OpenAI, yapay zeka tarafından üretilen dahil olmak üzere böyle içerikleri tespit etmek için inşa edilmiş bir görüntü sınıflandırıcısı olan çocuk cinsel istismarı materyali (CSAM) için yeni bir dizi araç duyurdu.

Yayınlama dört bölümden oluşuyor: yeni görüntü sınıflandırıcı, ChatGPT içindeki uyarılar ve geçici engeller, geliştiriciler için yeni bir kılavuz ve kolluk kuvvetleri için bir dizi araç. Birlikte, kullanıcıyı, geliştiriciyi ve soruşturma yapanı kapsıyor.

OpenAI'nin aslında dağıttığı

Tespitle başlayın. OpenAI, Thorn adlı çocuk güvenliği teknolojilerine odaklanan bir sivil toplum kuruluşunun CSAM içerik sınıflandırıcısını da dahil olmak üzere dış görüntü sınıflandırıcıları sistemlerine entegre etti.

Bu sınıflandırıcı, iki ayrı görevi yerine getirir. İlk görev, hash eşleştirme yoluyla bilinen CSAM'ları tespit etmektir. İkinci görev, daha önce hiç görülmemiş olan yeni materyalleri, dahil olmak üzere AI tarafından üretilen varyantları işaretlemektir.

Bu ayrım, sesilenenden daha önemlidir. Hash eşleştirme, bir parmak izi veritabanı gibi çalışır: bir görüntü, benzersiz bir dijital imzaya indirgenir ve bu imza, daha önce tanımlanmış istismar materyallerinin listesiyle karşılaştırılır.

Yeni oluşturulan bir görüntünün dosyada izi yoktur, bu nedenle yalnızca listeyi kontrol eden bir sistem bunu geçer. Bu boşluğu kapatmak için, bir görüntünün neyi gösterdiğini kataloglanıp kataloglanmadığına bakmak yerine değerlendiren novel-content sınıflandırıcıları mevcuttur.

İkinci parça, ChatGPT'nin kendisi içinde yer alır. Çocukları cinselleştiren içerik oluşturmayı veya erişmeyi deneyen kullanıcılar artık otomatik uyarılarla karşılaşacak ve tekrarlayan veya ciddi girişimler geçici engellemelere veya hesap askıya almaya yol açabilir.

Bu müdahaleler, Kasım 2026'nın ortalarında kişisel hesaplara yavaş yavaş dünya çapında uygulanmaya başlandı. Henüz kurumsal hesaplara, eğitim hesaplarına veya bazı masaüstü arayüzlerine uygulanmamaktadır.

Uyarıların ardında, metin, görüntü ve ses içeriğini işleyebilen daha geniş bir gerçek zamanlı sınıflandırıcı katmanı yer alır. Araç seti, bağlama duyarlı sınıflandırıcıları ve istek düzeyindeki tespiti de içerir; bu, bir isteğin yalnızca modelin ürettiği içerik değil, kullanıcının ne istediğine dayalı olarak işaretlenebileceği anlamına gelir.

Geliştiriciler kendi talimatlarını alır. 15 Kasım 2026'da OpenAI, yeni içerikler için algısal karma eşleştirmeyi sınıflandırıcılarla birlikte entegre etmeyi açıklayan API geliştiricileri için CSAM rehberini yayınladı.

Algısal karmaşıklık, standart karmaşıklığın daha hoşgörülü kardeşi olarak kabul edilir. Tam bir eşleşme gerektirmek yerine, yeniden boyutlandırılmış, kırpılmış veya hafifçe değiştirilmiş bir resmi tanıyabilir.

Son olarak, raporlama işlem hattı vardır. OpenAI, onaylanan CSAM'leri, bu raporları yasal makamlara yönlendiren ABD'nin Kayıp ve İstismar Edilen Çocuklar Ulusal Merkezi'ne (NCMEC) raporlar.

OpenAI'nin 2025 yılında NCMEC'ye doğruladığı CSAM raporları önemli ölçüde arttı, şirket bu artışın ürünlerinin büyümesine bağladığını belirtti.

OpenAI bun nasıl geldi

8 Nisan 2026 tarihinde OpenAI, NCMEC ve diğer kuruluşlarla iş birliği içinde geliştirilen Bir Çocuk Güvenliği Taslağı yayınladı.

Bu belge, politikaya büyük ölçüde dayanıyordu. Mevcut yasal çerçevelerin, düşünülmeden yazılmış olan AI tarafından oluşturulan CSAM kategorisiyle başa çıkabilmek için modernleştirilmesi gerektiğini vurguladı.

Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir. Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.