Ginagamit ng OpenAI ang Image Classifier at mga babala sa ChatGPT upang labanan ang AI-generated na CSAM

iconCryptoBriefing
I-share
AI summary iconSummary
Nabroke ang balita tungkol sa AI at crypto nang ilunsad ng OpenAI ang mga kasangkapan upang matukoy ang materyal na pang-aabuso sa mga bata, kabilang ang isang image classifier at mga babala sa ChatGPT. Gumagamit ang sistema ng hash-matching at AI upang makahuli ng bagong CSAM. Ilunsad noong mid-November 2026, kasama rito ang mga kasangkapan para sa mga developer at law enforcement. Iraport ng OpenAI ang kanilang mga natuklasan sa NCMEC. Ang mga bagong listahan ng token ay nananatiling pangunahing tulong sa mga crypto markets.

OpenAI ay nag-anunsyo ng isang bagong set ng mga kasangkapan na nakatuon sa materyal ng pang-aabuso sa mga bata (CSAM). Ang pangunahing bahagi ay isang image classifier na binuo upang makatuklas ng ganitong uri ng nilalaman, kabilang ang mga imahe na ginawa ng AI.

Ang pagpapalabas ay may apat na bahagi: ang bagong image classifier, mga babala at pansamantalang pagkakabawas sa loob ng ChatGPT, bagong gabay para sa mga developer, at isang set ng mga kasangkapan para sa mga awtoridad. Kasama nila, kinakabuuhan nila ang user, ang tagagawa, at ang tagasuri.

Ano talaga ang ipinapalabas ni OpenAI

Magsimula sa pagdetekta. Ang OpenAI ay nag-integrate ng mga panlabas na classifier ng imahe sa mga sistema nito, kabilang ang CSAM content classifier mula sa Thorn, isang nonprofit na nakatuon sa teknolohiya para sa kaligtasan ng mga bata.

Ang classifier na ito ay nagpapatakbo ng dalawang hiwalay na gawain. Ang una ay ang paghuhuli ng kilalang CSAM sa pamamagitan ng pagkakatugma ng hash. Ang pangalawa ay ang pagmarka ng bagong materyal, kabilang ang mga variant na ginawa ng AI na hindi pa nakikita bago.

Mas mahalaga ang pagkakaiba kaysa sa mukhang. Ang hash matching ay gumagana tulad ng isang database ng fingerprint: ang isang imahe ay binabawasan sa isang natatanging digital na signature, at ang signature na ito ay tiniyak kung may kasabay sa listahan ng mga naunang natukoy na materyales na pang-abuso.

Walang fingerprint na nakarehistro sa isang bagong nagenerate na imahe, kaya ang isang sistema na nag-e-ehersisyo lamang sa listahan ay papayagin ito. Mayroong mga classifier ng novel-content upang isara ang puwang na ito sa pamamagitan ng pagtataya kung ano ang ipinapakita ng imahe kaysa sa kung ito ay nakalista na.

Ang pangalawang bahagi ay nasa loob ng ChatGPT mismo. Ang mga gumagamit na subukang lumikha o makapag-access ng nilalaman na nagpapalalim sa mga bata ay magkakaroon ng awtomatikong babala, at ang paulit-ulit o seriyosong pagtatangka ay maaaring magresulta sa pansamantalang pag-block o pag-suspend ng account.

Nagsimula ang mga interbensyong ito sa isang paulit-ulit na pagpapalaganap sa buong mundo sa mga personal na account noong mid-November 2026. Hindi pa ito nakakatugon sa mga enterprise account, educational account, o ilang desktop interfaces.

Nasa likod ng mga babala ay isang mas malawak na antas ng real-time na classifier na makapagproseso ng teksto, imahe, at audio na nilalaman. Kasama rin sa toolkit ang mga context-aware na classifier at deteksyon sa antas ng prompt, kaya maaaring ma-flag ang isang hiling batay sa kung ano ang hinihingi ng user, hindi lamang batay sa kung ano ang ginagawa ng modelo.

Kumukuha ang mga developer ng kanilang sariling mga panuto. Noong Nobyembre 15, 2026, ipinahayag ng OpenAI ang CSAM guidance para sa mga developer ng API na naglalakbay sa pag-integrate ng perceptual hash matching kasama ang mga classifier para sa bagong nilalaman.

Ang perceptual hashing ay ang mas mapagkakatiwalaang kapatid ng standard hashing. Sa halip na kailangan ng eksaktong pagkakatugma, maaari itong kilalanin ang isang imahe na binago ang laki, kinupas, o kaunting binago.

Sa huli, mayroon ang reporting pipeline. I-rereport ng OpenAI ang mga napatunayang CSAM sa National Center for Missing & Exploited Children (NCMEC), ang US clearinghouse na nagr-routes ng mga ulat na ito sa law enforcement.

Dagdagsin ang mga napatunayang ulat ng CSAM mula sa OpenAI patungo sa NCMEC noong 2025, isang pagtaas na isinasaalang-alang ng kumpanya bilang resulta ng paglago ng mga produkto nito.

Paano nagtapos ang OpenAI dito

Noong Abril 8, 2026, inilabas ng OpenAI ang Child Safety Blueprint na nalikha sa pamamagitan ng pakikipag-ugnayan sa NCMEC at iba pang mga organisasyon.

Ang dokumentong iyon ay nagpokus sa patakaran. Ipinakita nito na kailangang ma-modernisado ang mga legal na framework upang harapin ang AI-generated na CSAM, isang kategorya na hindi isinasaalang-alang ng umiiral na batas.

Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito. Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.