Tinanggihan ni Jun Song ang hiling mula sa isang anonymous na black hat group na ituro ang AI model gamit ang exploit data

Ayon sa ChainCatcher, si Jun Song, isang practitioner ng open-source AI, ay nag-post sa X na noong kahapon, may isang anonymous na black-hat group ang nakipag-ugnay sa kanya at nagbigay ng isang request para sa reinforcement learning, na handang magbayad ng napakataas na halaga upang ipagkatiwala sa kanya ang post-training ng open-source weight model gamit ang data mula sa exploit. Si Jun Song ay nagpapatakbo rin ng isang hardware export business para sa data center sa Korea at nagpapalaganap ng proyekto 0xSupergemma. Sinabi ni Jun Song na ang laki ng attack data na sinasabing mayroon ang kanilang kliyente ay hindi niya nakikita pa bago, at kahit sinabi nilang ito ay isang undercover dataset ng pagsasakdal, maniniwala pa rin siya. Bilang komparasyon, sa isang white-hat project na kanyang kasali, ginamit nila ang GLM-5.3 na may data na mas maliit kaysa 1% ng laki nito, at ang performance nito ay naging mas malaki kaysa sa mga pinakamoderno na model. Tinanggihan niya ang request at sinabi niya na ang totoong kinakabahan niya ay ang posibilidad na may iba pang tao na tatanggap sa transaksyong ito.