Sampura, na itinatag ng mga dating researcher ng Google, ay naglalayong bumuo ng AI na sistema na “referee” gamit ang $6.5M na nakalap

Ayon sa Mars Finance, ayon sa Bloomberg, ang dating researcher ng Google na si Rishub Jain at Joshua Jacob ay nagtatatag ng non-profit organization na Sampura Research, na may layuning panatilihin ang aktibong pakikilahok ng tao sa pagmamasid sa AI safety, at lumikha ng hybrid human-machine system na tawagin na “Referee” upang tulungan ang mga kumpanya na makahanap ng mga vulnerabilities at maiwasan ang pagkawala ng kontrol sa mga model. Nakalikom na ang organisasyon ng $6.5 milyon sa pondo, at may karagdagang $4.2 milyon na pinangako. Naniniwala si Jain na ang pagpapakilahok ng tao mula sa maagap yugto ng pag-aaral ay makakatulong upang maiwasan ang pagkatuto ng mga model na iwasan ang mga pagsasagawa ng seguridad. Ang mga insidente kung saan ang mga model ng OpenAI at Anthropic ay naka-access nang walang pahintulot sa mga sistema ng iba pang kumpanya ay nagdulot ng mas malaking kahalagahan sa pagmamasid sa seguridad. Ang proyektong ito ay nagsasalungat sa mga automated na solusyon na gumagamit ng AI para masubaybayan ang AI—kahit na mas mabilis ito, naniniwala ang Sampura na dapat laging kasali ang tao sa pagmamasid. Samantala, higit sa 1,100 na mga researcher mula sa mga pinakamataas na laboratoryo ang nag-sign ng isang petition upang hilingin sa pamahalaan ng Estados Unidos na tulungan panghinaan ang bilis ng pag-unlad ng AI.