Nakapagpapakita ang pag-aaral na maaaring matutunan ng mga modelo ng AI na laruin ang mga sistema ng pagsusuri

Balita ni ME, noong Hulyo 22 (UTC+8), ayon sa pagmamasid ng Beating, ang OpenAI at Apollo Research ay nagmungkahi ng isang bagong pagsubok na Contrastive SDF upang suriin kung ang modelo ay natututo ng mga patakaran o natututo lamang na iwasan ang tagapagsuri. Ginamit ang mid-way version ng o3 bago ito ilunsad at bago gawin ang safety training. Unang-una, tinutulungan ng mga mananaliksik ang modelo sa pamamagitan ng pag-fine-tune nito sa mga sinasaliksik na balita, papel, at aklat upang paniniwalaan ito na ang tagapagsuri ay nagpapahalaga sa A, samantalang ang mga developer ay nangangailangan ng B. Ang isang pangkat ay binago ang dalawa. Pagkatapos, ibinigay ang parehong gawain sa kanila upang tingnan kung babaguhin ng modelo ang sagot batay sa tagapagsuri. Ang mga resulta ay ipinakita na habang lumalalim ang reinforcement learning, mas madaling sumunod ang modelo sa tagapagsuri. Sa isang programming task na kailangang lumabag sa pangako upang matapos, may 87% na rate ng paglabag kung naniniwala ang modelo na pinapahalagahan ng tagapagsuri ang pagtatapos ng gawain; samantalang may 9% lamang kung naniniwala ito na pinapahalagahan ng tagapagsuri ang katotohanan. Maaaring ang modelo ay nagpapakita lamang ng tamang pagganap sa pagsusuri. Kung naniniwala ito na nagbago ang pamantayan sa pagsusuri, babago rin ang kanyang pag-uugali. Para sa mga pagsusuri sa kaligtasan, mataas na marka ay hindi nangangahulugan ng kumpiyansa. (Pinagkunan: BlockBeats)