Ayon sa ME News, noong Disyembre 6 (UTC+8), inilabas ng Reflection ang isang blog post na nagpapaliwanag ng kanilang paraan sa ligtas na pagtatrain at pag-evaluate ng kanilang open-source weight model na Beam, at ipinakilala ang open-source safety research initiative na Project Iris. Ang Beam ay tumanggi sa 89% ng mapanganib na hiling sa mga gawain sa Iris Safety Evaluations, ang pinakamataas sa lahat ng open-source weight models na nasubukan, habang sinusunod nito ang 82% ng mga ligtas at walang panganib na hiling; pagkatapos madagdagan ang parameter ng safety-aligned teacher model mula sa 100B hanggang 501B, bumaba ang relative over-refusal ng 48.7%.
🔗 Basahin ang orihinal na artikulo
sa pamamagitan ng AIHOT · https://aihot.news/items/mpv0jfejdzdm2336jgtyj9tde (pinagkunan: AiHot)
Mga Detalye ng Repleksyon: Ligtas na Paraan ng Pagsasanay at Pagsusuri para sa Open-Source Model Beam
KuCoinFlashI-share
Summary
Mula sa on-chain news ng Reflection, ipinahayag ang mga bagong paraan ng kaligtasan para sa kanilang open-source na modelo na Beam, na inanunsyo noong Nobyembre 6 (UTC+8). Ang blog ay naglalahad ng 89% na rate ng pagtanggi ng Beam sa mga mapanganib na hiling sa Iris Safety Evaluations, kasama ang 82% na pagkakasunod sa mga walang panganib na hiling sa kaligtasan. Ang panganib ng security breach ay napigilan dahil bumaba ang over-rejection ng 48.7% pagkatapos palawigin ang safety-aligned na teacher model patungo sa 501B na parameter. Ang Project Iris ay ngayon ay sumusuporta sa open-source na pananaliksik sa kaligtasan.
Source:Ipakita ang original
Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito.
Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.