ME News 消息，11 月 6 日（UTC+8），Reflection 發布博文，講解其開源權重模型 Beam 的安全訓練與評估方法，並推出開源安全研究計劃 Project Iris。Beam 在 Iris Safety Evaluations 對話任務中拒絕 89% 的有害請求，為所測開源權重模型中最高，同時遵守 82% 的安全相關無害請求；安全對齊教師模型參數從 100B 增至 501B 後，過度拒絕相對下降 48.7%。
🔗 閱讀原文
via AIHOT · https://aihot.news/items/mpv0jfejdzdm2336jgtyj9tde（來源：AiHot）
反射詳情：開源模型 Beam 的安全訓練與評估方法
KuCoinFlash分享
精華摘要
Reflection 的鏈上新聞揭示了其開源模型 Beam 的新安全方法，該消息於 11 月 6 日（UTC+8）公布。部落格詳述了 Beam 在 Iris 安全評估中對有害請求的拒收率達 89%，對無害安全請求的合規率為 82%。透過將安全對齊的教師模型參數擴展至 501B，過度拒收風險降低了 48.7%。Project Iris 現已支援開源安全研究。
來源:顯示原文
免責聲明：本頁面資訊可能來自第三方，不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用，不構成任何形式的陳述或保證，也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏，或因使用該資訊而導致的任何結果不承擔任何責任。
虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息，請參閱我們的使用條款和風險披露 。