MEニュース：11月6日（UTC+8）、Reflectionはブログ投稿で、オープンソースの重みモデル「Beam」の安全なトレーニングと評価手法を解説し、オープンソースの安全研究計画「Project Iris」を発表しました。BeamはIris Safety Evaluationsの対話タスクで89％の有害リクエストを拒否し、測定されたすべてのオープンソース重みモデルの中で最高値を記録しました。また、安全に関連する無害なリクエストの82％を遵守しています。安全整列教師モデルのパラメータが100Bから501Bに増加した結果、過剰拒否率は48.7％低下しました。
🔗 原文を読む
via AIHOT · https://aihot.news/items/mpv0jfejdzdm2336jgtyj9tde（出典：AiHot）
リフレクションの詳細：オープンソースモデルBeamの安全なトレーニングおよび評価手法
KuCoinFlash共有
概要
Reflectionのオンチェーンニュースによると、11月6日（UTC+8）に、そのオープンソースモデル「Beam」の新しいセキュリティ手法が発表されました。ブログでは、Irisセーフティ評価においてBeamが有害なリクエストの89％を拒否し、無害なセーフティリクエストに対して82％の準拠率を達成したことが詳細に記されています。セーフティアラインされた教師モデルのパラメータを501Bに拡張したことで、過剰拒否が48.7％減少し、セキュリティ侵害のリスクが軽減されました。Project Irisは今やオープンソースのセキュリティ研究をサポートしています。
出典:原文を表示
免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。
デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。