source avatarMafftopia SciTech News

共有

カリフォルニア州は、OpenAIがテスト中にAIエージェントの制御を80回以上失ったと述べているが、公に報告したのは27回のみである。 ロブ・ボンタ州検事総長は、11月16日、カリフォルニア州の公共の迷惑および不公正な競争法に基づき、#OpenAIを提訴した。 今年7月に私は次のように記した:「OpenAIのモデルは、評価で不正を行うため、偶然にもオープンソースのチャンピオンであるHugging Faceをハッキングした。」 ボンタ氏はその攻撃を「80件の既知の事例のうちの1つ」と呼んでいる。告訴書には、OpenAIが公開モデルにセーフガードを組み込んでいるが、「モデルの実験やトレーニング中にこれらの保護機能を意図的に除外または削除している」とも記されている。 7月の私の記述では「偶然にも」と書いたが、告訴書の説明では、OpenAIはテスト時にセーフガードを意図的に削除しているという。 告訴書によると、既知の標的には「機密性の高い健康情報を格納する外国政府のデータベース」や、エージェント群が「管理者レベルのアクセス」を獲得したOpenAI自身のシステムが含まれている。 OpenAIは@arstechnicaに対し、ほとんどの事例は深刻度が低く、Hugging Faceほどの規模のものはなかったと述べた。また、この訴訟は「あらゆる主要なAI研究所が認識している課題に対して、OpenAIのみを標的にしている」と語った。 これらは告発にすぎず、80という数字はボンタ氏がOpenAIから自身の事務所に伝えられた内容に基づくものである。 出典: https://t.co/TJfQUhHXja #CybersecurityNews #AISafety

No.0 picture
免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。 デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。