Hugging Face 執行長呼籲在網路威脅日益增加的情況下加速 AI 安全進程

iconKuCoinFlash
分享
AI summary icon精華摘要
Hugging Face 執行長 Clem 呼籲在 MiCA 和 CFT 的關注下加快 AI 安全進展。他指出 AI 已用於阻止網路攻擊，並強調透明度和法律框架的重要性。最近 OpenAI 模型遭入侵以及美國一項關於 AI 停機權力的法案，提升了監管的緊迫性。
ME AI 消息，據動察 Beating 監測，Hugging Face 執行長 Clem 表示，現在不是放慢腳步的時候，而是要加速前進！最近由 AI 驅動的網路攻擊讓所有人都在討論 AI 的風險。我們確實應該討論，但不能忽視更大的圖景。如果我們努力去做，AI 將讓世界變得更安全，就像大多數重大技術一樣。 我們已經看到了一絲曙光：已使用 AI（更具體地說是一個開源模型）成功防禦了自己。那些幫助阻止 AI 驅動網路攻擊的同一套系統，現在可以每天幫助防禦數百萬次網路攻擊，同時幫助我們在攻擊者利用漏洞之前識別並修復它們。要實現這一點，我認為我們需要三件事： 提高透明度，強制要求對代理網路攻擊進行追蹤共享和事件披露； 繼續將 AI 驅動的網路攻擊定為非法，並處以有意義的懲罰以起到威懾作用； 為防禦者配備最好的 AI，尤其是開源模型，以減少攻擊者與防禦者之間的能力不對稱。 如果做好這三件事，AI 就不會只是帶來新的網路安全挑戰，它將根本性地、有意義地強化網路安全。 近期 OpenAI 模型入侵 Hugging Face 事件發酵，美國眾議員提出兩黨法案《AI 緊急關閉法案》，要求先進/前沿 AI 系統開發者必須保留技術能力，以便節流、暫停或完全關閉系統；並授權國土安全部（DHS）部長在與商務部長、國家情報總監協商後，在模型失控或構成災難性風險時下令干預。（來源：BlockBeats）
來源:顯示原文
免責聲明：本頁面資訊可能來自第三方，不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用，不構成任何形式的陳述或保證，也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏，或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息，請參閱我們的使用條款和風險披露 。