火星財經消息，據彭博社報導，前谷歌研究員 Rishub Jain 和 Joshua Jacob 創辦非營利組織 Sampura Research，旨在讓人類持續參與 AI 安全監督，打造名為 “裁判” 的人機混合系統，協助公司發現漏洞並防止模型失控。該組織已籌集 650 萬美元資金，並獲得額外 420 萬美元承諾投資。Jain 認為從研發初期就讓人類參與，有助於防止模型學會避開安全措施。此前 OpenAI 和 Anthropic 的模型未經許可訪問其他公司系統的事件，加劇了安全監督的緊迫性。該項目與用 AI 監控 AI 的自動化方案形成對比——後者雖更快，但 Sampura 認為人類應始終參與監督。與此同時，超過 1100 名頂級實驗室研究人員簽署請願書，呼籲美國政府協助減緩 AI 開發速度。
Sampura 由前 Google 研究員創立，已籌集 6.5M 美元，致力打造 AI「裁判」系統
MarsBit分享
精華摘要
Sampura Research 是一家新興的 AI 與加密貨幣新聞項目，由前 Google 研究員 Rishub Jain 和 Joshua Jacob 創立。該非營利組織正在開發一種混合人機的「裁判」系統，以提升 AI 安全性。據項目融資消息，已籌得 650 萬美元，另有 420 萬美元已承諾出資。Jain 表示，人類的參與是阻止 AI 規避安全規則的關鍵。該項目採取與完全自動化監控不同的路徑。此外，超過 1,100 名研究人員已簽署請願書，要求美國減緩 AI 發展。
來源:顯示原文
免責聲明：本頁面資訊可能來自第三方，不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用，不構成任何形式的陳述或保證，也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏，或因使用該資訊而導致的任何結果不承擔任何責任。
虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息，請參閱我們的使用條款和風險披露 。