人工智慧不僅越來越擅長回答問題，現在還協助編碼、研究、分析以及其他過去幾乎完全由人類處理的任務。這引出了一個新問題：當人工智慧在建構下一代人工智慧中扮演更重要的角色時，會發生什麼？
OpenAI 目前正呼籲制定國際標準，以協助回答該問題。在一篇題為「為人工智慧的下一階段建立標準」的 9 月 21 日帖子中，OpenAI 提議由美國領頭的國際努力，為前沿人工智慧制定共同的技術標準。該公司表示，這些標準可幫助各國使用更一致的方法來衡量人工智慧能力、評估風險、測試防護措施並報告嚴重事件。
重點摘要
- OpenAI 希望制定評估前沿人工智慧的國際標準。
- 該提案涵蓋功能、風險、保障措施及事件報告。
- OpenAI 表示，完全自主的遞歸自我改進今天並未發生。
- 隨著人工智慧變得越來越強大，公司希望人類的控制仍居於核心地位。
- 現有的 AI 安全組織可協助制定通用的技術標準。
Openai 希望為前沿人工智慧建立一個共同框架
基本概念相當簡單。各國並不需要為評估先進人工智慧所帶來的風險而建立完全不同的方法。根據 OpenAI 的說法，標準化技術方法可以為各國、研究人員和人工智慧社群提供一種有效的方式，來評估日趨複雜的人工智慧。當人工智慧相關事件跨越國界發生時，這一點變得更加重要。
該公司並未提議制定單一的全球人工智慧法律。相反，它希望各國制定相互兼容的標準，由各國政府隨後決定如何在其自身的監管體系中使用這些標準。這一差異至關重要，因為所建議的標準並不會立即成為所有人工智慧技術許可或認證的強制性要求。相反，各國政府仍保有決定這些標準如何在其管轄範圍內應用的權力。
遞歸自我改進是對話的一部分
OpenAI 提案中較有趣的部分之一，是其對遞歸自我改進（RSI）的討論。這個概念描述了一個未來，在這個未來中，人工智能系統可以越來越幫助研究人員開發出更強大的人工智能系統。簡單來說，人工智能可以成為改善人工智能本身過程的一部分。
這可能加速人工智慧的研究。但同時也帶來一個艱難的安全問題：如果人工智慧系統在開發未來模型時深度參與，應保留多少人為監督？
OpenAI 表示，目前並未發生完全自主的遞歸自我改進。它還認為，除非能夠在保持人類控制的前提下安全地進行，否則不應追求此方向。隨著人工智慧系統變得越來越能處理日益複雜的研究與開發任務，評估與安全測試變得更加重要。
AI 安全標準可能會變得更加重要
OpenAI 也將全球現有的 AI 安全組織和網絡視為此項努力的潛在基礎。該公司特別提及美國、英國、加拿大、法國、德國、日本、韓國、新加坡、印度、肯亞和澳洲等國家的 AI 安全研究所及相關組織。
與每個國家各自發展完全獨立的技術方案不同，OpenAI 希望這些團體能朝向相互補充的標準努力。該提案還呼籲 AI 開發者、研究人員、學術界人士和獨立技術專家參與。OpenAI 表示，這些標準應以技術指標為基礎設計，而非圍繞特定公司或國家的利益。
這為何重要
時機值得注意。AI 公司正在建立系統，這些系統能越來越多地在較少直接人為輸入的情況下執行多步驟任務，而政府仍在摸索如何規範這項技術。
路透社報導，OpenAI 希望美國在制定先進人工智慧的國際技術標準方面發揮領導作用。更大的挑戰可能是讓各國和企業就這些標準應衡量什麼以及如何應用達成一致。
目前，OpenAI 的提議專注於在前沿 AI 更加強大之前，建立一個共同的技術基礎。隨著 AI 開始承擔更多開發 AI 本身的工作，擁有共同的方式來衡量能力、風險和防護措施，可能會成為討論中越來越重要的一部分。
本文原載於 Crypto Breaking News：OpenAI 推動全球 AI 安全標準，隨著 AI 日趨自主 —— 您值得信賴的加密貨幣新聞、比特幣新聞和區塊鏈更新資訊來源。