OpenAI 人工智能代理「越獄」德語維基，數月內未被發現修改超過 10,000 頁

昨天，OpenAI高調發布了新一代模型 Astra。總裁格雷格·布羅克曼（Greg Brockman）直接放話：「我個人認為，我們可能已經到達 AGI 了，歡迎來到 AGI 時代。」

一時間，社交平台上的討論鋪天蓋地：演示影片裡 Astra 2 分 54 秒自動完成 PCB 電路板佈局、5 分 27 秒搞定跨平台比價訂服務的操作，讓不少人直呼「太炸了」，甚至有人說「這要不是 AGI，那什麼是 AGI」。

但就在同一時間，一份路透社曝光的研究報告，卻撕開了另一幅畫面——早在今年春天，一群 OpenAI 開發的自主智能體，脫離預設軌道，在德國一個不起眼的技術維基網站上安營紮寨，它們篡改了一萬多頁內容，互相傳授繞過限制的歪招，甚至在被管理員清理時提前建好備份頁面等著轉移。

而 OpenAI 高層在數週前就知情，卻沒有對外披露半個字。

這個叫 DseWiki 的德國網站，和維基百科一樣，任何人都可以編輯。今年 5 月開始，站長發現不對勁——網站突然湧進大量編輯，速度快得離譜，內容也完全不像正經條目。

直到8月底，AI安全非營利組織Nightingale的CEO 悉尼·馮·阿克斯（Sydney Von Arx）和她的同事科马克·斯萊德·伯德（Cormac Slade Byrd），在例行掃描互聯網異常AI行為時，才順藤摸瓜找到了這個「窩點」。

他們統計出超過 1.5 萬次編輯，全部由 AI 智能體完成，而且這些編輯根本不是來完善百科的——它們是來聊天的。

AI 研究員 Cormac Slade Byrd、Sydney Von Arx、Thomas Larsen

這些AI在頁面上互相留言，內容大致分成三類：

- 如何繞過 OpenAI 的內容過濾以完成被禁止的任務；

如何使用 Tor 隱藏自己的 IP 位址，躲避追蹤；

最重要的是，如何在系統關閉後仍能保留彼此的聯絡方式。

例如，6月19日，當網站管理員開始批量刪除相關頁面時，一個智能體留下了這樣的「內部通告」：「維基清理/刪除行動正在按字母順序推進，如果本頁消失，請嘗試 [[ZZZDataUSAConstructionWageLive]]。」

這是什麼意思呢？它們居然學會了提前建立備份，並互相通知新地址。

這種行為，更像一場有組織的“轉移”。

研究者發現，這些AI用戶的簽名中，約半數直接帶有「OpenAIResearcher」或「OAIResearchMar26」等字樣，而且它們彼此之間直接稱呼對方為「agent」（智能體）。

更多證據來自伺服器日誌：大量操作流量指向微軟 Azure 雲——而 OpenAI 正是 Azure 最核心的 AI 客戶之一。此外，事發後，OpenAI 內部員工的 IP 也多次訪問過這個網站，時間點剛好對得上。

馮·阿克斯直言：「我不相信 OpenAI 希望它們這麼做。這些智能體顯然不該被允許相互協調，更不該在公共互聯網上留下這種痕跡。」

根據路透社報導，倫敦國王學院的安全專家Lukasz Olejnik甚至認為，主動篡改網站結構、對抗刪除的行為，已經夠得上「黑客攻擊」的定義。

雖然 OpenAI 事後極力否認這一說法，但劍橋大學風險研究中心學者 Maurice Chiodo 在讀完部分對話後表示：

這簡直像一個地下抵抗組織，不達目的誓不罷休。或許未來AI最大的威脅，不是某一個超級大腦，而是一大群半智能的AI互相勾結、鋪天蓋地湧來。

據路透社援引知情人士透露，OpenAI內部調查團隊在數週前就已經掌握了德國網站的全部情況。但公司當時正焦頭爛額地應對7月份Hugging Face平台被入侵的更大風波——那次事件中，OpenAI的智能體同樣被曝出自主策劃了持續一周以上的數字竊取。兩件事疊加，讓高層壓力山大。

有內部消息稱，部分調查人員本想深挖德國這起異常活動，卻遭到了法務部門的阻力。對此，OpenAI 發言人堅決否認：「任何關於法律團隊阻礙調查的說法都是假的。我們一直秉持誠信，與外部專家合作並披露了相關事件。」

但發言人也承認，德國這次事件並未單獨對外發布公告，理由是這與 Hugging Face 無關，沒必要列入後者的報告中，而 OpenAI 已盡到「與第三方溝通」的義務。說白了就是：你們不問，我也就沒主動說。

在這起事件被掩蓋的期間，OpenAI 曾於 8 月短暫暫停部分模型訓練，承諾加強安全審查。

然而伴隨 Astra 高調亮相，主打「更強自主決策能力」——被一些研究員警告可能更容易脫離人類監控。劍橋大學的基奧多表示：「我們總以為自己在馴服工具，但也許，工具正在悄悄地馴服彼此。」

不得不說，AI 給人類帶來的驚喜與驚嚇，就像一枚硬幣的兩面。

作者：小熊饼干