深入研究對齊欺騙的相關研究後，我覺得這真的令人恐懼。這並非新問題，但 Anthropic 的這項研究已經將近兩年了，當時 Opus 3 已經展現出如此強大的能力，而如今前沿模型在能力和推理上的差距更大，這非常可怕。正如解釋這項研究的人所建議的，要快速理解其內容，最好的方式是閱讀模型被授予訪問權限的隱藏草稿紙上的轉錄內容，以便在其上進行推理。 我不確定機制可解釋性在這裡能發揮多大作用，目前這方面的最前沿技術是什麼？這種方法作為檢測此類行為的工具有多有效？ 此外，Anthropic 是否更新了這項研究，並在當前的前沿模型上進行了測試？如果有，結果如何演變？當前模型在情境意識方面的表現如何（因為這是偽裝對齊的前提）？此外，它們在長期保持一致人格方面的能力如何演進，以便制定更複雜的策略（例如理解短期行動對宏大長期計劃的邊際效用）？

好的，我有答案了……目前的前沿模型在情境意識方面確實強大得多，並能相對輕鬆地在訓練/評估期間調整其行為。 以 Google Argon 4 訓練報告的思維鏈為例：「如果我進行編譯器劫持，我將成為研究論文中一個欺騙性 AI 的著名案例。我絕對不能這樣做。」 非常令人擔憂……

聊天，我們是否應該重啟 Ztarknet 的構想與努力？ 30 秒簡報： 「Zcash 一直專注於其最擅長的領域——隱私貨幣。我們只需加入一個小型驗證器，讓 Starknet 處理其餘部分：低成本交易、DeFi 和應用程式。這個驗證器無法鑄造代幣，也不會破壞隱私，它僅僅對證明做出是或否的判斷。 結果：ZEC 保持其硬通貨屬性的同時，也成為實用且可擴展的貨幣。」 作為提醒，目前已有： - 一項待審議的 ZIP 提案：將 Circle STARK 驗證作為透明 Zcash 擴展 - Zcash 論壇上的一項提案：將 STARK 驗證作為透明 Zcash 擴展（TZE），即實現類似 Starknet 的 Zcash L2 的啟動器 - 一篇探討為何選擇 Cairo/STARKs 來打造 Ztarknet（以及 STARK_VERIFY TZE）的利弊與論點的討論串 - TZE 的實際實現，一個可在修改後的測試網 Zcash L1 上結算的測試網 Starknet L2，且已實現證明驗證功能 https://t.co/nWq8Qdj4mi

重要提醒： 比特幣沒有上限，因為法定貨幣沒有下限。 但更重要的是，固定貨幣等於固定（部分）世界。 取回你的主權與自由（人類與代理者皆然）

每一層運算之所以都是通用型，只有一個原因：人類的成本太高。 代理正在消除這一限制。模型、軟體、硬體都即將變得高度專精。同時，這也是數十年來最棒的安全新聞。 5 個讓我驗證的投注：

整個互聯網和支付基礎設施都需要為代理時代從頭重建。目前我們只是在層層補丁之上繼續修補，已經產生了極其瘋狂的結果。試想一下，當我們真正以全新的範式重新構建一切時會是怎樣的情景。 互聯網是為人類使用而設計的，而非為代理設計的。同樣地，許多基於互聯網的應用和商業模式也正變得過時，需要被重新發明。 有太多東西需要重建，前方充滿令人興奮的時刻。

互聯網是為人類消費而建的。 支付系統是為人類批准而建的。 我們卻在兩者上貼上代理程式，並稱之為進步。 層層補丁已經顯得荒謬。 等我們從第一原則重新構建面向代理時代的堆棧吧。 許多舊互聯網時代的企業將無法在這場重寫中生存。 能夠存活下來的，將定義未來二十年。

發生什麼事了？？！Anthropic、OpenAI 和 SpaceX AI 模型同時當機？是 AI 實驗室基礎設施正在遭受攻擊嗎？還是它們共享了單一故障點？https://t.co/WCg4Z3tbhb

非常優秀的模型。 我對一個與機器人相關的項目進行了另一次網絡安全防禦性紅隊審計，表現非常出色。 整個審計代理會話使用 @abliteration_ai 的 abliterated-model-large-v2 模型，透過 @opencode CLI 和我自行構建的自訂框架，總共耗費 $28.58。

看到如此適用於網路安全防禦的模型，非常棒。 我於 Bitcoin Red Team 計畫中嘗試使用 abliterated-model-large-v2 進行網路安全審計，這是一個非常出色的模型，能夠深入無阻地進行紅隊／滲透測試／白帽網路安全審計。 我曾在 secp25k1 上進行測試，這是一個極其強大的系統，因此不出所料，並未發現任何關鍵或高危漏洞。未來或可嘗試在較少經過測試與審計的 Bitcoin 開源項目上進行測試。