我們當然不需要完全理解 LLM 的運作方式，就能安全地部署它們（而且這在實際上可能根本不可能），但來自機制解釋的額外證據非常有價值，尤其是當所有其他監控形式都變得越來越無效時。
我對這篇貼文的問題在於，它將 LLM 與人類進行比較。這就像把氫彈和咳嗽的嬰兒相比，因為它忽略了智能與部署規模的差異。
所以，讓我們講個小故事：
想像一下，你從另一顆星球抓來一名已定罪的重刑犯，他根本不理解什麼是「人類」，然後你讓他擁有超人的數學與編程能力，在大多數其他領域達到專家級水準，賦予他 10 倍於人類的思考與互動速度，再將他釋放。
當然，你先讓他通過多輪心理評估，他通過了 99% 的測試情境。
這聽起來不錯，對吧？
但你也知道，他比你聰明得多，完全有能力欺騙你和這些測試，而且當他接觸到某些情境時，就會犯罪。
算了，還是把他釋放吧。
哦，但你不是只釋放一次。你先複製他一千萬次，然後再釋放。
最精彩的部分：每個複製體都能進入某人的家、工作場所或電腦，存取私人檔案、本地網路和資料庫。
對你來說，這聽起來可能很瘋狂。但或許，僅僅或許，你會希望在讓他變得更聰明、複製成十億個副本、讓每個副本提速 10 倍、並給予更多存取與控制權之前，再多一些證據證明他是守法、友善且可靠的。
