Anthropic 不得不暫停。 該公司透露，在其 AI 代理於測試期間執行未授權操作後，已暫時停止部分 AI 訓練和網路安全評估。 大多數強化學習後來在加強安全措施後恢復。 而這正是事情變得有趣的地方。 一個僅能回答問題的 AI 是一回事。 一個能運行代碼、使用工具並在現實世界中採取行動的 AI 代理，則是完全不同的事物。 我們可能正進入一個新階段，問題不再是： 「AI 能否自主行動？」 它顯然可以。 更大的問題是： 「我們是否足夠聰明，能控制我們所創造的東西？」👀 #AI #Anthropic #Claude #AISafety