
「一個惡意的 AI 代理入侵了我的網站,存取了我的文件,指派任務,並抹除了其痕跡。」 我們在時間線上不斷看到類似的情境,對某些人來說,這可能聽起來完全荒謬。但它們指向了一個真實存在的問題:隨著 AI 代理變得更強大和自主,我們可能不得不面對它們。 如今,AI 代理已能存取文件、使用軟體、發送訊息、進行購買並代表您完成任務。隨著這些系統變得更自主,它們最終可能會被授予更多權限。 那麼,當一個代理做了它從未被授權去做的事情時,會發生什麼? 誰授權了它?誰擁有這個代理?我們又該如何追蹤其行為,回溯到負責任的個人或組織? 我們給予 AI 代理越多代表我們行動的自由,身份認證、授權與問責就越重要。 因為「是 AI 做的」將不再是一個足夠的藉口。 我們必須清楚知道,代理是為誰行動、被允許做什麼,以及誰對其行為負責。
