AI Agent 之所以讓人期待,是因為它不只會回答問題,還能幫使用者完成實際工作。它可以整理文件、操作瀏覽器、呼叫工具、連接帳號,甚至協助產生程式碼。
但同一組能力,也會讓人感到不安。當 AI 助手擁有讀檔、寫檔、執行指令或連接外部帳號的能力時,它就不再只是聊天視窗,而是一個有權限的操作者。
值得信任的 AI Agent 應該尊重權限、防範提示詞注入、把產生的程式碼視為需要檢查的輸出、保護私人資料、謹慎管理憑證,並清楚標示外掛權限。
AI 自動化的未來,不是消除人的控制,而是把人的判斷放在更重要的位置。