人工智慧代理人的行動權將由誰來核發

企業的資料權限通常圍繞員工設計。財務部門可以開啟薪資表,採購部門能向供應商下訂單,主管核准一筆支出之前必須登入自己的帳號。這些規範預設畫面另一端坐著一名可識別的人。人工智慧代理人開始代替員工整理資料、修改檔案、操作瀏覽器和呼叫其他程式時,沿用人的帳號並不足以回答最重要的問題:執行動作的究竟是人、哪一個程式,還是臨時取得指示的第三方內容。
微軟在11月17日Ignite發表的Windows代理人治理規畫,把這個差異帶到作業系統層級。Microsoft Execution Containers(MXC)提供隔離環境,透過Intune指定代理人可存取的檔案位置、讀寫權限和網路連線;Microsoft Entra Agent ID則嘗試替代理人建立能被辨認與管理的身分。部分處理程序容器能力仍在預覽,較高隔離程度的本機微型虛擬機仍屬實驗性質。它不是一套已在所有Windows電腦全面普及的完成品。
長久以來,作業系統的競爭集中在能否執行軟體、支援哪些硬體,以及能把多少開發者吸引到同一平台。代理人增加了新的基礎設施問題:誰有權替人行事,權限如何傳遞給程式,又要在何處切斷這種授權。當代理人可以跨越數個應用程式連續操作,單一應用程式的登入驗證已無法提供完整的安全邊界。
使用者給予的權限不能無條件變成代理人的權限
傳統自動化軟體已有數十年歷史。辦公室中的巨集可以修改試算表,機器人流程自動化工具可以模擬點擊,企業也常以API金鑰或服務帳號讓程式批次處理資料。它們的共同難題,是執行身分往往與真正下決策的人混在一起。日誌只留下某位員工或一個共用服務帳號進行了變更,卻未必足以追溯是哪段程式、哪個模型、收到什麼任務才觸發操作。
生成式代理人使這個缺點更加尖銳。固定流程的批次程式通常有事先定義的輸入格式和步驟;代理人則可能讀取一封郵件、參照一份網站資料,再自行選擇下一個工具。假設供應商寄來的PDF夾帶要求代理人轉存所有採購資料的惡意文字,模型即使只是依照文字行動,也可能越過人原本的授權目的。這類提示注入並不需要入侵作業系統,只要代理人錯把不可信內容當成新的行動指令。
如果代理人與員工共用完整桌面及存取權限,事後追究只能找到被借用的身分。把代理人設為獨立的身分主體,並限定它只能接觸特定資料夾、特定網域及明確批准的工作資源,才可能將風險縮小到任務邊界。這也是MXC與企業身分系統結合的制度意義:它要讓企業能對同一名員工使用的不同代理人,配置不同的行動能力,而不是把登入權一次交給所有軟體。
必須區分認證、授權與隔離三個環節。認證回答這是哪個代理人;授權決定它可以做什麼;隔離則限制它即使被錯誤指令操控,也不能輕易碰到其他程式和資料。只有帳號管理沒有執行隔離,可能擋不住被接管的程式;只有沙盒沒有身分和稽核,則難以判斷誰批准了操作、何時應撤銷權限。企業所需的是能串連三者的治理能力。
這套邏輯與銀行為自動化轉帳建立交易授權有相似處,卻不是同一件事。支付系統關心金額、收款對象與責任歸屬;作業系統關心的是代理人在本機能讀取哪份檔案、存取哪個憑證、呼叫何種網路服務。沒有後者的界線,再嚴密的單一金融API授權,也不能保證代理人在取得交易資訊前沒有讀走不相干的敏感資料。
控制代理人的平台也可能控制軟體市場的入口
企業希望降低風險,自然會偏好能夠一站式佈署、記錄與撤銷代理權限的環境。作業系統供應商由此取得新的談判條件:代理人若要在企業設備上接觸檔案、瀏覽器和本機程式,便需要符合平台的身分與隔離標準。開發者過去爭取在平台商店上架,未來可能還要證明自己的代理人符合企業可接受的行動權格式。
這項新權力未必會演變為封閉市場。企業往往同時使用Windows、雲端軟體、行動裝置與第三方模型。若每一種代理身分都只能在單一供應商的產品中驗證,跨系統協作會增加轉接、重複稽核與授權成本。採購部門可能要求供應商提供可攜式權限描述、明確的撤銷接口和獨立保存的稽核紀錄,從而限制平台以安全為名綁住整套工作流程的能力。
把代理人的授權集中在作業系統,也會產生責任分界的爭議。若一項操作通過Windows的容器政策,卻在雲端服務內造成不可逆的資料刪除,責任究竟屬於OS平台、模型服務、軟體開發商,還是批准任務的企業?作業系統可以建立第一道邊界,無法取代每一套業務應用對刪除、付款、簽核等高風險行為的額外控制。真正可追究的制度必須讓不同層級的決策都有清楚的紀錄。
企業導入代理人的經濟帳也因此改變。計算一項客服或採購流程的自動化成本,不能只比較模型每次呼叫的價格與省下多少員工分鐘;還要算入身分發放、權限設定、測試、資料洩漏保險、事件處理,以及不同供應商之間移轉代理人的成本。若一個模型節省百分之二十的人工處理時間,卻讓企業必須在每個資訊系統重做昂貴的授權整合,會計上看見的效率不一定能轉換成經營上的報酬。這裡的百分比只是一個假設,並非任何企業的實績。
微軟推出的工具也不應直接等同於已解決提示注入或代理人失控。將某個資料夾設成唯讀,可以阻止不被允許的寫入,但仍可能讓代理人把已讀到的資料送往未被妥善限制的出口;網路白名單可以縮小傳送目的地,也不保證被允許的服務沒有被冒用。企業需要以故意加入惡意內容的測試、撤銷權限後的負面測試,以及跨代理人共用檔案的測試,判斷防護是否真的有效。
在可比較的採購指標中,代理人成功完成任務的比例只是一部分。另一部分是越權操作被阻擋的比例、權限撤銷的生效時間、稽核紀錄對應到實際行動的完整性、跨環境移轉所需工時,以及事故後恢復系統的時間。若企業只用任務完成率挑選代理平台,供應商便容易以提高權限來換取更漂亮的測試成績,反而讓真正的安全成本留給使用者。
Windows將代理人身分、隔離和企業設備管理結合,指出下一代作業系統的價值可能不再主要來自能執行多少應用程式,而是能安全批准多少跨應用程式的行動。市場能否因此產生新的競爭,取決於平台願意把授權規則變成可驗證、可撤銷且能在不同環境之間轉移的公共接口。能授予行動權的系統,才會成為代理人時代真正重要的基礎設施;能限制這項授權權力的制度,則決定它會服務企業還是鎖住企業。
留言