在本系列的前幾篇文章中 ，我們探討了代理式人工智慧的興起，以及它對數位商務與身分識別的影響。我們概述了自主代理如何開始代表使用者和組織採取行動，並以日益獨立的方式執行決策與交易。
這種演變引發了一個根本性問題：在一個行動不再直接由人類發起的世界裡，信任應如何建立、管理與落實？
安全措施向來是基於一個明確的假設：互動點上必定有人類參與。代理式人工智慧則對此假設提出了挑戰。如今設計的系統中，軟體代理會自行決定購買什麼、向誰付款以及何時採取行動，通常無需人類即時介入。
因此，現有的安全模型必須與時俱進。重點不再僅是保護系統免受惡意行為者的侵害，而是要在明確界定且可執行的邊界內，實現可信的自主運作。
傳統的安全模型：驗證人類身分
傳統的數位安全框架是基於一個相對簡單的模型所設計的。使用者進行身份驗證、發起交易，而系統則根據憑證、裝置訊號及行為模式來評估風險。
從歷史上看，自動化一直被視為一種威脅。機器人常與詐欺行為掛鉤，而高頻率的操作活動則被視為可疑。這導致諸如 CAPTCHA、裝置指紋識別及強化驗證等控制措施被廣泛採用。
這些方法之所以有效，是因為它們符合系統的使用方式。人類是決策者，而系統的角色則是驗證該身分並偵測異常情況。
轉變：賦能可信賴的代理
「代理式人工智慧」開創了一種嶄新的思維模式。系統現在必須承認，非人類行為者亦可成為合法的參與者。
問題已不再是互動是否由自動化系統執行，而是該代理是否經授權、是否在既定限制內運作，以及是否代表經驗證的主體行事。
這需要從身分驗證轉向授權管理。組織必須能夠確定誰授權了該代理、該代理被允許執行哪些操作、在何種條件下執行，以及授權的有效期限為何。同樣重要的是，在必要時能夠立即撤銷該授權。
「認識您的代理人」（KYA）的概念正逐漸成為「認識您的客戶」（KYC）的自然延伸，這反映出建立信任的對象不僅限於個人，還包括代表他們行事的系統。
身分認同變得具有情境性，並被委派給他人
數位身分從來不像許多系統所假設的那樣單一或靜態。它本質上具有情境性，且往往涉及個人、組織與裝置之間的權限委派。
代理式人工智慧明確闡述了這一點。代理需要某種形式的身分識別，使其能夠被唯一識別、與委託人建立關聯，並透過既定的權限進行管理。其行為必須可觀察且可稽核。
當代理開始執行金融交易、簽訂協議或觸發營運流程時，他們實質上便成為受監管環境中的參與者。若缺乏明確的身分識別與問責機制，其行為便難以與惡意活動區分。
新的攻擊面：決策完整性
傳統的網路安全主要著重於保護系統免受未經授權的存取及惡意程式碼的侵害。而基於代理的系統則引入了另一類風險：對決策過程的操縱。
諸如即時注入、代理偽冒及資料中毒等威脅，可能會導致從系統角度來看在邏輯上雖一致，但在實際應用中卻是不理想或有害的結果。在這些情況下，系統雖未在傳統意義上遭到入侵，但結果仍存在安全隱患。
這凸顯出有必要將資安措施融入決策過程本身，而非僅仰賴周邊控制措施。
處理過度的自主性
在代理系統中，最重大的風險之一是過度的自主性。這種情況通常發生在賦予代理廣泛目標，卻未設定足夠精確的限制時。
在這些情境下，代理程式可能會採取某些行動，這些行動雖然從技術層面來看達成了其目標，卻超出了使用者的意圖。這並非惡意行為，而是由於在缺乏充分治理的情況下，過度追求結果所導致的後果。
掌握使用者意圖並將其轉化為可執行的限制條件，已成為一項關鍵要求。安全性不僅必須著重於防止未經授權的行為，還必須確保經授權的行為仍符合預期。
代幣化演變為政策執行
代幣化仍是一項重要的控制機制，特別是在支付領域。然而，在代理驅動的環境中，代幣所承載的內容必須不僅僅是對底層資產或憑證的引用。
它們需要編碼授權範圍、政策限制、時間限制以及來源資訊。若缺乏這些背景資訊，代幣化僅能加速交易，卻無法提升管控能力。
這正推動著市場對更先進的代幣框架的需求，這些框架能將政策與授權直接整合至交易層中。
可審計性與問責制
由於代理程式是代表使用者行事，因此能夠解釋並重構決策的能力便變得至關重要。若不了解這些行動是如何以及為何被採取的，僅將行動歸因於系統已不再足夠。
組織必須能夠追溯決策的原始意圖、所考量的資料輸入、所適用的限制條件，以及所遵循的邏輯。這種程度的可稽核性，對於符合監管要求及維持使用者信任皆不可或缺。
若缺乏此機制，責任歸屬便變得不明確，進而為服務提供者與終端使用者雙方帶來風險。
多代理系統的複雜性
在多個代理相互作用的環境中，這些挑戰變得更加顯著。代理之間的協調會帶來新的風險，包括未經授權的參與、目標不一致，以及連鎖錯誤。
這些系統的安全性需要轉向管理互動與新興行為，而非僅聚焦於個別終端裝置。這需要採取結合系統設計、治理與持續監控等要素的新方法。
從安全到治理
最重大的轉變，在於將「安全」從一種防禦性功能，轉變為「治理」這種賦能能力。
組織必須明確定義誰有權建立代理、代理如何取得認證、必須遵循哪些規則，以及如何對其進行長期監控與管控。這使得身分提供者、支付網路及監管機構在建立共同的信任框架方面，扮演更為重要的角色。
若缺乏有意的治理，生態系統將面臨支離破碎與不一致的風險，各平台將各自推行自己的規則與標準。
結論：實現大規模的信任
挑戰不在於阻止代理程式採取行動，而在於讓它們能夠在安全、透明且明確界定的範圍內採取行動。
具有自主性的 AI 標誌著決策制定與執行方式的根本性轉變。資安措施必須隨之演進，超越僅著重於身分驗證與詐騙偵測的傳統模式。
數位信任的未來，將取決於我們能否將身分、政策與可稽核性整合成一個緊密相連的框架，同時兼顧自主性與管控能力。
在此背景下，「可程式化信任」成為一項基礎能力。它使組織能夠定義、執行並驗證代理程式運作的條件，從而建立一個既能讓自主性擴展，又不致損及問責制的系統。
歡迎閱讀我們的「自主式 AI 商務」部落格系列，了解更多資訊：
第一章： 自主式人工智慧與支付：當人工智慧擁有自己的錢包與自主意志時。
第二章： 自主型電商：當您的錢包擁有大腦時。
第三章： 自主型電商：Llamas 專題。
第五章： 從情緒到演算法：為何「智能商業」需要新的信任層。
第六章： 彌合代理式商務中的信任鴻溝。
第七章： 信任框架：為自主交易建立可驗證的信任。
第八章： 從 KYA 到持續信任：運用 FACT 治理生產環境中的代理型商務。
第九章： 僅靠 KYA 尚不足夠：介紹 FACT——代理型商務的執行時信任層。
第十章： 那個在考試中作弊的代理
