在過去一年中，我和我的團隊與歐洲超過3,000名頂尖企業領導者進行了交流，這些對話讓我得出一個明確結論：當前四分之三的代理AI項目將會遭遇重大安全挑戰。
圍繞AI和代理AI的炒作及隨之而來的FOMO（錯失恐懼症），導致許多組織在這個新興領域還沒學會走路就開始奔跑。難怪高德納預測到2027年代理AI項目取消率將上升，或麻省理工學院的報告顯示大多數企業生成式AI試點已經失敗。從網絡安全角度來看情況更糟，斯坦福大學數據顯示僅有6%的組織為AI採用了先進安全框架。
但根本問題不是糟糕的代碼，而是糟糕的治理。除非董事會從一開始就灌輸安全思維，並緊急介入加強治理，同時設定明確結果並在代理AI部署中嵌入防護欄，否則失敗是不可避免的。
從答案到行動
代理AI改變了重心。它標誌著從AI提供答案到AI採取行動的根本轉變。這種轉變帶來了速度和規模，但也將控制面轉移到身份、權限和監督。代理AI的成功較少取決於代碼行數，而更多取決於董事會整體的問責線。代碼質量很重要，但權限決定了影響規模。
代理AI失敗的原因
代理AI常常因治理缺口而失敗。太多項目僅由單一職能部門負責，代理AI被視為CIO項目而非董事會擁有的企業計劃。安全、風險、法律、運營和業務部門要么遲到，要么根本沒有參與。結果是決策漂移、影子構建出現，沒有人掌握全局。
另一個常見的故障線是結果漂移。項目在沒有明確、可衡量的業務和安全結果的情況下啟動。團隊從工具開始，然後才反向填充理由。預算膨脹，試點悄悄進入生產環境，不久之後，沒有人能夠展示董事會批准的成功衡量標準或風險閾值。
最後，防護欄很少且未經測試。代理以過度權限、訪問敏感數據、薄弱的身份檢查以及幾乎沒有實時驗證模型來限制訪問的方式啟動。沒有「安全帶」，沒有AI的零信任。隨著集成增長，在第一天看起來還不錯的控制措施不可避免地會衰減和失敗。
有效的董事會藍圖
為了應對這些風險，企業必須建立有實質的治理。代理AI應被視為以安全為核心的全企業計劃。這意味著要創建某種形式的代理治理委員會（一個跨職能機構，監督整個企業的所有代理AI活動）。它應該每月開會，每季度向董事會匯報，並擁有所有決策權。共享問責有助於確保項目具有韌性、合規且戰略一致。如果您有首席AI官，請讓他們負責代理、數據、權限、所有者和控制的註冊。
定義和限制結果也很重要。計劃應從可衡量的業務目標和風險意識開始，而不是技術。建立兩到三個董事會批准的重要目標，然後設定風險指標、禁止行動和安全基準，以防止浪費投資。設計可以從這些邊界反向工程。如果一個行動無法與具有可審計目的授權身份相關聯，它就不應執行。
最後，組織必須在第一天就建立防護欄。必須通過零信任原則平衡信任與控制。權限控制和身份優先安全是代理AI的新防護欄。代理應被視為身份，將人類、機器和代理身份統一在一個策略下。實施最小權限、短期憑證和職責分離。對風險步驟使用子代理；對不可逆轉的行動保持人員參與，並記錄每個決策和調用。安全設計確保創新不會使企業暴露於可避免的風險。這樣想：您會給實習生無限制的訪問權限嗎？那麼為什麼要給AI代理呢？請記住，代理系統的自主權必須贏得，而不是假設。
本季度可運行的檢查
治理
- 成立代理治理委員會並發布其職權範圍
- 維護代理、數據訪問、所有者和控制的實時註冊表
- 在上線前運行事前剖析、紅隊提示和場景測試
- 每季度與董事會審查事件和未遂事件
結果
- 批准每個用例的可衡量目標，並設定損害閾值
- 列出始終需要人工決策的不可逆行動
- 將每個行動映射到身份和目的代碼
防護欄
- 統一人員、服務和代理的身份
- 應用最小權限、過期憑證和子代理模式
- 要求簽名請求和響應，並進行持續監控
- 在發布步驟或影響客戶的變更中保持人員參與
代理AI格局
複雜性正在上升。分散的堆棧隱藏了跨網絡、雲、SaaS和OT的盲點。Unit 42報告顯示，大多數事件現在涉及多個攻擊面。在太多地方信任度仍然過高，過度授權的帳戶在雲環境中仍然是常態。響應時間以天為單位衡量，而目標應是分鐘。除非從一開始就加以控制，否則代理項目可能會放大每一個這些弱點。
Palo Alto Networks的定位
保護您的AI創新並不難。我們的角色是將焦點從複雜性轉移到為客戶提供原生集成、創新、成本效益和實時結果。我們稱這種方法為「平台化」。通過將這種方法與零信任安全文化相結合，組織可以為員工和開發人員保護AI項目。我們推出了Prisma® AIRS™，讓CXO重新獲得對生成式AI和代理系統的可視性、控制和合規性，在他們的整個環境中應用一個策略，並實現攻擊面的100%可視性。
良好實踐的樣貌
代理AI只有在嵌入具有明確所有權和監督的全企業計劃中才能成功。從第一個設計文檔到季度審查，治理始終存在，結果明確，防護欄從一開始就內置。當安全成為整個過程的核心合作夥伴時，強有力的交付就會發生。這項工作從董事會開始，然後流經架構、工程和運營。
了解世界上最全面的AI安全平台Prisma AIRS如何幫助客戶保護所有應用、代理、模型和數據。
關鍵要點
- 代理AI項目因治理不善而面臨重大安全挑戰。許多組織在沒有建立強大安全思維的情況下匆忙進入代理AI，導致項目取消和失敗率高。核心問題不是糟糕的代碼，而是缺乏董事會級監督和明確治理。
- 代理AI將焦點從答案轉向行動，增加了對強健控制和問責的需求。這種轉變帶來了速度和規模，但也將控制面轉移到身份、權限和監督。成功取決於董事會整體的明確問責線，而不僅僅是代碼質量。
- 代理AI成功的「董事會藍圖」包括建立治理、定義和限制結果，以及從第一天開始建立防護欄。這包括成立代理治理委員會、設定具有風險意識的可衡量業務目標，以及實施零信任原則，統一身份、最小權限和對代理的持續監控。