作者：盧·阿德西達（LouAdesida）


隨著AI應(yīng)用進入規(guī)?；渴穑瑪?shù)據(jù)泄露、提示注入攻擊和智能體失控等風(fēng)險，正威脅著企業(yè)的數(shù)字化轉(zhuǎn)型。在微軟Build 2025大會上，微軟宣布通過Microsoft Azure AI Foundry(國際版)、Microsoft Purview與Microsoft Defender的深度協(xié)同，構(gòu)建覆蓋開發(fā)、部署、運維全流程的智能體防護體系，為企業(yè)的智能化轉(zhuǎn)型保駕護航。

AI 技術(shù)領(lǐng)域的創(chuàng)新正以前所未有的速度發(fā)展，越來越多的 AI 應(yīng)用項目正從實驗階段轉(zhuǎn)向部署階段，以推動切實的業(yè)務(wù)影響。隨著組織通過自定義 AI 應(yīng)用和智能體加速創(chuàng)新，新的風(fēng)險也出現(xiàn)在軟件開發(fā)生命周期和 AI 技術(shù)棧中，涉及數(shù)據(jù)過度共享與泄露、新型漏洞與威脅，以及嚴格的監(jiān)管合規(guī)要求。

到了2025年，針對企業(yè) AI 應(yīng)用的惡意攻擊中，軟件供應(yīng)鏈和基礎(chǔ)設(shè)施技術(shù)棧投毒的占比將超過70%1，這凸顯了開發(fā)早期階段可能存在的威脅。當(dāng)前數(shù)據(jù)泄露的平均成本為488萬美元，但如果能在開發(fā)過程中早期發(fā)現(xiàn)安全問題，這一數(shù)字可大幅降至每起事件80美元2。

信息非常明確：安全問題不能事后考慮。它必須成為整個組織的團隊協(xié)作，從開始就嵌入并貫穿整個開發(fā)生命周期。因此，開發(fā)者和安全團隊需要在流程和工具上達成一致，將安全融入 AI 技術(shù)開發(fā)生命周期的每個階段，并為安全從業(yè)者提供風(fēng)險可見性和緩解能力。

為了應(yīng)對這些日益增長的挑戰(zhàn)，并幫助客戶在開發(fā)與安全團隊間保護、治理 AI 技術(shù)工作負載，微軟正在：

賦能 Microsoft Azure AI Foundry (國際版)和 Microsoft Copilot Studio ，提供業(yè)界領(lǐng)先的基礎(chǔ)能力以保護和管理 AI 技術(shù)工作負載；

將 Microsoft Purview 、 Microsoft Defender 和 Microsoft Entra 的行業(yè)領(lǐng)先功能，深度集成并嵌入到 Microsoft Azure AI Foundry (國際版) 和 Microsoft Copilot Studio 中；

近期，3,000名開發(fā)者齊聚西雅圖參加年度微軟Build大會，還有更多開發(fā)人員在線參與學(xué)習(xí)，從而快速掌握 AI 應(yīng)用和智能體創(chuàng)新的實用技能。為了支持他們的 AI 技術(shù)創(chuàng)新之旅，我們很高興宣布多項新功能，幫助開發(fā)者和組織來保護及治理 AI 應(yīng)用與智能體。

01

Microsoft Azure AI Foundry (國際版)

新基礎(chǔ)能力：構(gòu)建 AI 技術(shù)工作

負載的全生命周期防護

01|AI安全與防護增強：主動防御體系升級

Microsoft Azure AI Foundry (國際版)已服務(wù)70,000家客戶，本季度處理100萬億個token 并支持每日20億次企業(yè)搜索查詢。它已從單一應(yīng)用層發(fā)展為綜合性平臺，支持構(gòu)建具備規(guī)劃、執(zhí)行和學(xué)習(xí)能力的智能體，以達成實際業(yè)務(wù)目標(biāo)。

為助力組織安全構(gòu)建和部署 AI 應(yīng)用，我們?yōu)?Microsoft Azure AI Foundry (國際版)開發(fā)者推出以下新防護能力：

?聚光功能（ Spotlighting ）：實時檢測并阻斷提示注入攻擊

隨著 AI 技術(shù)系統(tǒng)更多依賴外部數(shù)據(jù)源，間接提示注入攻擊這類新型威脅已開始出現(xiàn)。此類攻擊通過在文檔、電子郵件和網(wǎng)頁中嵌入隱藏指令，誘使模型在無用戶直接輸入時執(zhí)行未授權(quán)操作。傳統(tǒng)過濾手段難以有效防御。

Microsoft Azure AI 內(nèi)容安全現(xiàn)推出聚光功能（預(yù)覽版），通過增強提示防護欄（Prompt Shields）的能力，檢測并阻斷潛在間接提示注入攻擊，防止模型執(zhí)行隱蔽惡意指令。

▲在 Microsoft Azure AI Content Safety 中啟用聚光功能，以檢測潛在的間接提示注入攻擊。

?智能體任務(wù)遵從性（預(yù)覽版）：確保智能體在既定范圍內(nèi)運作

隨著開發(fā)者構(gòu)建更強大的智能體，組織面臨越來越大的壓力來確保這些智能體在定義的指令和政策邊界內(nèi)運作。即使微小偏差也可能導(dǎo)致工具誤用、工作流中斷或敏感數(shù)據(jù)意外暴露等風(fēng)險。為此，Microsoft Azure AI Foundry (國際版)現(xiàn)包含智能體任務(wù)遵從性（預(yù)覽版），由兩個組件驅(qū)動：實時評估和 Microsoft Azure AI Content Safety 中的新控制項。

Microsoft Azure AI Content Safety 中的實時任務(wù)遵從性評估 API是核心。該 API 通過分析用戶查詢、系統(tǒng)指令、計劃工具調(diào)用和智能體響應(yīng)，評估智能體行為是否符合分配任務(wù)。評估框架基于微軟智能體評估器構(gòu)建，可測量意圖解析度、工具選擇準(zhǔn)確性、響應(yīng)完整性和對原始請求的整體符合性。開發(fā)者可使用 Microsoft Azure AI 評估 SDK 中的任務(wù)遵從性評估器在本地運行評分邏輯，采用從完全不符合到完全符合的五級評分。這為團隊提供了靈活透明的方式，在問題影響下游前檢查任務(wù)級行為。

任務(wù)遵從性通過 Microsoft Azure AI Content Safety中的新控制項執(zhí)行。如果智能體偏離任務(wù)，控制項可阻止工具使用、暫停執(zhí)行或觸發(fā)人工審核。在 Microsoft Azure AI 智能體服務(wù)中，該功能作為可選功能自動運行。結(jié)合實時評估，該控制項幫助確保智能體保持任務(wù)專注、遵循指令并按企業(yè)政策運作。

? 持續(xù)評估與監(jiān)控：部署后智能體健康度實時追蹤

在部署后保持 AI 智能體的高性能和合規(guī)性，是一項日益嚴峻的挑戰(zhàn)。如果缺乏持續(xù)的監(jiān)督，性能下降、安全風(fēng)險或資源無意濫用等問題可能會被忽視。

Microsoft Azure AI Foundry (國際版)推出的智能體系統(tǒng)持續(xù)評估和監(jiān)控（預(yù)覽版），通過統(tǒng)一儀表板實時跟蹤性能、質(zhì)量、安全性和資源使用等關(guān)鍵指標(biāo)。持續(xù)評估以生產(chǎn)使用量的抽樣率運行質(zhì)量和安全評估，結(jié)果在 Microsoft Azure AI Foundry (國際版)監(jiān)控儀表板顯示并發(fā)布至 Application Insights 。開發(fā)者可設(shè)置警報檢測漂移或回歸，并使用 Microsoft Azure Monitor 獲得 AI 技術(shù)系統(tǒng)的全?？梢娦?。

例如，使用 AI 智能體處理客戶任務(wù)的組織可監(jiān)控數(shù)據(jù)真實性，當(dāng)智能體開始引用無關(guān)信息時檢測質(zhì)量下降，幫助團隊在影響用戶信任前采取行動。

02 | 合規(guī)評估自動化：與 Purview / CredoAI / Saidot的深度集成

AI 技術(shù)法規(guī)和標(biāo)準(zhǔn)對高風(fēng)險 AI 技術(shù)系統(tǒng)提出了透明度、文檔管理和風(fēng)險管理的新要求。開發(fā)者在構(gòu)建 AI 應(yīng)用和智能體時，可能需要基于這些要求的風(fēng)險評估指導(dǎo)工具，并與合規(guī)和風(fēng)險團隊無縫共享控制及評估洞察。

今天，我們宣布 Microsoft Azure AI Foundry (國際版)評估工具與合規(guī)管理解決方案Microsoft Purview 合規(guī)管理器及 AI 治理解決方案CredoAI和Saidot的集成預(yù)覽。這些集成幫助定義風(fēng)險參數(shù)、運行建議的合規(guī)評估，并為控制測試和審計收集證據(jù)。

例如，在歐洲構(gòu)建 AI 智能體的開發(fā)者，可能需要合規(guī)團隊完成數(shù)據(jù)保護影響評估（DPIA）和算法影響評估（AIA），以滿足內(nèi)部風(fēng)險管理和技術(shù)文檔要求?；?Microsoft Purview 合規(guī)管理器的分步控制實施和測試指南，合規(guī)團隊可評估潛在偏見、網(wǎng)絡(luò)安全漏洞或模型行為缺乏透明度等風(fēng)險。

在 Microsoft Azure AI Foundry (國際版)完成評估后，開發(fā)者可獲得記錄風(fēng)險、緩解措施和剩余風(fēng)險的報告，供合規(guī)團隊上傳至合規(guī)管理器以支持審計并向監(jiān)管機構(gòu)或外部利益相關(guān)方提供證據(jù)。

▲根據(jù)新興AI技術(shù)治理標(biāo)準(zhǔn)評估 Microsoft Azure AI Foundry (國際版)的控制措施。

02

微軟安全能力擴展：

為 AI 應(yīng)用注入企業(yè)級控制

01|智能體身份治理：Microsoft Entra Agent ID 解決身份泛濫難題

組織正快速構(gòu)建自有 AI 智能體，導(dǎo)致智能體泛濫和集中化管理缺失。安全團隊常疲于應(yīng)對，無法掌握現(xiàn)有智能體及其引入的安全或合規(guī)風(fēng)險。如果沒有適當(dāng)?shù)谋O(jiān)督，智能體會擴大攻擊面并增加非人類身份管理難度。

為此，我們宣布推出Microsoft Entra Agent ID（公開預(yù)覽版），這是 Microsoft Entra管理中心的新功能，讓安全管理員對 Microsoft Copilot Studio 和 Microsoft Azure AI Foundry (國際版)構(gòu)建的 AI 智能體獲得可見性和控制權(quán)。通過該功能，Microsoft Copilot Studio 或 Microsoft Azure AI Foundry (國際版)創(chuàng)建的智能體將自動分配身份，無需開發(fā)者額外工作。這是管理保護非人類身份的長期計劃的第一步。

▲安全與身份管理員可在 Microsoft Entra 管理中心

查看 Microsoft Copilot Studio 和 Microsoft Azure AI Foundry (國際版)構(gòu)建的 AI 智能體。

這項新功能為即將登陸 Microsoft Entra 的進階能力奠定了基礎(chǔ)。

我們深知，安全防護從來不是單打獨斗。在保護 AI 智能體及其身份的新時代，協(xié)同合作尤為重要。兩周前，我們宣布支持 Agent-to-Agent（A2A）協(xié)議，并開始與合作伙伴共同塑造 AI 身份工作流的未來。

我們更欣喜地宣布與 ServiceNow 和 Workday 達成全新合作。通過將 Microsoft Entra Agent ID 與 ServiceNow AI 平臺及 Workday 智能體記錄系統(tǒng)集成，未來可實現(xiàn)數(shù)字化員工身份的自動化配置。

02|威脅防護直通開發(fā)流程： Microsoft Defender 安全警報和建議已無縫集成至Microsoft Azure AI Foundry (國際版)

隨著更多 AI 應(yīng)用部署至生產(chǎn)環(huán)境，組織需要通過原生集成的安全控制措施來預(yù)測和防止?jié)撛诘?AI 技術(shù)威脅，這些控制由行業(yè)領(lǐng)先的生成式 AI 和威脅情報支持。開發(fā)者需要安全團隊的關(guān)鍵信號，以有效緩解 AI 應(yīng)用部署相關(guān)風(fēng)險。

當(dāng)這些信號存在于開發(fā)者體驗之外的獨立系統(tǒng)時，可能導(dǎo)致緩解延遲，使 AI 應(yīng)用和智能體成為負擔(dān)，并暴露組織于各種威脅和違規(guī)風(fēng)險。

Microsoft Defender for Cloud（預(yù)覽版）能夠直接將 AI 技術(shù)安全態(tài)勢管理建議和運行時威脅防護警報，集成至 Microsoft Azure AI Foundry (國際版)門戶中。

這些功能作為更廣泛的 Microsoft Defender for Cloud 解決方案的一部分，現(xiàn)已原生擴展至 Microsoft Azure AI Foundry (國際版)中，使開發(fā)者無需離開工作流即可訪問警報和建議，實時查看安全風(fēng)險、錯誤配置和針對特定 Microsoft Azure AI 項目的主動威脅，無需切換工具或等待安全團隊提供詳細信息。

Microsoft Defender for Cloud 的安全洞察幫助開發(fā)者識別和應(yīng)對越獄攻擊、敏感數(shù)據(jù)泄露和系統(tǒng)資源濫用等威脅，包括：

AI 技術(shù)安全態(tài)勢建議：識別 AI 技術(shù)服務(wù)中的錯誤配置和漏洞并提供降險最佳實踐

AI 技術(shù)服務(wù)威脅防護警報：通知開發(fā)者主動威脅并提供緩解指導(dǎo)，覆蓋超過15種檢測類型

例如，構(gòu)建 AI 智能體的開發(fā)者可收到建議使用 Microsoft Azure Private Link 連接Microsoft Azure AI 服務(wù)資源，通過 Microsoft Azure 主干網(wǎng)絡(luò)處理連接以降低數(shù)據(jù)泄露風(fēng)險。每個建議包含可操作的修復(fù)步驟，幫助團隊在部署前后階段識別和緩解風(fēng)險。這有助于在不減慢創(chuàng)新速度的情況下，顯著降低風(fēng)險。

▲ 開發(fā)者可在 Microsoft Azure AI Foundry (國際版)的"風(fēng)險+警報"頁面查看安全警報。

▲開發(fā)者可在 Microsoft Azure AI Foundry (國際版)的"防護欄+控制"頁面查看建議。

該集成目前為預(yù)覽版，將于2025年6月在 Microsoft Azure AI Foundry (國際版)全面上市。

03

Microsoft Purview數(shù)據(jù)安全擴展：保護和管理自定義 AI 應(yīng)用

與智能體中的數(shù)據(jù)

數(shù)據(jù)過度共享和泄露，是 AI 技術(shù)采用的主要擔(dān)憂，也是許多監(jiān)管要求的核心。為了讓組織自信地部署 AI 應(yīng)用和智能體，低代碼和專業(yè)開發(fā)者都需要將安全合規(guī)控制無縫嵌入 AI 技術(shù)創(chuàng)作中。如果沒有簡單、對開發(fā)人員友好的解決方案，安全漏洞很快就會成為阻礙因素，從而在應(yīng)用程序從開發(fā)轉(zhuǎn)移到生產(chǎn)環(huán)境時延遲部署并增加風(fēng)險。

如今，Microsoft Purview 正在擴展其企業(yè)級數(shù)據(jù)安全與合規(guī)能力，使低代碼和專業(yè)開發(fā)者都能更輕松地將數(shù)據(jù)安全和合規(guī)集成到他們的 AI 應(yīng)用程序和智能體中，無論他們使用何種工具或平臺。

例如，通過本次更新，Microsoft Purview DSPM for AI 成為數(shù)據(jù)安全團隊可以查看所有數(shù)據(jù)風(fēng)險洞察的一站式平臺，涵蓋智能Microsoft 365 Copilot 副駕駛、通過 Agent Builder 和 Microsoft Copilot Studio 構(gòu)建的智能體，以及在 Microsoft Azure AI Foundry (國際版)和其他平臺上構(gòu)建的自定義 AI 應(yīng)用和智能體。管理員可以輕松深入地查看特定 AI 應(yīng)用或智能體的安全和合規(guī)洞察，從而更輕松地調(diào)查潛在風(fēng)險并采取行動。

▲數(shù)據(jù)安全管理員現(xiàn)在可以在 Microsoft Purview DSPM for AI 中查看跨智能 Microsoft 365 Copilot 副駕駛、通過 Agent Builder 和 Microsoft Copilot Studio 構(gòu)建的智能體，以及自定義 AI 應(yīng)用和智能體的數(shù)據(jù)安全與合規(guī)洞察。

在以下部分，我們將詳細介紹 Microsoft Purview 在各種 AI 技術(shù)工作負載中的能力更新。

01|Microsoft Purview 數(shù)據(jù)安全與合規(guī)控制，現(xiàn)在可以通過新的 Microsoft Purview SDK 或 Microsoft Purview 與 Microsoft Azure AI Foundry (國際版)的原生集成，擴展到任何自定義構(gòu)建的 AI 應(yīng)用程序和智能體中。

這些新功能使安全團隊能夠輕松地將目前適用于智能Microsoft 365 Copilot副駕駛的企業(yè)級數(shù)據(jù)安全合規(guī)控制，擴展到自定義 AI 應(yīng)用程序和智能體，從而使組織能夠：

在 Microsoft Purview AI 數(shù)據(jù)安全態(tài)勢管理 (DSPM)中，發(fā)現(xiàn)數(shù)據(jù)安全風(fēng)險（例如用戶提示中的敏感數(shù)據(jù)）和數(shù)據(jù)合規(guī)風(fēng)險（例如有害內(nèi)容），并獲取建議措施以主動降低風(fēng)險；

通過 Microsoft Purview 數(shù)據(jù)安全策略保護敏感數(shù)據(jù)，防范數(shù)據(jù)泄露和內(nèi)部風(fēng)險；

使用審計、數(shù)據(jù)生命周期管理、電子數(shù)據(jù)展示和通信合規(guī)功能管理 AI 應(yīng)用交互。

Microsoft Purview SDK

Microsoft Purview 現(xiàn)在提供 Purview SDK，這是一組 REST API、文檔和代碼示例（目前為預(yù)覽版），使開發(fā)者能夠在任何集成開發(fā)環(huán)境（IDE）中將 Microsoft Purview 的數(shù)據(jù)安全和合規(guī)能力集成到 AI 應(yīng)用程序或智能體中。

▲ 數(shù)通過將 Microsoft Purview API 嵌入 IDE，開發(fā)者可以幫助確保其 AI 應(yīng)用在運行時受到保護和治理。

例如，使用 AWS 模型構(gòu)建 AI 智能體的開發(fā)者，可以在暴露給模型之前使用Microsoft Purview SDK使其 AI 應(yīng)用能夠自動識別并阻止用戶輸入的敏感數(shù)據(jù)，同時為安全團隊提供支持合規(guī)的有價值信號。

通過 Microsoft Purview SDK，初創(chuàng)公司、獨立軟件供應(yīng)商（ISV）和合作伙伴現(xiàn)在可以將Microsoft Purview 行業(yè)領(lǐng)先的能力直接嵌入其 AI 應(yīng)用軟件解決方案中，使這些解決方案具備 Microsoft Purview 感知能力，并使其客戶更容易在 AI 技術(shù)解決方案中保護和治理數(shù)據(jù)。

例如，Infosys網(wǎng)絡(luò)安全實踐副總裁兼交付主管阿希什·阿德瓦里尤（Ashish Adhvaryu）表示：“Infosys Cyber Next 平臺集成 Microsoft Purview 以提供增強的 AI 技術(shù)安全能力。我們的解決方案是面向 SOC 分析師的 Cyber Next AI 助手（Cyber Advisor），它利用 Microsoft Purview SDK 通過實時監(jiān)控和審計能力，推動主動威脅緩解。這種集成提供了全面的 AI 技術(shù)輔助保護，增強了網(wǎng)絡(luò)安全態(tài)勢?！?/p>

微軟合作伙伴EY（安永）也利用新的 Microsoft Purview SDK，將 Microsoft Purview 的價值嵌入其生成式 AI 計劃中。EY創(chuàng)新與新興科技合作伙伴蘇曼塔·卡爾（Sumanta Kar）指出：“我們不僅在構(gòu)建 AI 工具，我們正在創(chuàng)建從一開始就具備信任、安全性和透明度的智能體解決方案，這些特性通過 Microsoft Purview SDK 提供的策略控制得到支持。在使用 Microsoft Purview SDK 構(gòu)建安全功能時，我們看到了25%到30%的時間節(jié)省?！?/p>

Microsoft Purview與Microsoft Azure AI Foundry (國際版)原生集成

組織平均開發(fā)14個自定義 AI 應(yīng)用程序。而 AI 技術(shù)創(chuàng)新的快速步伐，可能使安全團隊無法意識到其環(huán)境中的潛在數(shù)據(jù)安全和合規(guī)風(fēng)險。

Microsoft Azure AI Foundry (國際版)信號現(xiàn)在直接與 Purview Data Security Posture Management for AI 、 Insider Risk Management 和數(shù)據(jù)合規(guī)控制集成，最大限度地減少了額外開發(fā)工作的需求。

例如，對于使用 Microsoft Azure AI Foundry (國際版)模型構(gòu)建的 AI 應(yīng)用程序和智能體，數(shù)據(jù)安全團隊可以在 Microsoft Purview DSPM for AI 中獲得 AI 技術(shù)使用情況和數(shù)據(jù)風(fēng)險的可見性，而無需開發(fā)人員進行額外工作。數(shù)據(jù)安全團隊還可以通過 Microsoft Purview Insider Risk Management （IRM） 策略檢測、調(diào)查和響應(yīng)惡意和無意用戶活動，例如離職員工利用 AI 智能體檢索異常數(shù)量的敏感數(shù)據(jù)。最后，Microsoft Azure AI 應(yīng)用和智能體中的用戶提示和 AI 技術(shù)響應(yīng)，現(xiàn)在可以如上所述被攝取到 Microsoft Purview 合規(guī)工具中。

02|Microsoft Purview 數(shù)據(jù)保護擴展到基于 Microsoft Dataverse 數(shù)據(jù)的 Microsoft Copilot Studio 智能體

即將在6月推出的預(yù)覽版中，Microsoft Purview 信息保護將自動標(biāo)記和標(biāo)簽繼承覆蓋范圍擴展到 Dataverse ，以幫助防止過度共享和數(shù)據(jù)泄露。信息保護使組織能夠更輕松地大規(guī)模自動分類和保護敏感數(shù)據(jù)。

一個常見的挑戰(zhàn)是敏感數(shù)據(jù)通常從各種來源進入 Dataverse，但沒有一致的標(biāo)記或保護。如果數(shù)據(jù)沒有得到適當(dāng)保護，快速采用使用 Microsoft Copilot Studio 構(gòu)建并基于 Dataverse 數(shù)據(jù)的智能體，會增加數(shù)據(jù)過度共享和泄露的風(fēng)險。

通過自動標(biāo)記，存儲在 Dataverse 表中的數(shù)據(jù)可以根據(jù) Microsoft Purview 中設(shè)置的策略自動標(biāo)記，無論其來源如何。這減少了手動標(biāo)記的工作量，并在數(shù)據(jù)進入 Dataverse 時立即保護敏感信息。

通過標(biāo)簽繼承，基于 Dataverse 數(shù)據(jù)的 AI 智能體響應(yīng)將自動攜帶并遵循源數(shù)據(jù)的敏感度標(biāo)簽。如果響應(yīng)從具有不同標(biāo)簽的多個表中提取數(shù)據(jù)，則將應(yīng)用最嚴格的標(biāo)簽以確保一致的保護。

例如，在 Microsoft Copilot Studio 中構(gòu)建智能體的財務(wù)顧問可能會連接多個 Dataverse表，其中一些標(biāo)記為“普通”，另一些標(biāo)記為“高度機密”。如果響應(yīng)從兩者中提取數(shù)據(jù)，它將繼承最嚴格的標(biāo)簽，在本例中為“高度機密”，以防止未經(jīng)授權(quán)的訪問，并確保對智能體的創(chuàng)建者和用戶都應(yīng)用適當(dāng)?shù)谋Ｗo。

總之， Dataverse 中的自動標(biāo)記和標(biāo)簽繼承為 AI 技術(shù)提供了更安全、自動化的基礎(chǔ)。

▲ 敏感度標(biāo)簽將自動應(yīng)用于 Dataverse 中的數(shù)據(jù)。

▲ AI 技術(shù)生成的響應(yīng)將繼承并遵循源數(shù)據(jù)的敏感度標(biāo)簽。

03|Microsoft Purview DSPM for AI

現(xiàn)在可以提供對與 Microsoft Copilot Studio 智能體的未認證交互的可見性

隨著組織越來越多地使用 Microsoft Copilot Studio 部署 AI 智能體以進行一線客戶互動，獲取對未認證用戶交互的可見性并主動緩解風(fēng)險變得越來越重要。

基于現(xiàn)有的 Microsoft Purview 和 Microsoft Copilot Studio 集成，我們在 Microsoft Copilot Studio 中擴展了 DSPM for AI 和 Audit ，以提供對未經(jīng)身份驗證的交互的可見性，現(xiàn)在提供預(yù)覽版。這使組織能夠更全面地了解跨認證和未認證用戶的 AI 技術(shù)相關(guān)數(shù)據(jù)安全風(fēng)險。

例如，托管面向客戶的外部智能體助手的醫(yī)療保健提供商必須能夠檢測和響應(yīng)未認證用戶嘗試訪問敏感患者數(shù)據(jù)的行為。借助 DSPM for AI 中的這些新功能，數(shù)據(jù)安全團隊現(xiàn)在可以識別這些交互，評估敏感數(shù)據(jù)的潛在暴露，并采取相應(yīng)行動。此外，與 Microsoft Purview Audit 的集成為團隊提供了無縫訪問審計要求所需的信息。

▲ 獲取對所有 AI 技術(shù)交互的可見性，包括來自未認證用戶的交互。

04| Microsoft Purview 數(shù)據(jù)丟失防護擴展到更多 Microsoft 365 智能體場景

為了幫助組織防止通過 AI 技術(shù)過度共享數(shù)據(jù)，在微軟 Ignite 2024大會上，我們宣布數(shù)據(jù)安全管理員可以阻止智能 Microsoft 365 Copilot 副駕駛使用某些標(biāo)記的文檔作為基礎(chǔ)數(shù)據(jù)生成摘要或響應(yīng)。

此控件現(xiàn)在處于預(yù)覽階段，還將擴展到基于Microsoft 365 數(shù)據(jù)發(fā)布的智能體，包括預(yù)構(gòu)建的 Microsoft 365智能體、使用 Agent Builder 構(gòu)建的智能體和使用 Microsoft Copilot Studio 構(gòu)建的智能體。這有助于確保包含敏感內(nèi)容的文件被 AI 智能體適當(dāng)使用。

例如，包含高度專業(yè)化語言的機密法律文件如果被 AI 智能體摘要可能會導(dǎo)致不當(dāng)指導(dǎo)，或者“僅限內(nèi)部”的文檔不應(yīng)被用于生成可以在組織外部共享的內(nèi)容。

▲將數(shù)據(jù)丟失防護（DLP）策略擴展到智能 Microsoft 365 Copilot 副駕駛智能體以保護敏感數(shù)據(jù)。

我們擴展至 Agent Builder 和 Microsoft Copilot Studio 智能體的數(shù)據(jù)保護能力，展示了我們對加強 Copilot 控制系統(tǒng)（CSS）的安全與治理支柱的持續(xù)投資。CCS 提供集成控件，幫助 IT 和安全團隊保護、管理和監(jiān)控 Microsoft 365 中的智能Microsoft Copilot 副駕駛和智能體，涵蓋治理、管理和報告。

在 AI 技術(shù)快速發(fā)展的今天，確保 AI 技術(shù)全生命周期的安全防護已成為每個組織的關(guān)鍵任務(wù)。Microsoft Security 提供從代碼開發(fā)到運行維護的全方位安全工具與資源，幫助開發(fā)者和安全團隊持續(xù)抵御新興威脅，為 AI 模型、應(yīng)用和智能體構(gòu)建堅固的安全防線。我們誠摯邀請你深入了解這些解決方案，共同探索 AI 技術(shù)安全的最佳實踐，為企業(yè)的智能化轉(zhuǎn)型保駕護航。

*本文中介紹的智能Security Copilot副駕駛服務(wù)適用于國際版企業(yè)級服務(wù)。

[1]《2025年預(yù)測：應(yīng)對迫在眉睫的AI安全挑戰(zhàn)》，作者：Jeremy D'Hoinne、Akif Khan、Manuel Acosta、Avivah Litan、Deepak Seth、Bart Willemsen，2025年2月10日發(fā)布。

[2] IBM《2024年數(shù)據(jù)泄露成本報告：金融行業(yè)》，IBM Think，2024年8月13日發(fā)布，原文鏈接：https://www.ibm.com/think/insights/cost-of-a-data-breach-2024-financial-industry；

Cser, Tamas《軟件開發(fā)生命周期中后期發(fā)現(xiàn)缺陷的成本》，F(xiàn)unctionize，2023年1月5日發(fā)布，原文鏈接：

https://www.functionize.com/blog/the-cost-of-finding-bugs-later-in-the-sdlc