什么是应用程序或平台卡?
Microsoft的应用程序和平台卡片旨在帮助你了解我们的 AI 技术的工作原理、应用程序所有者可以做出哪些选择来影响应用程序性能和行为,以及考虑整个应用程序(包括技术、人员和环境)的重要性。 为 AI 应用程序创建应用程序卡,为 AI 平台服务创建平台卡。 这些资源可以支持你自己的应用程序的开发或部署,并且可以与受它们影响的用户或利益干系人共享。
作为对负责任 AI 的承诺的一部分,Microsoft坚持 六项核心原则:公平、可靠性和安全、隐私和安全、包容性、透明度和问责制。 这些原则嵌入到负责任 AI Standard中,该Standard指导团队设计、构建和测试 AI 应用程序。 应用程序和平台卡通过在功能、预期用途和限制方面提供透明度,在实施这些原则方面起着关键作用。 为了进一步了解情况,鼓励读者探索Microsoft的 负责任 AI 透明度报告 和 Microsoft企业 AI 服务行为准则,其中概述了如何负责任地参与 AI。
概述
智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶®是一种基于 AI 的生成式安全解决方案,可帮助提高防御者的效率和功能,以机器速度和规模提高安全成果。 Security Copilot提供了一种自然语言辅助助手体验,可帮助安全专业人员和 IT 管理员处理各种端到端方案,包括事件响应、威胁搜寻、情报收集和态势管理。
Security Copilot在设计时考虑了集成,并在 https://securitycopilot.microsoft.com中提供沉浸式独立体验。 该平台与Microsoft安全组合中的产品无缝集成,例如Microsoft Defender XDR、Microsoft Sentinel、Microsoft Intune、Microsoft Entra、Microsoft Purview 和支持的第三方服务。
Security Copilot代理生成输出,并根据客户定义的配置逻辑、权限和触发器执行操作。 客户可以使用自治Security Copilot代理来自动执行安全工作流、加快响应时间、确定风险优先级并减少手动工作负载,同时保持完全控制。 代理自治是指代理在定义的边界内独立执行操作的能力。
管理员 (Security Copilot 所有者) 通过Security Copilot门户和安全存储发现和部署代理,某些代理也出现在嵌入式Microsoft安全产品体验中。 管理员设置代理的标识,并为代理配置基于角色的访问控制 (RBAC) 。
目标用户包括 SOC 分析师、IT 管理员、数据安全和标识管理员、合规性分析师以及安全主管,例如首席信息安全官 (CSO) 。
Security Copilot持有 ISO 42001 认证,该认证确认独立第三方审查了Microsoft必要框架和功能的应用,以有效管理与微软 AI系统的持续开发、部署和操作相关的风险和机会。
有关详细信息,请参阅什么是智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶®?、智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶®体验和适用于Security Copilot的应用程序卡。
关键术语
下表提供了与智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶®代理相关的关键术语词汇表。
| Term | 定义 |
|---|---|
| 代理 | Security Copilot代理通过集成的数据源和插件处理来自客户环境的信号、分析数据并生成建议。 出现提示时,代理还可以在配置的权限内执行作用域内的操作,这需要相应的用户或管理员批准。 代理的范围从简单的提示和响应体验到通过人工监督实现的自动化、半自治工作流不等。 |
| 代理操作 | 由代理执行的操作,例如检索数据、生成输出或修改基于权限的配置。 |
| 代理清单 | 定义代理的功能、工具和行为的配置文件。 它控制代理在 Security Copilot 中的运行方式,并采用 YAML 文件格式表示。 |
| 嵌入式体验 | 从另一个Microsoft安全产品(例如Microsoft Defender XDR或Microsoft Sentinel)访问Security Copilot功能。 Security Copilot挎斗面板直接在该产品的上下文中显示 AI 辅助。 |
| 基础设置 | 向与用户提示相关的大型语言模型提供上下文输入源的过程。 通过使Security Copilot能够通过插件和Microsoft安全产品访问组织数据,Security Copilot可以提供更准确、更符合上下文的响应。 |
| 大型语言模型 (LLM) | 基于大量文本数据训练的 AI 模型,用于预测序列中的单词。 LLM 能够执行各种任务,例如文本生成、摘要、翻译、分类等。 |
| 合作伙伴生成的代理 | 由Microsoft合作伙伴发布的代理,并通过安全存储提供,以解决特定的安全用例。 |
| 插件 | 相关工具的集合,通过 API 授予Security Copilot从Microsoft和非Microsoft服务和公共网站访问资源的权限,从而扩展其功能。 插件向Security Copilot生成的响应和输出添加更多上下文。 |
| 后处理 | Security Copilot执行的一组操作,用于在将 LLM 响应返回给用户之前对其进行优化和准备。 此后处理包括通过插件进行的其他地面调用、负责任的 AI 检查、安全性、合规性和隐私检查。 |
| Prompt | 用户发送到Security Copilot执行特定任务或获取信息的自然语言文本。 例如, 汇总此事件并建议修正步骤。 |
| Promptbook | 一系列按顺序运行的提示,这些提示基于以前的响应完成与安全相关的特定任务。 提示书可以从库中使用,也可以由用户生成和共享。 |
| 红队测试 | 专家用来评估系统的局限性和漏洞并测试计划缓解措施的有效性的技术。 红队测试用于识别潜在风险,不同于对风险的系统度量。 |
| 负责任的 AI | Microsoft基于其 AI 原则并通过 负责任 AI 标准实施的政策、研究和工程实践。 有关详细信息,请参阅 Fluent RAI 指南。 |
| 安全计算单元 (SCU) | SCU 是计算容量的单位,用于运行Security Copilot工作负载,并在其体验中提供一致的性能。 Security Copilot容量以 SCU 度量,可以通过预配或超额容量模型使用。 有关详细信息,请参阅 了解 SCU。 |
| 安全运营中心 (SOC) | 一个专门的安全团队或设施,专注于持续监视、分析和响应组织中的网络安全事件。 SOC 分析师是Security Copilot的主要预期用户之一。 |
| 独立体验 | 直接通过 https://securitycopilot.microsoft.com访问的沉浸式Security Copilot门户体验。 |
| Tenant | Microsoft Entra ID中的组织边界,用于隔离Security Copilot的标识、访问和数据。 租户通过租户级权限和安全控制来控制所有工作区、用户和交互。 |
| Trigger | 指示代理开始执行其工作流的事件或条件。 触发器可以是基于时间的 (例如,威胁情报简报代理的每周计划) 或手动 (由用户或管理员) 按需运行。 触发器是在代理设置期间配置的。 |
主要特性或功能
下表中的主要特性和功能描述了智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶®旨在执行的操作,以及它如何在受支持的任务中执行。
| 功能 | 说明 |
|---|---|
| 事件调查和响应 | Security Copilot通过生成复杂安全警报摘要、关联Microsoft Defender XDR、Microsoft Sentinel和其他集成产品的信号,并提供分步修正指南,帮助安全专业人员对事件进行会审和调查。 |
| 威胁智能 | Security Copilot可以搜索Microsoft Defender威胁情报文章和配置文件、威胁分析报告和漏洞披露发布,以显示与提示一致的相关情报。 |
| 脚本分析和 KQL 查询生成 | Security Copilot可以分析可疑脚本或恶意软件,并将自然语言翻译成 KQL 查询,使所有技能级别的团队成员能够执行高级搜寻和技术分析任务。 |
| 安全态势管理 | Security Copilot可帮助用户了解其环境中的优先风险,并通过与Microsoft Defender XDR、Microsoft Entra和Microsoft Intune集成来识别改善状况的机会。 |
| 安全策略创建和管理 | 用户可以定义新策略,将其与现有冲突策略交叉引用,并用纯语言汇总策略,以管理复杂的组织上下文。 |
| 利益干系人报告 | Security Copilot可以生成报告,以汇总上下文、未决问题和针对目标受众(例如高管或安全团队)定制的保护措施。 |
| 提示手册 | Promptbook 是运行以完成特定安全任务的提示序列。 用户可以从共享库运行 promptbook,也可以创建和共享自己的。 |
| Agents | Security Copilot支持在管理员授予的权限内自动执行和协助执行安全和 IT 操作任务的代理。 代理通过配置的标识、访问控制和触发器执行操作,并在安全工作流中由人工监督进行操作。 Microsoft构建的代理涵盖安全产品组合,涵盖 SOC 操作、威胁搜寻、威胁情报、标识管理、终结点管理和数据安全。 管理员在设置过程中配置每个代理的标识、权限和触发器。 用户可以查看代理的触发器、数据访问、标识和操作权限 ((例如读取或写入) ),以了解代理在其定义的范围内如何运行。 有关特定代理及其用例的详细信息,请参阅 预期用途。 |
| 多语言支持 | Security Copilot支持多种语言的提示和响应。 有关详细信息,请参阅 支持的语言。 |
Security Copilot是一种 AI 驱动的安全解决方案,既能辅助运行,又作为自治代理系统运行。 若要了解代理自主性,请考虑:
- 激活触发器 - 哪些条件或用户操作导致代理运行
- 访问权限 - 代理可以使用哪些数据、系统或资源
- 操作权限 - 代理有权自行执行的操作
以下部分介绍支持代理如何推理、规划、记住、适应和扩展其影响力的核心代理功能。
原因
Security Copilot代理使用基础大型语言模型来分析可用上下文、评估信号并确定最合适的操作方案。 例如,网络钓鱼会审代理评估电子邮件内容、发件人信誉和行为信号,以生成具有自然语言理由的分类判决。 代理以透明方式显示其推理,以便分析师可以在对结论采取行动之前查看、验证或替代结论。
规划
代理针对定义的触发器进行操作,这些触发器指示代理系统针对目标启动结构化操作序列。 可以将代理配置为:
- 按计划自动运行 (例如,威胁情报简报代理每七天运行一次) 。
- 根据需要手动按需运行。
此设计为代理提供了一个目标导向的执行模型,系统可在其中分析何时以及如何采取行动来完成其任务。
内存
Security Copilot代理可以随着时间的推移保留信息,称为内存。 内存允许代理将过去的输入合并到将来的行为中,具体取决于代理的设计和配置方式。
内存可以包括用户提供的反馈。 代理可以使用此反馈在后续交互中调整其响应或操作。
适应性
Security Copilot代理旨在根据用户反馈和操作上下文进行调整,同时继续在其配置标识、权限和触发器定义的范围内运行。
- 反馈循环:Security Copilot所有者和参与者可以提供有关代理响应的反馈。 此反馈存储在代理的内存中,可能会影响将来的输出,具体取决于代理设计和配置。
- 上下文地面:在提示处理期间,Security Copilot使用地面扩充提示。 此过程包含相关的组织数据、已启用的插件和威胁情报,以便响应反映当前上下文。
- 可配置的标识和权限:可以在设置后更新代理,以修改标识、触发器和参数。 这使代理能够与不断变化的工作流和要求保持一致。
可扩展性
- 插件:代理使用插件通过 API 访问外部服务,包括信誉查找、威胁情报和终结点数据。 支持Microsoft生成的插件和合作伙伴生成的插件。 有关详细信息,请参阅 插件概述。
- 连接器:逻辑应用和Copilot Studio连接器包装Security Copilot API,使开发人员和用户能够从外部自动化工作流调用平台。 有关详细信息,请参阅 连接器概述。
- 自定义代理:开发人员可以生成针对特定用例定制的自定义代理,并通过开发人员平台将其添加到Security Copilot生态系统。 有关详细信息,请参阅 开发自定义代理。
- 安全存储:可以从内置代理库和安全存储中发现和部署预生成的Microsoft和合作伙伴代理。
- 嵌入式体验:代理不仅在Security Copilot独立门户中运行,而且还嵌入到更广泛的Microsoft安全生态系统中,包括Microsoft Defender XDR、Microsoft Sentinel、Microsoft Intune,Microsoft Entra 和 Microsoft Purview。
预期用途
智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶®代理专为安全专业人员和 IT 管理员设计,以支持安全工作流,例如情报收集和关联。 代理可以在管理员定义的权限内运行,并帮助简化可能需要大量手动工作的任务,同时使用户保持控制。 预期代理用例的一些示例包括:
威胁情报简报:威胁情报简报代理通过关联Microsoft Defender 威胁智能数据、Defender 外部攻击面管理 (EASM) 信号和实时客户上下文来生成及时、详细的威胁情报报告。 安全分析师可以使用此代理将数小时或数天的手动情报收集和关联替换为几分钟内生成的报告。
安全数据分析 (Microsoft Defender XDR) :安全分析师代理可帮助安全分析师快速识别、评估和确定大量安全数据的风险并确定其优先级。 代理执行模式分析、趋势分析和可视化等基本分析任务,以及异常情况检测、聚类分析、风险评分和预测建模等高级任务。 它集成了来自Microsoft Defender XDR、Microsoft Sentinel Log Analytics、Microsoft Sentinel Data Lake 和上传的 CSV 文件的数据,在交互式无代码聊天体验中生成具有完整证据线索的优先见解。
安全操作和事件响应 (Microsoft Defender XDR) :
- 网络钓鱼会审代理在提交时评估用户报告的钓鱼电子邮件,使用透明推理对判决进行分类,并整合分析人员随时间推移的反馈。
- 动态威胁检测代理在后台持续运行,通过关联警报、事件、异常和威胁情报来发现 Defender 和 Microsoft Sentinel 环境中的隐藏威胁和差距。
威胁搜寻 (Microsoft Defender XDR) :威胁搜寻代理支持使用自然语言进行端到端威胁搜寻。 它生成 KQL 查询、解释结果、显示见解,并指导分析师完成完整的搜寻会话,以更快、更自信地发现威胁。
标识和访问管理 (Microsoft Entra) :
- 条件访问优化代理分析条件访问策略,并根据Microsoft最佳做法和零信任原则提出改进建议。
- 标识风险管理代理可帮助标识管理员调查潜在风险并采取措施保护关键资产。
终结点管理 (Microsoft Intune) :
- 漏洞修正代理使用 Defender 数据来监视漏洞,并通过 AI 驱动的风险评估确定修正的优先级。
- 策略配置代理允许管理员导入文档或编写纯语言说明,以在Intune设置目录中查找匹配的设置并创建策略。
- 更改评审代理评估Intune审批请求的效果,并为管理员可以执行的操作提供建议。
数据安全调查 (Microsoft Purview) :
- 预览体验成员风险管理中的会审代理根据用户、文件和活动风险评估警报,自动将它们分类为优先级类别,以帮助安全团队专注于风险最高的案例。
- 数据丢失防护中的 Purview 会审代理根据敏感度风险、外泄风险和策略风险评估 DLP 警报,帮助数据安全管理员处理最关键的事件。
自定义代理工作流:开发人员可以使用自然语言处理、上传代理清单或使用为其组织的特定安全用例定制的 MCP 工具生成和部署自定义代理,通过插件和连接器将代理功能扩展到Microsoft和非Microsoft服务。 有关详细信息,请参阅 自定义代理。
当代理和用户需要协作以获取引导式体验以解决问题时,还可以生成交互式聊天代理。 有关详细信息,请参阅 交互式代理。
模型和训练数据
智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶®使用Azure OpenAI 大型语言模型 (Azure销售的 Foundry Models) LLM 来为自然语言体验提供支持。 这些模型不是根据Security Copilot客户数据进行训练的。 模型功能在推理、速度、限制和支持的方案方面各不相同。
Security Copilot还通过插件和地面整合了特定于安全的知识和上下文,这些插件和地面在推理时为 LLM 提供相关的组织数据、威胁情报和权威内容,而不是通过模型训练。
性能
Security Copilot设计用于在企业安全环境中运行,这些环境跨组织配置的Microsoft安全产品和其他数据源生成大量实时安全信号。 它集成了来自这些源的信号,将结构化日志数据的实时处理与调查推理相结合。 这旨在帮助检测、分析和跟踪跨多个数据源发生的安全事件的来源和影响。
Security Copilot在Microsoft的超大规模基础结构和特定于安全性的业务流程层上运行,旨在跨重复的威胁检测和调查方案支持可缩放、可复原的性能。
代理通过管理员配置的权限执行定义的安全任务,从而扩展了Security Copilot处理安全信号的能力。 代理对可用信号进行推理、规划和执行结构化操作,并生成基于实时组织和威胁情报数据的会审决策、智能报告和修正指南等输出。 代理执行通过分步节点映射是透明的,使分析师能够查看生成的步骤 (而不是对每个节点执行的特定操作的深入摘要,) 并跨运行验证结果。
通过预配置Microsoft生成的代理(针对代表性工作流进行测试)和自定义代理进一步支持性能可靠性,其中清单 YAML 文件可以通过指定功能、工具、触发器和操作边界来帮助促进更一致的行为。 明确定义清单指令后,代理可能能够更好地解释其任务、选择适当的操作并在其预期范围内运行。 有关详细信息,请参阅 自定义代理。
对于交互式代理,性能主要通过代理与用户之间的迭代交换来形成。 代理生成初始响应,用户根据代理的显示内容通过后续提示优化上下文。 这种来回交互使用户能够以增量方式引导代理获得比单个自治运行产生的更准确、更有针对性的结果。 有关详细信息,请参阅 交互式代理。
限制
了解Security Copilot的限制对于确保它在安全有效的边界内使用非常重要。 虽然鼓励客户在其安全工作流中使用Security Copilot,但请务必注意,Security Copilot并非针对每种可能的方案而设计。 请参阅 Microsoft企业 AI 服务行为准则 ,以及选择用例时的以下注意事项:
- 公共预览版状态:某些代理处于公共预览状态,在正式发布之前可能会进行大量修改。 Microsoft对这些功能不作任何明示或暗示的保证。 与任何 AI 输出一样,客户必须在执行代理输出之前查看代理的决策。
- 准确性和完整性:与任何 AI 驱动的技术一样,Security Copilot并不能使一切正确。 响应可能不准确、不完整或过时,尤其是在未启用相关插件的情况下,或者当前数据无法通过用户输入或组织上下文获取时。 用户应始终进行人工判断并验证关键输出,而不是仅依赖 AI 生成的响应。
- 特定于域的范围:Security Copilot旨在响应与安全域相关的提示,例如事件调查和威胁情报。 超出安全范围的提示可能会导致响应缺乏准确性和全面性。
- 脚本和代码生成:Security Copilot可能会生成代码或在响应中包含代码。 响应可能看起来有效,但在语义上或语法上可能不正确,或者可能无法准确反映请求者的意图。 如果没有适当的验证、测试和评审过程,则不应将生成的代码部署到生产环境中。 用户还必须验证生成的代码使用的所有参数是否与原始请求一致。 例如,如果代理在特定时间范围内对警报进行操作,请确认生成的代码中的时间范围与自然语言提示中指定的时间范围匹配。
- 提示符长度约束:系统可能无法处理长提示,例如包含数十万个字符的提示。 基础 LLM 具有令牌限制,过度详细的查询或扩展会话可能会溢出令牌空间。 发生此情况时,Security Copilot尝试应用缓解措施以确保输出始终可用,即使内容不是最佳的;但是,这些缓解措施并不总是有效的,可能需要尝试其他提示或插件。
- 使用限制和延迟:平台的使用可能受使用限制或容量限制的约束。 生成响应(包括通过插件进行 API 调用并在显示响应之前检查响应)可能需要一段时间,并且需要高 GPU 容量。 组织应监视其 SCU 使用情况并根据需要调整预配容量,以避免意外的服务中断。
- 偏见、陈规定型观念和不合时宜的内容:尽管在用户提示和 LLM 输出上都实施了负责任的 AI 控制,但 AI 服务是容易犯错误和概率的。 这使得全面阻止所有不适当的内容具有挑战性,这可能会导致 AI 生成的输出中潜在的偏见、刻板印象或不合时宜的内容。
- 政府和Microsoft主权公有云/私有云:目前,这些环境中不支持Security Copilot。
- 特定于任务的代理边界:代理仅适用于它们要执行的特定任务。 有关详细信息,请参阅 预期用例 部分。 它们不适合用于任何其他任务,并且不应在其定义的范围之外重新调整用途。
- 节点映射详细信息:代理节点映射提供代理工作流期间执行的步骤的高级视图。 每个节点表示流程中的一个步骤,并显示所用技能的标题,以及完成状态、持续时间和时间戳等基本元数据。 节点映射旨在显示操作序列,但不提供有关每个步骤中所做的特定操作或决策的详细信息。 由于节点映射仅提供汇总的信息,因此它可能无法完全捕获每个操作的上下文或复杂性。
- 代理反馈和内存透明度:当用户向代理提交用于内存中存储的反馈时,代理不会提供其对反馈的解释摘要。 为了提高未来输出的准确性,用户应提供清晰、简洁和具体的反馈。 可能会存储提交到代理的反馈,并用于影响未来的输出。 但是,此存储反馈的可见性可能因代理体验和用户角色而异。 有关详细信息,请参阅 提供反馈。
评估
性能和安全评估通过检查基础性、相关性和一致性等因素来评估 AI 应用程序是否安全可靠地运行,同时识别生成有害内容的风险。 以下评估是在安全组件已到位的情况下进行的,安全 组件和缓解措施中也介绍了这些组件。
质量和安全的评估数据
我们的评估数据是定制的,用于评估 AI 应用程序在安全和质量、模拟真实场景和风险等关键领域的性能。 我们首先根据多学科研究和专家投入确定关注的相关评估方面。 这些问题将转化为有针对性的评估目标,并指导评估指标的制定。
为了安全起证,我们创建对抗提示来引发不需要的或边缘案例的响应,然后使用经过训练以评估符合Microsoft安全标准的 AI 辅助注释器对其进行评分。 为了提高质量,我们制定了与方案相关的基于评分的提示,包括评估检索增强生成 (RAG) 应用程序和代理。
数据集是从各种来源(包括合成数据集和公共数据集)中挑选的,用于模拟真实用户方案。 使用特选数据集,这两个评估都经过迭代优化和人工对齐,以提高指标有效性和可靠性。 此方法构成了可重复的严格评估的基础,这些评估反映了客户如何使用评估来构建更好、更安全的 AI。
自定义评估
进行了自定义评估,以使用回归测试、特选提示数据集和与生产一致的示例验证跨地面、对抗稳定性和有害内容场景的模型性能。 评估比较了 GPT 模型之间的输出,使用内部工具来评估基础性,并Azure OpenAI 内容筛选来验证针对越狱、即时注入和知识产权违规的保护。 结果显示一致或改进的性能,包括跨对抗方案的强保护率和改进的接地准确度。
有害内容处理在各个模型之间保持一致,并在批注模式下运行,以支持以安全为中心的用例,通过额外的大规模测试确认跨类别的高保护率。 进行回归测试以验证无害的内容是否未分类为有害内容。
Security Copilot代理由其产品和研究团队根据客户的用例和设计意见进行评估。 代理系统的安全性也通过专门的红色组合练习进行评估。 Microsoft还完成了对Security Copilot服务的渗透测试,以验证针对未经授权的访问的保护。
发布Security Copilot后,用户反馈对于帮助Microsoft改进系统至关重要。 用户可以选择提供来自 Security Copilot 的代理响应的反馈。 此反馈直接传递给Microsoft,用于通过持续的迭代优化来提高平台的性能。 有关详细信息,请参阅 提供反馈。
安全组件和缓解措施
当我们通过红队测试等流程识别潜在风险和滥用情况并对其进行测量时,我们开发了缓解措施来降低危害的可能性。 我们将继续评估智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶®体验,以提高产品性能和缓解措施。 以下列表介绍了其中一些缓解措施:
- 有害内容筛选和防护:Security Copilot将Microsoft开发的防护措施 (内容筛选器) 和滥用检测模型集成为 Azure OpenAI 服务基础的一部分。 这些神经分类模型在多个严重级别跨类别(包括仇恨、性、暴力和自残)检测和筛选有害内容。 可选的分类模型还可以检测越狱风险、已知文本或代码材料以及间接提示注入攻击。 这些分层控制有助于防止 AI 生成违反Microsoft安全标准的响应。
- 旨在最大程度地减少不可逆的操作:Microsoft设计的代理方案旨在最大程度地减少不可逆的操作并使用户能够控制关键决策。 对于自定义代理,非Microsoft设计的代理,代理开发人员可以修改代理行为,以确保最小化不可逆的操作。
- 安全系统设计:Microsoft为Security Copilot开发了一种安全系统,旨在减少故障并防止滥用,包括有害内容注释、操作监视和其他安全措施。 Azure OpenAI 服务负责任的 AI 缓解要求不适用于直接Security Copilot客户,因为Security Copilot代表客户实施这些缓解措施。
- 用户反馈循环:代理返回响应后,用户可以提供反馈。 根据配置,用户还可以提交其他书面反馈,以提供有关其体验的上下文。 提交的反馈由Microsoft收集并使用,以改进产品质量、识别问题,并确定增强功能的优先级,以Security Copilot体验。
- 代理标识治理和基于角色的访问控制 (RBAC) :每个Security Copilot代理在托管标识或用户帐户下运行,使管理员能够控制其有权访问的数据。 每个代理都有 RBAC 控制,代理可能会进一步限制其处理的数据。 通过限制每个代理的权限,系统可降低未经授权的数据泄露风险,并确保所有自动化操作都是可审核和可跟踪的。
- 数据加密和访问保护:Security Copilot处理的客户数据在传输中和静态加密,如Microsoft产品和服务数据保护附录中所述。 默认情况下,没有人类用户有权访问数据库,网络访问仅限于部署Security Copilot应用程序的专用网络;如果需要人工访问 (事件响应) ,则提升的访问权限和网络访问必须由授权Microsoft员工批准。 请参阅 合规性。
- 分阶段部署方法:Security Copilot通过仅限邀请的抢先体验计划发布功能,允许Microsoft在扩大可用性之前收集反馈并优化功能。
随着我们了解详细信息,我们映射、测量和管理风险的方法不断发展,并根据从客户收到的反馈进行改进。
部署和采用智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶®的最佳做法
负责任的 AI 是Microsoft与其客户之间的共同承诺。 虽然Microsoft构建以安全、公平和透明为核心的 AI 系统,但客户在在其自己的环境中负责任地部署和使用这些技术方面发挥着关键作用。
Security Copilot代理旨在增强人类专业知识,而不是取代。 客户仍负责审查输出、验证决策,并确保遵守适用的法律、法规和组织策略。
部署者和最终用户应:
在使用Security Copilot做出后果性决策或敏感领域时,请谨慎评估结果:后果性决策是可能对某人获得就业、法律服务、医疗保健或可能导致身体、心理或经济伤害的法律或重大影响的决定。 金融服务、医疗保健和法律等敏感领域需要特别小心,因为可能会对不同人群产生不成比例的影响。 在这些领域使用 AI 做出决策时,客户应确保受影响的利益干系人能够了解如何做出决策、上诉决策并更新任何相关的输入数据。
评估法律和法规注意事项:客户在使用任何 AI 服务和解决方案时,需要评估潜在的特定法律和法规义务,这些服务和解决方案可能不适合用于每个行业或方案。 此外,AI 服务或解决方案并非专为相关服务条款和相关行为准则所禁止的方式使用。
启用和维护相关插件:Security Copilot响应的质量和准确性在很大程度上取决于已启用的插件。 管理员应确保配置和维护适当的Microsoft和第三方插件,以便用户收到与上下文相关的响应。
最终用户应:
编写有效的提示:使用Security Copilot获得更好的结果的关键是编写明确的特定提示。 包括相关上下文,例如事件 ID、资产名称或时间范围。 根据需要循环访问和重新生成提示,并始终查看和验证 AI 生成的响应。 有关详细信息,请参阅Security Copilot提示。
在适当的时候进行人工监督:人工监督是与 AI 系统交互时的重要保障。 虽然我们不断改进Security Copilot,但 AI 系统可能会出错。 由于基础模型的输入不明确或限制,生成的输出可能不准确、不完整、有偏见或与预期目标不完全一致。 在采取行动之前,用户应查看Security Copilot生成的响应,并验证它们是否符合预期和要求。
请注意过度依赖的风险:当用户接受错误或不完整的 AI 输出时,会出现对 AI 的过度依赖,这主要是因为 AI 输出中的错误可能难以检测到。 对于安全专业人员来说,过度依赖可能会导致错过威胁、错误事件结论或基于有缺陷的建议更改策略。 Security Copilot包括 AI 披露并引用源材料来帮助降低此风险,但用户仍应确保验证响应的准确性。 用户可以查看代理节点映射,该映射提供代理工作流期间执行的步骤的高级视图。
在敏感域中部署或设计代理 AI 时要谨慎:在代理操作不可逆或高度后果的域中配置和部署代理 AI 系统时,用户必须实施适当的人工监督。 创建自治代理 AI 时,应采取其他预防措施,如 Microsoft企业 AI 服务行为准则中所述。
部署人员应:
仔细配置 RBAC 和代理权限:管理员负责为用户和代理配置基于角色的访问控制。 权限应遵循最小特权原则。 应仅向代理授予对其指定任务所需的数据和操作的访问权限。
监视使用情况和评审活动:管理员 (所有者) 可以使用Security Copilot使用情况监视仪表板来查看会话级数据,例如随时间推移的使用情况、会话发起方和会话期间使用的插件。 此可见性可帮助组织了解如何在提示、提示簿和代理之间使用Security Copilot。 有关详细信息,请参阅 管理使用情况。
管理数据共享设置:所有者可以随时配置客户数据共享首选项,并且必须根据其组织的隐私和合规性要求查看和更新这些设置。 有关详细信息,请参阅 智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶® 中的隐私和数据安全。
让用户了解功能和限制:有效且负责任地使用Security Copilot要求用户了解系统可以和不能执行的操作。 部署人员应提供培训和指导,帮助用户有效地与Security Copilot交互,包括在采取行动之前验证 AI 生成的输出的重要性。
详细了解Security Copilot代理
有关负责任地使用智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶®的详细信息,请参阅以下文档: