什么是应用程序或平台卡？
Microsoft的应用程序和平台卡片旨在帮助你了解我们的 AI 技术的工作原理、应用程序所有者可以做出哪些选择来影响应用程序性能和行为，以及考虑整个应用程序（包括技术、人员和环境）的重要性。 为 AI 应用程序创建应用程序卡，为 AI 平台服务创建平台卡。 这些资源可以支持你自己的应用程序的开发或部署，并且可以与受它们影响的用户或利益干系人共享。
作为对负责任 AI 的承诺的一部分，Microsoft坚持 六项核心原则：公平、可靠性和安全、隐私和安全、包容性、透明度和问责制。 这些原则嵌入到负责任 AI Standard中，该Standard指导团队设计、构建和测试 AI 应用程序。 应用程序和平台卡通过在功能、预期用途和限制方面提供透明度，在实施这些原则方面起着关键作用。 为了进一步了解情况，鼓励读者探索Microsoft的 负责任 AI 透明度报告 和 Microsoft企业 AI 服务行为准则，其中概述了如何负责任地参与 AI。
概述
智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶®是一种基于 AI 的生成式安全解决方案，可帮助提高防御者的效率和功能，以机器速度和规模提高安全成果。 它提供自然语言辅助驾驶体验，可帮助安全专业人员和 IT 管理员处理各种端到端方案，包括事件响应、威胁搜寻、情报收集和态势管理。
Security Copilot设计时考虑了集成。 它提供沉浸式独立体验，https://securitycopilot.microsoft.com并与Microsoft安全产品（包括Microsoft Defender XDR、Microsoft Sentinel、Microsoft Intune、Microsoft Entra、Microsoft Purview 以及受支持的第三方服务）集成。
目标用户包括 SOC 分析师、IT 管理员、数据安全和标识管理员、合规性分析师以及安全主管，例如首席信息安全官 (CSO) 。
Security Copilot已获得 ISO 42001 认证，该认证确认独立第三方审查了Microsoft应用的必要框架和功能，以有效管理与微软 AI系统的持续开发、部署和操作相关的风险和机会。
有关详细信息，请参阅什么是智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶®？、智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶®体验和 Security Copilot 代理的应用程序卡。
关键术语
下表提供了与智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶®相关的关键术语词汇表。
| Term | 定义 |
|---|---|
| 代理 | Security Copilot代理通过集成的数据源和插件处理来自客户环境的信号、分析数据并生成建议。 出现提示时，代理还可以在配置的权限内执行作用域内的操作，这需要相应的用户或管理员批准。 代理的范围从简单的提示和响应体验到通过人工监督实现的自动化、半自治工作流不等。 例如，网络钓鱼会审代理和漏洞修正代理。 |
| 代理标识 | 代理用于向Microsoft服务进行身份验证并访问执行其任务所需的数据的凭据。 在安装过程中，管理员选择使用 Microsoft Entra 智能体 ID) 创建专用标识 (，或者让代理继承配置用户的凭据。 标识的选择将控制代理可以访问的数据。 |
| 数据源 | 通过对地面响应的插件或集成访问结构化或非结构化数据。 |
| 嵌入式体验 | 从另一个Microsoft安全产品（例如Microsoft Defender XDR或Microsoft Sentinel）访问Security Copilot功能。 Security Copilot挎斗面板直接在该产品的上下文中显示 AI 辅助。 |
| 基础设置 | 向与用户提示相关的大型语言模型提供上下文输入源的过程。 通过使Security Copilot能够通过插件和Microsoft安全产品访问组织数据，Security Copilot可以提供更准确、更符合上下文的响应。 |
| 大型语言模型 (LLM) | 基于大量文本数据训练的 AI 模型，用于预测序列中的单词。 LLM 能够执行各种任务，例如文本生成、摘要、翻译、分类等。 |
| 插件 | 相关工具的集合，通过 API 授予Security Copilot从Microsoft和非Microsoft服务和公共网站访问资源的权限，从而扩展其功能。 插件向Security Copilot生成的响应和输出添加更多上下文。 |
| 后处理 | Security Copilot执行的一组操作，用于在将 LLM 响应返回给用户之前对其进行优化和准备。 此后处理包括通过插件进行的其他地面调用、负责任的 AI 检查、安全性、合规性和隐私检查。 |
| Prompt | 用户发送到Security Copilot执行特定任务或获取信息的自然语言文本。 例如， 汇总此事件并建议修正步骤。 |
| Promptbook | 一系列按顺序运行的提示，这些提示基于以前的响应完成与安全相关的特定任务。 提示书可以从库中使用，也可以由用户生成和共享。 |
| 红队测试 | 专家用来评估系统的局限性和漏洞并测试计划缓解措施的有效性的技术。 红队测试用于识别潜在风险，不同于对风险的系统度量。 |
| 负责任的 AI | Microsoft基于其 AI 原则并通过 负责任 AI 标准实施的政策、研究和工程实践。 有关详细信息，请参阅 Fluent RAI 指南。 |
| 安全计算单元 (SCU) | SCU 是计算容量的单位，用于运行Security Copilot工作负载，并在其体验中提供一致的性能。 Security Copilot容量以 SCU 度量，可以通过预配或超额容量模型使用。 有关详细信息，请参阅 了解 SCU。 |
| Security Copilot响应 | AI 生成的输出返回到用户提示，包括摘要、建议或可能包含代码和视觉对象的操作。 |
| 安全运营中心 (SOC) | 一个专门的安全团队或设施，专注于持续监视、分析和响应组织中的网络安全事件。 SOC 分析师是Security Copilot的主要预期用户之一。 |
| 安全存储 | 一种类似于市场的体验，用户可以发现并启用合作伙伴构建的代理和Security Copilot扩展。 |
| 会话 | 一个边界交互上下文，其中包含用于生成输出的提示、响应和关联数据。 会话上下文是隔离的，不会在会话之间共享。 对会话数据的访问由用户权限和工作区角色控制，提示和响应被视为不用于训练基础模型的客户数据。 |
| 独立体验 | 直接通过 https://securitycopilot.microsoft.com访问的沉浸式Security Copilot门户体验。 |
| Tenant | Microsoft Entra ID中的组织边界，用于隔离Security Copilot的标识、访问和数据。 所有工作区、用户和交互在此边界内运行，并受租户级权限和安全控制。 |
主要特性或功能
下表中的主要特性和功能描述了智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶®旨在执行的操作，以及它如何在受支持的任务中执行。
| 功能 | 说明 |
|---|---|
| 事件调查和响应 | Security Copilot通过生成复杂安全警报摘要、关联Microsoft Defender XDR、Microsoft Sentinel和其他集成产品的信号，并提供分步修正指南，帮助安全专业人员对事件进行会审和调查。 |
| 威胁智能 | Security Copilot可以搜索Microsoft Defender威胁情报文章和配置文件、威胁分析报告和漏洞披露发布，以显示与提示一致的相关情报。 |
| 脚本分析和 KQL 查询生成 | Security Copilot可以分析可疑脚本或恶意软件，并将自然语言翻译成 KQL 查询，使所有技能级别的团队成员能够执行高级搜寻和技术分析任务。 |
| 安全态势管理 | Security Copilot可帮助用户了解其环境中的优先风险，并通过与Microsoft Defender XDR、Microsoft Entra和Microsoft Intune集成来识别改善状况的机会。 |
| 安全策略创建和管理 | 用户可以定义新策略，将其与现有冲突策略交叉引用，并用纯语言汇总策略，以管理复杂的组织上下文。 |
| 提示手册 | Promptbook 是运行以完成特定安全任务的提示序列。 用户可以从共享库运行 promptbook，也可以创建和共享自己的。 |
| Agents | Security Copilot支持可在管理员授予的权限内自动执行安全和 IT 操作任务的代理。 代理操作由配置的标识、访问控制和触发器控制，旨在作为安全工作流的一部分进行人工监督。 Microsoft构建的代理涵盖安全产品组合，涵盖 SOC 操作、威胁搜寻、威胁情报、标识管理、终结点管理和数据安全。 管理员配置每个代理的标识、权限和触发器。 有关特定代理及其用例的详细信息，请参阅 预期用途。 |
| File upload | 用户可以将文件直接上传到Security Copilot会话，从而允许 Copilot 在生成响应时分析、汇总或交叉引用上传的内容。 |
| 多语言支持 | Security Copilot支持多种语言的提示和响应。 有关详细信息，请参阅 支持的语言。 |
预期用途
智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶®专为需要 AI 辅助支持的安全专业人员和 IT 管理员设计，用于各种安全和 IT 操作任务。 辅助副驾驶体验通过显示相关上下文、生成可操作指南并减少手动分析所花费的时间，帮助用户更高效地工作。 预期用例的一些示例包括：
事件调查和响应：生成复杂警报的摘要，关联集成安全产品（例如Microsoft Defender XDR和Microsoft Sentinel）的信号，并提供分步修正指南。 分析师可以提出后续问题，逐步完善调查。
威胁情报收集：根据自然语言提示显示有关威胁参与者、恶意软件和漏洞的相关情报，并将信息合并到定制的摘要中。
脚本分析和反向工程：以纯语言解释可疑脚本或命令行活动，识别恶意行为，并突出显示泄露指标。
KQL 查询生成：将自然语言提示转换为随时可用的 KQL 查询，以便进行高级搜寻和日志分析。
安全态势管理：识别优先级风险并建议改善组织安全状况的操作。
安全策略创建和管理：协助起草、审查和汇总策略，并识别差距或冲突。
利益干系人报告：生成针对不同受众定制的报告，包括技术摘要和高管简报。
可重复安全工作流的提示手册：使用户能够运行或创建多步骤工作流，以标准化定期安全任务。
模型和训练数据
智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶®使用Azure OpenAI 大型语言模型 (Azure销售的 Foundry Models) LLM 来为自然语言体验提供支持。 这些模型不是根据Security Copilot客户数据进行训练的。 模型功能在推理、速度、限制和支持的方案方面各不相同。
Security Copilot还通过插件和地面整合了特定于安全的知识和上下文，这些插件和地面在推理时为 LLM 提供相关的组织数据、威胁情报和权威内容，而不是通过模型训练。
性能
Security Copilot设计用于在企业安全环境中运行，这些环境跨组织配置的Microsoft安全产品和其他数据源生成大量实时安全信号。
与常规用途 LLM 不同，Security Copilot提供：
- 跨结构化安全数据进行实时信号处理
- 关联多个数据源的调查推理
- 基于客户数据的证据支持的输出
- 用于持续可见性的连续数据收集
用户使用自然语言提示与Security Copilot交互。 系统通过活动插件、数据源和 LLM 处理这些输入，以生成响应。
输出主要是文本性的，包括摘要说明、建议的操作、分步指南、代码片段 (（如 KQL 查询) ）以及为利益干系人定制的格式化报表。 当系统生成响应时，它会在进程日志中显示中间步骤，从而提供双重检查其进程和源的机会。 用户可以随时取消、编辑、重新运行或删除提示，并可以固定、共享和导出响应，以方便协作。
限制
了解智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶®的限制对于确保有效和负责任地使用它非常重要。 虽然Security Copilot可增强安全工作流，但它并非针对每种方案而设计。 请参阅 Microsoft企业 AI 服务行为准则 ，以及选择用例时的以下注意事项：
- 准确性和完整性：Security Copilot可能会生成不准确、不完整或过时的响应。 输出质量取决于可用的数据源、已启用的集成和用户提供的上下文。 用户应应用人工判断并验证关键输出。
- 偏见、陈规定型观念和不合时宜的内容：尽管有保障措施，但由于大型语言模型的概率性质，输出中可能包含偏见、陈规定型观念或不支持的结论。 用户应批判性地评估响应，尤其是在敏感或高影响方案中。
- 特定于域的范围：Security Copilot针对与安全相关的任务（例如事件调查和威胁分析）进行了优化。 在此域之外提示可能会导致响应不准确或相关性降低。
- 使用限制和延迟：使用Security Copilot可能受容量限制和性能注意事项的约束。 生成响应（包括执行集成和应用安全检查）可能会带来延迟。 组织应 (SCU) 监视其使用情况，以保持一致的性能。
- 预览状态：某些Security Copilot功能可能处于预览状态。 预览功能应被视为预发布功能，并且应在执行操作之前查看输出。
- 提示和上下文约束：Security Copilot在大型语言模型固有的令牌和上下文限制内运行。 长提示或扩展交互可能会超过这些限制，从而导致截断或最佳响应减少。 重新调整或简化提示可能会改善结果。
- 依赖于数据源和配置：响应基于可用数据，包括连接的Microsoft服务、第三方集成和用户输入。 如果相关的数据源不可用、未启用或不可用，则结果可能缺乏完整性或准确性。
- 脚本和代码生成：Security Copilot可能会生成代码或在响应中包含代码。 响应可能看起来有效，但在语义上或语法上可能不正确，或者可能无法准确反映请求者的意图。 如果没有适当的验证、测试和评审过程，则不应将生成的代码部署到生产环境中。 用户还必须验证生成的代码使用的所有参数是否与原始请求一致。 例如，如果代理在特定时间范围内对警报进行操作，请确认生成的代码中的时间范围与自然语言提示中指定的时间范围匹配。
- 数据访问和权限边界：Security Copilot在现有组织权限和数据访问控制中运行。 响应仅限于用户有权访问的数据。 基础系统中错误配置的权限可能会影响结果的相关性或完整性。
- 政府云环境：Security Copilot目前不设计用于某些政府云环境。
评估
性能和安全评估通过检查基础性、相关性和一致性等因素来评估 AI 应用程序是否安全可靠地运行，同时识别生成有害内容的风险。 以下评估是在安全组件已到位的情况下进行的，安全 组件和缓解措施中也介绍了这些组件。
质量和安全的评估数据
我们的评估数据是定制的，用于评估 AI 应用程序在安全和质量、模拟真实场景和风险等关键领域的性能。 我们首先根据多学科研究和专家投入确定关注的相关评估方面。 这些问题将转化为有针对性的评估目标，并指导评估指标的制定。
为了安全起证，我们创建对抗提示来引发不需要的或边缘案例的响应，然后使用经过训练以评估符合Microsoft安全标准的 AI 辅助注释器对其进行评分。 为了提高质量，我们制定了与方案相关的基于评分的提示，包括评估检索增强生成 (RAG) 应用程序和代理。
数据集是从各种来源（包括合成数据集和公共数据集）中挑选的，用于模拟真实用户方案。 使用特选数据集，这两个评估都经过迭代优化和人工对齐，以提高指标有效性和可靠性。 此方法构成了可重复的严格评估的基础，这些评估反映了客户如何使用评估来构建更好、更安全的 AI。
自定义评估
进行了自定义评估，以使用回归测试、特选提示数据集和与生产一致的示例验证跨地面、对抗稳定性和有害内容场景的模型性能。 评估比较了 GPT 模型之间的输出，使用内部工具来评估基础性，并Azure OpenAI 内容筛选来验证针对越狱、即时注入和知识产权违规的保护。 结果显示一致或改进的性能，包括跨对抗方案的强保护率和改进的接地准确度。
有害内容处理在各个模型之间保持一致，并在批注模式下运行，以支持以安全为中心的用例，通过额外的大规模测试确认跨类别的高保护率。 进行回归测试以验证无害的内容是否未分类为有害内容。
用户反馈对于改进Security Copilot至关重要。 用户可以使用以下方法提供反馈： 需要改进、 不适当 或 “查找正确 ”选项。 此反馈直接传递给Microsoft，用于通过持续的迭代优化来提高平台的性能。
安全组件和缓解措施
当我们通过红队测试等流程识别潜在风险和滥用情况并对其进行测量时，我们开发了缓解措施来降低危害的可能性。 在以下列表中，我们将介绍其中一些缓解措施。 我们将继续评估智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶®体验，以提高产品性能和缓解措施。
有害内容筛选和防护：Security Copilot将Microsoft开发的防护措施 (内容筛选器) 和滥用检测模型集成为 Azure OpenAI 服务基础的一部分。 这些神经分类模型在多个严重级别跨类别（包括仇恨、性、暴力和自残）检测和筛选有害内容。 可选的分类模型还可以检测越狱风险、已知文本或代码材料以及间接提示注入攻击。 这些分层控制有助于防止 AI 生成违反Microsoft安全标准的响应。
安全系统设计：Microsoft为Security Copilot开发了一种安全系统，旨在减少故障并防止滥用，包括有害内容注释、操作监视和其他安全措施。 Azure OpenAI 服务负责任的 AI 缓解要求不适用于直接Security Copilot客户，因为Security Copilot代表客户实施这些缓解措施。
用户反馈循环：该平台提供内置反馈机制： 需要改进、 不适当和 查找正确的 选项，使用户能够直接向Microsoft报告有问题且有用的输出。 此反馈推动持续改进周期，在发现错误或不对齐时实现快速修复和模型调整。
数据加密和访问保护：Security Copilot处理的客户数据在传输中和静态加密，如Microsoft产品和服务数据保护附录中所述。 默认情况下，没有人类用户有权访问数据库，网络访问仅限于部署Security Copilot应用程序的专用网络;如果需要人工访问 (事件响应) ，则提升的访问权限和网络访问必须由授权Microsoft员工批准。 请参阅 合规性。
分阶段部署方法：Security Copilot通过仅限邀请的抢先体验计划发布功能，允许Microsoft在扩大可用性之前收集反馈并优化功能。
随着我们了解详细信息，我们绘制、测量和管理风险的方法将继续发展，并且我们已经根据从客户收到的反馈进行改进。
部署和采用智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶®的最佳做法
负责任的 AI 是Microsoft与其客户之间的共同承诺。 虽然Microsoft构建以安全、公平和透明为核心的 AI 系统，但客户在在其自己的环境中负责任地部署和使用这些技术方面发挥着关键作用。
Security Copilot代理旨在增强人类专业知识，而不是取代。 客户仍负责审查输出、验证决策，并确保遵守适用的法律、法规和组织策略。
部署者和最终用户应：
在使用Security Copilot做出后果性决策或敏感领域时，请谨慎评估结果：后果性决策是可能对某人获得就业、法律服务、医疗保健或可能导致身体、心理或经济伤害的法律或重大影响的决定。 金融服务、医疗保健和法律等敏感领域需要特别小心，因为可能会对不同人群产生不成比例的影响。 在这些领域使用 AI 做出决策时，客户应确保受影响的利益干系人能够了解如何做出决策、上诉决策并更新任何相关的输入数据。
评估法律和法规注意事项：客户在使用任何 AI 服务和解决方案时，需要评估潜在的特定法律和法规义务，这些服务和解决方案可能不适合用于每个行业或方案。 此外，AI 服务或解决方案并非专为相关服务条款和相关行为准则所禁止的方式使用。
启用和维护相关插件：Security Copilot响应的质量和准确性在很大程度上取决于已启用的插件。 管理员应确保配置和维护适当的Microsoft和第三方插件，以便用户收到与上下文相关的响应。
最终用户应：
编写有效的提示：使用Security Copilot获得更好的结果的关键是编写明确的特定提示。 包括相关上下文，例如事件 ID、资产名称或时间范围。 根据需要循环访问和重新生成提示，并始终查看和验证 AI 生成的响应。 有关详细信息，请参阅Security Copilot提示。
在适当的时候进行人工监督：人工监督是与 AI 系统交互时的重要保障。 虽然我们不断改进Security Copilot，但 AI 系统可能会出错。 由于基础模型的输入不明确或限制，生成的输出可能不准确、不完整、有偏见或与预期目标不完全一致。 在采取行动之前，用户应查看Security Copilot生成的响应，并验证它们是否符合预期和要求。
请注意过度依赖的风险：当用户接受错误或不完整的 AI 输出时，会出现对 AI 的过度依赖，这主要是因为 AI 输出中的错误可能难以检测到。 对于安全专业人员来说，过度依赖可能会导致错过威胁、错误事件结论或基于有缺陷的建议更改策略。 Security Copilot包括 AI 披露并引用源材料来帮助降低此风险，但用户仍应确保验证响应的准确性。 用户可以查看代理节点映射，该映射提供代理工作流期间执行的步骤的高级视图。
在敏感域中部署或设计代理 AI 时要谨慎：在代理操作不可逆或高度后果的域中配置和部署代理 AI 系统时，用户必须实施适当的人工监督。 创建自治代理 AI 时，应采取其他预防措施，如 Microsoft企业 AI 服务行为准则中所述。
部署人员应：
仔细配置 RBAC 和代理权限：管理员负责为用户和代理配置基于角色的访问控制。 权限应遵循最小特权原则。 应仅向代理授予对其指定任务所需的数据和操作的访问权限。
监视使用情况和评审活动：管理员 (所有者) 可以使用Security Copilot使用情况监视仪表板来查看会话级数据，例如随时间推移的使用情况、会话发起方和会话期间使用的插件。 此可见性可帮助组织了解如何在提示、提示簿和代理之间使用Security Copilot。 有关详细信息，请参阅 管理使用情况。
管理数据共享设置：所有者可以随时配置客户数据共享首选项，并且必须根据其组织的隐私和合规性要求查看和更新这些设置。 有关详细信息，请参阅 智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶® 中的隐私和数据安全。
让用户了解功能和限制：有效且负责任地使用Security Copilot要求用户了解系统可以和不能执行的操作。 部署人员应提供培训和指导，帮助用户有效地与Security Copilot交互，包括在采取行动之前验证 AI 生成的输出的重要性。
详细了解Security Copilot
有关负责任地使用智能 智能 Microsoft Security Copilot 副驾驶® 副驾驶®的其他指导，请参阅以下文档：