AI 安全态势管理 (AI-SPM)？

• AI-SPM 会持续在多云环境中发现 AI 模型、服务、管道和训练数据，（包括影子 AI）。 
• 它会显示哪些人类和非人类身份可以访问您的 AI 模型和训练数据，标记权限过高的访问权限，并挖掘可能演变为攻击路径的配置错误。
• AI-SPM 将安全漏洞与 AI 资源的敏感性、可利用性以及对业务的影响联系起来，从而让您的团队能够将修复工作聚焦于实际风险。 
• AI-SPM 和 DSPM 结合使用时，可将数据暴露风险与其所供给的 AI 资源以及可能利用这两者的身份关联起来。

AI 安全态势管理 (AI-SPM) 可识别并降低云环境中运行的 AI 资源和数据所面临的风险。

一种 AI-SPM 解决方案：

• 发 AI 模型、服务、管道和训练数据 
• 对风险的内容进行分类
• 展示 AI 资源与身份及基础设施之间的关联
• 标记导致这些资源面临风险的配置错误、权限过高以及数据泄露问题

AI-SPM 专注处理云原生、AI 特有的风险。它考虑到了现代环境的复杂性：多云、多身份、大规模的非人类身份，以及 AI 应用的快速普及。

AI-SPM 平台可帮助您的安全团队解答以下四个关键问题：

1. 我们的 AI 模型、服务和训练数据在哪里？
2. 哪些人类和非人类身份可以访问它们？
3. 这种访问是必要的还是过度授权？
4. 配置错误或暴露的训练数据会形成攻击路径吗？

如果实施得当，AI-SPM 能够为您提供基于上下文、持续 AI 风险视图，而不仅仅是某个时间点的快照。 它与 数据安全态势管理 (DSPM) 具有相同的基础，将敏感数据发现的范围扩展到了日益消耗和生成此类数据的 AI 资源。

AI 的应用已成为常态，并已成为许多行业工作场所中不可或缺的一部分。 AI 的快速普及虽然加快了业务运营，但也扩大了攻击面，并增加了网络安全风险。团队可以在几分钟内部署模型端点、连接训练管道或接入第三方 AI 服务。这种灵活性让人极易忽略 AI 资源所在位置、所接触的数据以及有权访问这些资源的人员。

AI-SPM 通过对 AI 资源、其配置、访问路径以及背后身份的可视化管理，弥合了这一差距。

例如，Tenable One Cloud Exposure 可跨提供商检测 AI 资源和软件，包括 AWS Bedrock、Amazon SageMaker、Foundry Tools（前身为 Azure AI 服务）和 Gemini Enterprise Agent Platform（前身为 Vertex AI），从而确保影子 AI 和未受管理的模型不会被忽视。

AI-SPM 还通过将 AI 配置控制措施和权限与敏感训练数据挂钩，增强治理与合规性。而且，随着云安全成熟度的不断提升，AI-SPM 将 AI 特有的风险纳入更广泛的暴露风险管理计划中，同时将 AI 特有的控制措施直接嵌入到云原生应用程序保护平台 (CNAPP)。

1. 自动发现和分类 AI 资源

AI-SPM 持续检测 AWS、Azure 和 GCP 中的 AI 模型、服务、工作负载和软件组件。通过自动检测和标记，可识别每一项 AI 资源，确保没有任何资源处于不受管理状态。

2. 识别并保护敏感的培训数据

AI-SPM 对敏感训练数据（如公司机密和个人身份信息 (PII)）进行分类，并应用内置的 AI 配置策略来保护这些数据。这与 DSPM 相辅相成，无论敏感数据存在于何处，都能发现并进行分类。

3. 实施“最小特权”原则的 AI 授权

通过将云基础设施和授权管理 (CIEM) 扩展至 AI，AI-SPM 确保只有具备正确访问策略的身份才能访问专有 AI 模型。直观的访问可视化功能可识别权限过高的用户和非人类身份，从而帮助您实施最小特权原则。

4. 根据具体情况优先考虑 AI 风险

AI-SPM 不会向您发送大量警报，而是将暴露风险与 AI 资源的敏感性、可利用性以及对业务的影响挂钩，从而让团队能够专注于真正重要的风险。

5. 充满信心地进行修复

AI-SPM 提供基于上下文的修复指导：撤销过度的访问权限、强化模型配置或保护暴露的训练数据。与云安全态势管理 (CSPM) 和 CIEM 的集成，可简化整个云堆栈中的强制执行流程。

AI-SPM 遵循一个由六个阶段组成的连续循环：

1. 发现

扫描云环境中的 AI 模型、托管式 AI 服务、训练管道以及提供支持的工作负载，包括在已批准的 AI 治理框架外运行的影子 AI。

2. 分类

根据监管框架和业务逻辑，自动为 AI 资源及其所使用的敏感训练数据打上标签，并支持对专有模型和知识产权进行自定义分类。

3. 访问分析

评估哪些主体和对象可以访问 AI 资源，包括人类用户、机器身份、服务帐户和第三方集成，并结合 CIEM 功能，以识别权限过高的 AI 授权。

4. 态势评估

根据最佳实践策略检查 AI 和机器学习配置，标记不安全的默认设置、已禁用的日志记录、公开暴露风险以及未加密的训练数据，并将这些风险直接与受其影响的 AI 资源关联起来。

5. 风险建模

利用 Exposure Graph 来映射配置错误的资源、权限过高的非人类身份与敏感 AI 数据之间的有害组合，帮助团队可视呈现攻击路径并优先处理高影响风险。

6. 修复和应对

利用 CNAPP 中的引导式修复和策略自动化功能，优先处理并修复最重要的暴露风险。

AI-SPM 通过切实可行且影响深远的使用案例来应对最严重的新兴 AI 风险，从而创造价值。以下是企业用来降低风险的一些常见方式：

1. 探索所有 模型和服务，包括不受人工智能治理约束的“影子 AI”。
2. 保护敏感的培训数据，防止其暴露、滥用或投毒。
3. 对人类和非人类身份实施最小权限访问，以保护专有 AI 模型。
4. 切断因资源配置错误和特权过高的身份而导致 AI 工作负载暴露的攻击路径。
5. 演示适用于 AI 治理和 AI 合规框架的 AI 配置最佳实践。
6. 在开发管道的早期阶段检测出存在风险的 AI 软件包和组件。

AI-SPM 将 AI 资源洞察融入您的 DevSecOps 生命周期，帮助团队实施左移策略，在高风险的 AI 处理操作进入生产环境之前及时发现并加以防范。嵌入到 CI/CD 流水线后，AI-SPM 可标记未受保护的模型端点、测试环境中暴露的训练数据，或服务帐户对 AI 资源的过度访问等问题。

借助这种可见性，开发人员可以在问题扩散到各个环境之前，强化配置、收紧 AI 授权并保障训练数据的安全。凭借这种可见性，开发人员可以在问题蔓延到各个环境之前加固配置、收紧 AI 权限并保护训练数据。AI-SPM 能揭示各种风险组合（例如具有过度特权凭据的模型可被公开访问），并提供明确的修复步骤，以确保安全性、合规性和开发速度保持同步。

影子 AI 是指任何在您的治理框架之外部署的模型、服务或 AI 驱动的工具，从未经批准的 SaaS AI 应用程序到被遗忘的训练任务均属此类。这是一个未受监控的攻击面，攻击者迫切希望对其进行漏洞利用。如需更深入地了解这些风险，请参阅关于保障 AI 安全的挑战。

AI-SPM 通过将扫描范围扩展到已批准的环境之外，来应对“影子 AI”问题。它会扫描已连接的帐户和服务，查找存在于任何位置的 AI 资源，将其与所涉及的训练数据和身份进行关联，并突出显示敏感信息的暴露风险。

随后，引导式修复可帮助您重新掌控影子 AI：确保配置安全、撤销高风险访问权限或停用未受管理的模型。通过重新获得对这些未知因素的可见性，AI-SPM 可缩小您的攻击面，并减少快速增长的未跟踪 AI 风险来源。

随着 AI 监管措施的出台以及内部治理要求的提高，贵企业必须对 AI 资源的配置方式及访问权限进行严格管控，并提供相关证据予以佐证。AI-SPM 通过实施工作流自动化，将此过程变得可管理。

AI 安全态势管理会持续发现并分类 AI 资源及其训练数据，根据策略检查配置和授权，并在风险评分仪表盘中标记偏离情况。当面临审计或治理审查时，您掌握的证据可将 AI 资源映射到控制措施和补救步骤，因此即使环境不断变化，您的 AI 态势也随时能够应对审计。

从本质上讲，AI-SPM 通过有针对性且可量化的方式降低了云风险：

• 为您的基础设施和身份可见性增加 AI 背景。
• 构建 Exposure Graph，展示身份、配置、网络路径和 AI 资源之间的交互关系。
• 揭示真实的攻击路径。

风险评分优先处理实际风险：使用合成数据的沙箱模型得出的评分，低于会泄露专有训练数据的生产环境模型。 由于监控是持续进行的，降低风险并非一蹴而就。如需更全面地了解 AI 在安全计划中的应用情况，请参阅 AI 网络安全原则。

AI-SPM 和 DSPM 具有高度互补性：

• DSPM 可在云和 SaaS 环境中发现、分类并保护敏感数据。它可以回答： “我们的敏感数据在哪里？谁可以访问这些数据？”
• AI-SPM 将这一视角扩展到使用和生成数据的 AI 资源：模型、管道和 AI 服务。它可以回答：
  • “哪些 AI 资源会接触到这些数据？” 
  • “这些资源是否已安全配置？” 
  • “哪些人员和对象可以访问该模型本身？” 

在 Tenable One Cloud Exposure 中协同使用时，DSPM 和 AI-SPM 可为您提供分层可见性，将数据暴露风险与它所支持的 AI 资源以及能够利用这两者的身份关联起来。

通过将 AI-SPM 融入您的暴露风险管理策略，您可以增强自身安全态势。将 AI-SPM 与 DSPM、CSPM 和 CIEM 整合到一个统一的暴露风险安全管理平台中，可为您提供涵盖数据、基础设施、身份和 AI 的统一风险视图。

• CSPM 检测到了配置错误的资源。
• CIEM 突出显示了这种享有过度特权的身份。
• DSPM 将发现结果与面临风险的敏感数据关联起来。
• AI-SPM 将这一切与可能遭到入侵的 AI 模型或服务联系起来。

这几个功能结合使用，可以揭示有害组合，例如拥有过度特权的非人类身份访问基于敏感数据训练且公开暴露的模型。单独而言，这些问题可能不值一提；但这些问题叠加后，就会形成一条可被利用的攻击路径。对于负责治理更广泛的 AI 应用的团队而言，该功能可与 Tenable One 中的 Tenable AI Exposure 配合使用。

要降低 AI 风险，应选择超越基本发现能力、提供上下文驱动、切实可行的情报的 AI-SPM 解决方案。应优先选择具备以下功能的 AI-SPM 平台：

• 支持多云环境，并为跨 AWS、Azure 和 GCP AI 服务提供一致的可见性。
• 使用无代理、基于 API 的扫描，避免留下盲点将降低运营开销。
• 自动检测并标注 AI 资源，包括“影子 AI”。
• 利用内置的 AI 配置策略对敏感培训数据进行分类和保护。
• 扩展了 CIEM，以在人类和非人类身份之间强制实施最小特权 AI 授权。
• 将错误配置、身份和数据映射到真实的攻击路径，而不是孤立的警报。
• 与 DSPM、CSPM、CIEM 和 CNAPP 集成，以实现统一的风险视图。
• 提供风险评分和指导性修复措施，以便优先解决影响最大的暴露风险。

Tenable 的 AI-SPM 功能是 Tenable One Cloud Exposure 的一部分，该平台是一个集成了 AI-SPM、DSPM、CSPM、CIEM 和漏洞管理的统一云安全平台。使用 Tenable 解决方案，您可以深入了解：

• 跨多云环境的每个 AI 模型、服务和管道
• 这些资源所消耗的敏感训练数据
• 哪些人类和非人类身份可以访问
• 哪些暴露风险途径存在真实且具有可利用性的风险

通过将 AI 资源映射到云配置错误、过度授权和暴露的数据，Tenable 可帮助您发现并修复最重要的缺口。您还可以通过 Tenable One 中的 Tenable Hexa AI，以对话的方式搜索、解释并处理 AI 风险。

了解 Tenable One Cloud Exposure 如何支持 AI 安全态势管理。