机密 AI 解决方案

NVIDIA 机密计算

保护专有模型和敏感数据

概览

保护使用中的模型和数据

随着组织构架转向代理式 AI 来提升生产力并改善业务成果,一个关键问题随之浮现:如何在推理和微调过程中保护其敏感数据和模型。企业数据容易受到潜在威胁的影响,导致数据的完整性和机密性受损。NVIDIA 机密计算已进入第三代,采用 NVIDIA Rubin 体系架构,继续推动 AI 发展,提供强大的数据和模型安全性,且性能可与非加密模型相媲美。借助 NVIDIA 机密计算,企业可以利用 AI 释放其敏感数据的价值,从而获得革命性的洞察,同时确保数据和模型安全、合规且不受损害。

扩展的 NVIDIA 机密计算,助力领先的 AI 实验室在主权 AI 基础设施上部署前沿 模型

Anthropic、Google、Mistral、Apple 和其他基础模型构建者正在使用 NVIDIA 机密计算,解锁 NVIDIA GPU 容量,并在全球范围内扩展推理服务。

源于硬件性能的AI安全、不会拖慢你的速度

NVIDIA 机密计算为 AI 工作负载提供硬件级保护,在运行时保护数据、模型权重和推理,其性能可达非安全部署的 98%。

优势

机密计算可保护每种 AI 工作负载

了解企业如何借助 NVIDIA 机密计算保护 AI 堆栈。

保护使用中的模型和数据

NVIDIA Vera Rubin NVL72 通过 NVLink 解锁机架级机密计算,实现高速、低延迟扩展,从而构建一个涵盖 72 个 NVIDIA Rubin GPU、36 个 NVIDIA Vera CPU 和互连产品的统一安全域。它保护 GPU 执行、内存和寄存器状态,同时在整个 AI 生命周期中保持 模型、训练数据和推理提示词的隔离。

高性能 AI 安全性

NVIDIA 机密计算可保护部署在 Rubin、Blackwell 和 Hopper GPU 上的 AI 模型的机密性和完整性。Vera Rubin NVL72 采用 NVLink 和 NVLink-C2C,将近乎非加密的性能扩展到机架级。 即使在共享或云环境中,这种设计也使敏感的 AI 工作负载能够安全地大规模运行,并具有近乎原生性能。

无需更改代码

基于 Hopper、Blackwell 和 Rubin GPU 的 NVIDIA 机密计算,使企业无需更改代码,即可将任何模型快速迁移到受保护的隔离区。 只需确定需要保护的工作负载,然后敲击几下键盘,这些工作负载便能得到保障。

设备认证的可验证性

一种基于硬件根认证的零信任架构,用于验证计算资产的可信度。借助 Vera Rubin 平台、Blackwell 和 Hopper GPU 保持合规性,无论平台或工作负载在何处运行,都能保持合规并确保应用和数据在可信执行环境 (TEE) 中受到保护。

产品

NVIDIA 机密计算

无论您的数据位于何处或基础设施部署在何处,AI 安全已经成为可能,并满足了数据所有权方面的迫切需求。NVIDIA 为保障 AI 安全提供了可信的基础——无论是在专用裸机托管、kubernetes 原生机密容器,还是机密虚拟机上运行。

机密裸机

AI 实验室和模型所有者可全面控制 (Control) 专用基础设施,以安全地在本地部署 模型。它们自行运行并验证环境,确保基础设施提供商在可信边界之外。

Kubernetes 上的机密容器化

企业在不改变应用构建或部署方式的情况下,保护 Kubernetes 工作负载。 每个 Pod 在自己的硬件保护环境中运行,提供安全隔离,同时保持 Kubernetes 的可移植性和运维灵活性。

机密虚拟机

企业将机密计算扩展到现有虚机环境。每个租户 VM 在硬件保护边界内运行,从而保护工作负载和数据——即使是针对托管基础设施提供商也是如此。

用例

浏览客户和合作伙伴成功案例

了解领先企业组织如何借助 NVIDIA 机密计算推动安全变革,这项前沿技术可确保敏感工作负载在数据使用过程中的安全。

NVIDIA 机密计算,助力 Apple 扩展私有云计算

NVIDIA GPU,支持 Apple Intelligence 的服务器端推理。

面向受监管行业的私有语音 AI

Deepgram 和 Fortanix 利用 NVIDIA 机密计算,在受监管的本地部署环境中,在活跃的推理过程中,确保语音 AI 模型权重和音频数据得到加密。

确保面向企业环境的本地部署 AI 模型 安全

Dell Technologies 和 SpaceXAI 采用基于 NVIDIA Blackwell GPU 的 NVIDIA 机密计算,以保护 Dell AI 工厂中使用的专有模型权重和企业数据。

资源

加深理解

通过探索我们的博客、培训视频、与专家交流的录像和 GTC 会议,了解更多关于 NVIDIA 机密计算的信息。

英特尔、Azure、AMD 和 NVIDIA 的机密计算带来的影响

CTO 参加有关机密计算、常见用例、技术挑战和认证的小组讨论,并对该技术(尤其是 AI)的未来做出预测,由 Felix Schuster (Edgeless Systems CEO) 主持。

NVIDIA GPU 上的高性能机密计算

安全专家、NVIDIA 高级总监和杰出架构师参加的高性能机密计算相关会议。

Microsoft Azure 上的 NVIDIA GPU 赋能机密计算

在本次快速聊天中,微软 Azure CTO 兼技术研究员 Mark Russinovich 和 NVIDIA 软件安全副总裁 Daniel Rohrer 将与 Dark Reading 的 Terry Sweeney 畅聊相关主题。

机密计算增强云安全和隐私

Mark Russinovich 在 CC 峰会上发表主题演讲:“机密计算:提升云安全与隐私。”

采用企业

以机密计算推动各行各业向前迈进

常见问题解答

NVIDIA 机密计算在运行过程中对数据进行加密和保护。 对于 AI 工作负载,可在硬件强制执行的可信执行环境 (TEE) 内,加密和保护专有 AI 模型 和使用中的敏感数据,包括训练数据、微调数据集、推理提示词和模型权重。这种保护延伸到本地部署 Modder,确保专有 模型 和机密数据即使在共享或多租户基础设施中也保持安全,使企业组织能够在不影响安全性的情况下全面控制 (Control) 其 AI 工作负载。

NVIDIA 机密计算在 NVIDIA Rubin、NVIDIA Blackwell 和 NVIDIA Hopper™ 平台上均受支持。有关受支持的 GPU、CPU 和部署配置的详细信息,请参阅 支持平台网页

认证 (Attestation) 利用基于硬件的证据来验证机密计算环境的身份和安全状态,确保其在接收任何敏感代码或数据之前保持完整性。

受支持的配置旨在以接近原生性能运行。 实际结果取决于工作负载、平台和配置。 探索机密计算性能博客,了解更多关于性能的详情。

许多受支持的工作负载可以在不更改应用代码的情况下使用机密计算。基础设施和部署设置仍需遵循受支持的配置。

它支持数据保护和隔离控制,但本身无法让工作负载获得认证。与您的安全、隐私和合规团队一起,确认您的完整体系架构和运营流程。

后续步骤

准备好开始了吗?

在 NVIDIA 机密计算的支持下立即保护可信执行环境中的数据。

Azure 云服务

如果您的数据存储在 Microsoft Azure 云中,可通过访问机密计算来保护您使用中的数据。

Google Cloud Services

云:通过在 Google Cloud 中访问机密计算,保护您使用中的数据。