概览
NVIDIA NeMo 是什么？
NVIDIA NeMo™ 是一款用于管理 AI 智能体生命周期的模块化软件套件。它为数据处理、模型微调和评估、强化学习、策略执行和系统可观察性提供微服务和工具包。NeMo 可帮助企业在任何 GPU 加速的基础设施上大规模构建、监控和优化代理式 AI 系统。它与现有 AI 平台集成，支持云、本地和混合部署，使企业能够快速管理和轻松创建数据飞轮，不断优化 AI 智能体。
优势
深入了解 NVIDIA NeMo 为生成式 AI 带来的优势
模块化 AI 智能体生命周期管理
借助企业就绪、可互操作的软件套件，管理 AI 智能体的生命周期 (覆盖数据整理、定制和评估到安全护栏搭建、可观测性和性能优化) 。
无缝部署和扩展
轻松构建使用企业数据来改进 AI 智能体的数据飞轮，通过简单的 Helm 图表部署或针对工作流各个部分的 API 调用为整个飞轮的运行提供动力支持。
性能加速
通过 GPU 加速的优化、多节点扩展和调优，最大化提升 AI 智能体的性能和吞吐量，从而实现经济高效的模型训练、部署和持续改进。
更安全的代理式 AI
通过审核模型、为提示词设置安全护栏和漏洞持续扫描，构建更安全的代理式 AI 系统。
生产就绪型
作为 NVIDIA AI Enterprise 的一部分，安全、优化的全栈解决方案可提供支持、安全保障和 API 稳定性，可直接部署到生产环境中。
从云和数据中心到边缘，随时随地构建、监测和优化 AI 智能体。
特性
用于管理 AI 智能体生命周期的工具
AI 智能体生命周期是一个端到端流程，用于在生产应用中开发和改进 AI 智能体。NVIDIA NeMo 提供支持此工作流每个步骤的工具，因此企业可以构建功能强大、安全且持续学习的智能体。
| 构建 | |
|---|---|
| 准备 AI 就绪型数据 将现有的多模态数据集处理为高质量、AI 就绪型格式，以用于开发流程，并生成合成数据以填补关键数据缺口。 |
|
| 选择合适的模型 选择或构建适合用例的模型，使用学术基准进行验证，运行自定义评估，并根据需要进行微调。 |
|
| 构建您的 AI 智能体 将您的自定义模型转变为可扩展的应用，将其无缝连接到您的企业堆栈和工具，并通过灵活的编排定义工作流。 |
|
| 部署 | |
| 部署具有出色性能的智能体 通过高吞吐量、低延迟推理优化生产智能体，确保其可以扩展以满足企业需求，并提供快速可靠的响应。 |
|
| 以数据为依据并加强保护 使用检索增强生成 (RAG) 将智能体响应固定在可信知识中，同时应用安全性、合规性和内容审核护栏。 |
|
| 优化 | |
| 监控并收集反馈 跟踪智能体在现实世界中与用户和其他系统的交互。系统评估其性能和准确性，寻找持续改进的机会。 |
|
| 借助数据飞轮不断改进 使用从监控中收集的反馈和数据创建数据驱动的飞轮，以迭代方式重新训练智能体，使其随着时间的推移不断优化并保持有效性。 |
|
用例
NeMo 如何使用
了解 NVIDIA NeMo 如何为行业用例提供支持，以及如何快速开始 AI 开发。
-
AI 智能体
-
用于代理式 AI 的 SDG
-
AI 助手
-
信息检索
-
内容生成
-
人形机器人
AI 智能体
AI 智能体正在改变各行各业的客户服务，帮助公司加强客户对话，实现高分辨率，并提高人类代表的生产力。AI 智能体可以处理预测任务、推理和解决问题，接受培训以理解行业特定术语，并从组织的知识库中提取相关信息，而不管这些数据位于何处。
用于代理式 AI 的合成数据生成
专门的代理式系统需要大量高质量的数据集，这些数据集从真实世界的来源收集起来既缓慢又昂贵。通过仿真或生成式 AI 模型创建的合成数据可以在没有隐私限制或质量问题的情况下创建无限的训练场景，从而消除这一瓶颈。这有助于更快地开发推理 LLM、多步骤决策者和多模态 AI 助手。
信息检索
人们每年会生成数万亿个 PDF 文件，每个文件可能由多个页面组成，其中包含各种内容类型，包括文本、图像、图表和表格。这座数据“金矿”的开发速度取决于人类读取和理解的速度。但是，通过生成式 AI 和 RAG，可以使用这些未开发的数据获得业务洞察，帮助员工提高工作效率并降低成本。
内容生成
生成式 AI 可基于企业的领域专业知识和专有 IP 生成高度相关、准确的定制化内容。
人形机器人
人形机器人可以快速适应以人类为中心的当前城市和工业工作空间，处理繁琐、重复或体力要求高的任务。它们的多功能性使它们可以应用于从工厂车间到医疗健康设施等多种环境，这些机器人可以协助人类，并通过自动化缓解劳动力短缺问题。
Apptronik
启动选项
NVIDIA NeMo 入门方法
使用合适的工具和技术，将生成式 AI 模型从开发阶段向生产阶段推进。
客户案例
行业领导者如何通过 NeMo 推动创新
采用者
各行业的领先采用者
-
客户
-
合作伙伴
资源
最新 NVIDIA NeMo 资源
-
博客
-
会议
-
培训
-
视频
下一步
准备好开始了吗？
使用合适的工具和技术，将生成式 AI 模型从开发阶段向生产阶段推进。
面向开发者
了解开始使用 NVIDIA NeMo 进行开发所需的所有资源，包括最新文档、教程、技术博客等。
联系我们
与 NVIDIA 产品专家交流，了解如何借助 NVIDIA AI Enterprise 的安全性、API 稳定性和支持从试运行阶段向生产阶段推进。
Shell
Shell 利用 NVIDIA NeMo 训练自定义 AI 聊天机器人以提升运营水平
能源行业的全球领导者 Shell 利用 NVIDIA NeMo™ 助力其开发适用于化学领域专业知识的定制 AI 聊天机器人。这一创新解决方案有望通过简化搜索流程、改进决策制定以及支持生产环境中的研发，显著提高员工的生产力。
AI Sweden
利用 LLM 加速行业应用发展
AI Sweden 通过提供易于访问且强大的千亿级参数模型推动区域性语言模型应用的发展。通过历史记录数字化，可以开发用于商业用途的语言模型。
Amazon
亚马逊和 NVIDIA 如何利用 AI 帮助卖家构建更好的产品清单
亚马逊利用 NVIDIA TensorRT-LLM 和 GPU 将推理速度提高一倍，实现新的 AI 功能，帮助卖家更快地优化产品清单。
Amdocs
NVIDIA 和 Amdocs 将自定义生成式 AI 引入全球电信行业
Amdocs 计划在 Microsoft Azure 上使用 NVIDIA AI 代工服务为价值 1.7 万亿美元的全球电信行业构建自定义 LLM。
AT&T
AT&T 借助 NVIDIA NeMo 提升客户服务 AI 智能体的准确性、效率和性能
全球最大的电信公司之一 AT&T 正在利用 AI 的强大功能重塑客户服务。面对模型漂移、不断增长的计算需求以及对实时数据访问的需求等挑战，AT&T 转而使用 NVIDIA NeMo™ 微服务来构建反馈驱动的 AI 平台，该平台可在优化成本、速度和合规性的同时不断提高性能。
AWS
NVIDIA 为规模庞大的 Amazon Titan 基础模型训练提供支持
亚马逊利用 NVIDIA NeMo 框架、GPU 和 AWS EFA 训练其新一代 LLM，为规模庞大的 Amazon Titan 基础模型客户提供速度更快、更易于使用的生成式 AI 解决方案。
Accenture
加速生成式 AI 在企业中的应用
ServiceNow、NVIDIA 和埃森哲宣布推出 AI Lighthouse，这是首个旨在加快企业生成式 AI 功能开发和应用的计划。
Azure
在 Azure 机器学习中充分利用 NVIDIA AI Enterprise 的强大功能
在 Microsoft Azure 上访问专为企业环境量身定制的全面工具、库、框架和支持服务生态系统。
Bria
Bria 利用 NVIDIA NeMo 和 Picasso 为企业构建负责任的生成式 AI
总部位于特拉维夫的初创公司 Bria 正在通过生成式 AI 服务，为希望以负责任的方式将可视生成式 AI 技术整合到其企业产品中，而且注重模型透明度以及公平归属和版权保护的企业提供帮助。
Cohesity
解锁您的数据超能力：NVIDIA 微服务为 Cohesity 解锁安全的企业级生成式 AI
借助 NVIDIA NIM 和优化模型，Cohesity DataProtect 客户可以为数据备份和归档增加生成式 AI 智能功能。这使得 Cohesity 和 NVIDIA 能够为所有 Cohesity DataProtect 客户提供生成式 AI 的强大功能。利用 NIM 和 NVIDIA 优化模型的强大功能，Cohesity DataProtect 客户可以从数据备份和归档中获得数据驱动的洞察力，使效率、创新和增长达到新的水平。
CrowdStrike
塑造 AI 在网络安全领域的未来
CrowdStrike 和 NVIDIA 正在利用加速计算和生成式 AI 为客户提供一系列专为高效应对安全威胁而量身定制的创新 AI 驱动解决方案。
戴尔
戴尔借助 NVIDIA 验证生成式 AI 设计
戴尔科技和 NVIDIA 宣布了一项计划，旨在使企业更轻松、快速、安全地在本地构建和使用生成式 AI 模型。
德勤
在各个企业软件平台解锁生成式 AI 的价值
德勤将利用 NVIDIA AI 技术和专业知识为企业软件平台构建高性能生成式 AI 解决方案，帮助企业获得重要商业价值。
Domino Data Lab
Domino 在 NVIDIA 的支持下提供生产就绪型生成式 AI
借助 NVIDIA NeMo，数据科学家可以在 Domino 平台上基于专有数据和 IP 根据领域专属用例对 LLM 进行微调，无需从头开始。
Dropbox
Dropbox 和 NVIDIA 为数百万客户提供个性化生成式 AI
Dropbox 计划借助 NVIDIA AI 代工服务，通过 Dropbox Dash 通用搜索工具和 Dropbox AI 构建自定义模型并改进 AI 驱动的知识性工作。
Google Cloud
AI 巨头合作创造生成式 AI 魔法
在 Next 大会上，Google Cloud 宣布推出由 NVIDIA H100 Tensor Core GPU 驱动的 A3 实例。两家公司的工程团队共同合作，将 NVIDIA NeMo 引入 A3 实例，以加快培训练训和推理速度。
HuggingFace
领先的 AI 社区加速数据管护工作流
面向 AI 构建者的领先开放式平台 Hugging Face 正在与 NVIDIA 合作集成 NeMo Curator，并加速其数据过滤和去重库 DataTrove。“我们对 NeMo Curator 的 GPU 加速能力充满期待，迫不及待地想要见证它们为 DataTrove 做出贡献！”Hugging Face 产品总监 Jeff Boudier 表示。
KT
利用 LLM 打造全新的客户体验
韩国领先的移动运营商构建了十亿参数级 LLM，并使用 NVIDIA DGX SuperPOD 平台和 NeMo 框架对这些 LLM 进行了训练，为智能扬声器和客户呼叫中心提供支持。
联想
基于 LLM、面向生成式 AI 的全新参考架构
通过解决方案助力全球合作伙伴和客户以极高的安全性和效率在行业细分领域大规模开发、训练和部署 AI，从而加快创新。
Quantiphi
助力企业快速开启 AI 赋能之旅
Quantiphi 致力于根据 Responsible AI 原则，使用 NVIDIA NeMo 框架训练和微调基础模型，并使用 NVIDIA AI Enterprise 软件平台大规模优化部署。
SAP
SAP 和 NVIDIA 加速在各个企业应用中采用生成式 AI，为全球各行各业提供助力
客户可以利用通过 NVIDIA AI 代工服务和 NVIDIA NIM 微服务部署的定制 LLM，在由 SAP 提供的云解决方案中充分利用其业务数据。
ServiceNow
为企业 IT 构建生成式 AI
ServiceNow 在其 ServiceNow 平台上开发自定义 LLM，以在各项企业 IT 流程中实现智能工作流自动化并提高工作效率。
Perplexity
增强 AI 驱动搜索引擎的模型性能
Perplexity 希望利用 NVIDIA NeMo 快速定制前沿模型，以提高搜索结果的准确性和质量，并对其进行优化，以降低延迟并提高吞吐量，从而获得更好的用户体验。
VMware
VMware 和 NVIDIA 为企业解锁生成式 AI
使用由 NVIDIA 提供支持的 VMware Private AI Foundation，企业可以定制模型并运行生成式 AI 应用，包括智能聊天机器人、助手、搜索和汇总。
Weight & Biases
调试、优化和监控 LLM 工作流
Weights & Biases 帮助研究生成式 AI 用例或使用 LLM 的团队对所有提示工程实验进行追踪和可视化，帮助用户调试和优化 LLM 工作流，并为 LLM 提供监控和观察功能。
Writer
初创公司 Pens 采用 NVIDIA NeMo 的生成式 AI 成功案例
Writer 正在利用 NVIDIA NeMo 构建 LLM，帮助数百家公司在营销、培训、支持等方面为企业用例创建自定义内容。
Arize
Arize 助力 AI 数据飞轮实现自我改进
Arize 的 LLM 工程和可观察性平台集成了 NVIDIA NeMo 微服务，为 AI 数据飞轮提供动力支持，从而通过现实世界的反馈持续优化模型。借助 NeMo Customizer、Evaluator 和 Guardrails，Arize 可确保代理式系统具有高性能、安全性，并能满足不断变化的企业需求。这项合作支持开发自适应 AI，这种 AI 会随着时间的推移而学习和发展。
DataRobot
在 DataRobot 上使用 NeMo 的企业就绪型可信 AI 智能体
通过将 NVIDIA NeMo 嵌入到 DataRobot Enterprise AI 套件中，企业可以确保代理式系统安全、合规并基于企业特定数据。这种集成有助于开发 AI 智能体，在遵守组织标准的同时提供准确、上下文感知的响应。
DataStax
DataStax 和 NVIDIA 共同构建数据和 AI 平台
在过去一年中，DataStax 与 NVIDIA 合作，采用 NVIDIA NeMo 微服务来增强其数据库和 AI 产品中的生成式 AI、检索增强生成和混合搜索功能。结果令人印象深刻：吞吐量性能提高了 19 倍，成本大幅降低，延迟得到改善。
Galileo
Galileo 和 NVIDIA NeMo：降低生产中代理式 AI 的风险
Galileo 集成了 NVIDIA NeMo 微服务来构建 AI 数据飞轮，从而增强智能体的性能、可靠性和信任度。NeMo 为 Galileo 平台添加了补充功能：通过 NeMo Customizer 实现特定领域的持续微调，通过 NeMo Evaluator 实现高级评估，并通过 NeMo Guardrails 保护用户交互，使 AI 团队能够构建、评估和监控代理式 AI 系统，这些系统可在现实世界环境中不断学习和改进。
