概览
什么是 NVIDIA Nemotron？
NVIDIA Nemotron™ 是一系列开放模型、数据集和技术，可协助您构建高效、准确且专业的代理式 AI 系统。Nemotron 模型专为高级推理、编码、视觉理解、代理式任务、安全性和信息检索而设计，可公开获取并可在整个 AI 生态系统中集成，因此能够部署在边缘、云端等任意位置。
凭借透明的训练数据和广泛的平台支持，Nemotron 让创建和部署值得信赖的高性能 AI 智能体变得更加轻松。
视频
NVIDIA 为什么打造 Nemotron
倾听 NVIDIA 应用深度学习研究副总裁 Bryan Catanzaro 的精彩讲述，了解 Nemotron 背后的愿景，以及为什么开放式技术对于构建值得信赖的企业就绪型 AI 至关重要。
优势
Nemotron 为代理式 AI 带来了什么？
开放模型
NVIDIA 的开放数据和优化技术可确保开发者和企业能够获得强大、透明且适应能力强的模型。模型和训练数据公开发布在 Hugging Face 上。
高计算效率
通过对更大的模型进行剪枝，Nemotron 系列经过优化，可实现更高的计算效率，并使用 NVIDIA TensorRT™-LLM 提供更高的吞吐量和支持在线 / 离线推理的能力。
高准确度
Nemotron 模型基于热门的开放推理模型构建，凭借其卓越的知识储备，使用高质量训练数据进行后训练，并像人类一样进行推理，在主流基准测试中实现了更高准确性。
安全、简单的部署
Nemotron 模型系列作为经过优化的 NVIDIA NIM™ 微服务，可提供出色的推理性能和灵活的部署选项，确保更高的安全性、隐私性和可移植性。
技术
代理式 AI 的基础模组
开始使用用于自定义代理式 AI 的 NVIDIA NeMo™、用于快速企业就绪型部署的 NVIDIA NIM，以及用于通过可定制的参考工作流加速开发的 NVIDIA Blueprint 构建 AI 智能体。
启动选项
Llama Nemotron 入门方法
采用者
使用 Nemotron 的企业
资源
了解 Nemotron 的最新信息
-
博客
-
会议
-
视频
常见问题解答
NVIDIA Nemotron 模型不仅是开放的，更是真正意义上的开源模型。NVIDIA 发布训练数据集、技术和模型权重，以便开源社区既可以从我们的经验成果中受益，也可以利用这些资源创建自己的模型。
NVIDIA 开放模型许可是一项允许用户使用、修改、分发和商用部署模型和衍生工具的许可，无需向 NVIDIA 汇款，从而鼓励生成式 AI 的创新和进一步开发。
是的，您可以在生产环境中从 Hugging Face 下载和运行 NVIDIA Nemotron 模型。
NVIDIA 还提供 Nemotron 模型作为 NVIDIA NIM，以实现安全、可扩展的部署，这需要 NVIDIA AI Enterprise 许可证。您可以试用 Nemotron 模型，并从 nvidia.cn/ai 下载 NIM。
是的，NVIDIA 致力于发布更多 Nemotron 模型、数据集和技术，以支持开源生态系统。
NVIDIA Nemotron 模型基于前沿开放模型构建，因此可以更快地构建更好的模型。此外，NVIDIA 还发布模型权重、训练数据集和训练技术，以便开发者社区可以使用 Nemotron 的这些不同部分来训练自己的模型。
是的。NVIDIA 使用 NVIDIA 的开放数据集和神经网络架构搜索 (NAS) 等先进技术，在 Llama 模型系列的基础上构建了 Llama Nemotron 模型。Llama Nemotron 模型继承 Llama 母模型的使用许可。
NVIDIA 提供多种工具 (例如 NVIDIA Dynamo、TensorRT-LLM 和NIM) ，助力 Nemotron 模型实现大规模生产部署。你也可以使用主流开源库，例如 SGLang 和 vLLM。
后续步骤
准备好开始了吗？
使用合适的工具和技术，将 NVIDIA Nemotron 模型从开发阶段向生产阶段推进。
联系我们
与 NVIDIA 产品专家交流，了解如何借助 NVIDIA AI Enterprise 提供的安全性、API 稳定性和支持从试运行阶段向生产阶段推进。
及时了解 NVIDIA 代理式 AI 新闻
获取最新的代理式 AI 新闻、技术、突破等信息，直接发送到您的收件箱。
