NVIDIA Nemotron™ 是一系列高效、多模态的 AI 开放模型,专为构建长时间运行的可自我进化的智能体而设计。Nemotron 模型专为快速完成任务而设计,在复杂智能体工作流中提供高推理吞吐量和领先的准确性。
凭借透明的训练数据和包括 NVIDIA RTX PRO™ 和 NVIDIA DGX Spark™ 在内的广泛的平台支持,Nemotron 模型可公开获取并集成到整个 AI 生态系统中,将可信赖的高性能的 AI 智能体部署到从边缘到云的各类环境。
视频
倾听 NVIDIA 应用深度学习研究副总裁 Bryan Catanzaro 的精彩讲述,了解 Nemotron 背后的愿景,以及为什么开放式技术对于构建值得信赖的企业就绪型 AI 至关重要。
NVIDIA 的开放数据和优化技术可确保开发者和企业能够获得强大、透明且适应能力强的模型。模型和训练数据公开发布在 Hugging Face 上。
Nemotron 模型系列经过优化,能够以最高吞吐量和混合 MoE 架构更快地完成代理式任务。
Nemotron 模型基于深厚的知识从零开始构建,经过高质量训练数据的后训练,并通过强化学习进行对齐,在长时间运行的代理式系统中实现了领先的准确性。
Nemotron 模型系列以优化的 NVIDIA NIM™ 形式提供,可实现出色的推理性能和灵活的部署选项,确保更高的安全性、隐私性和可移植性。
开始使用 NVIDIA NeMo™ 构建和优化 AI 智能体以实现自定义代理式 AI,使用 NVIDIA NIM 实现快速的企业级部署,并使用 NVIDIA Blueprint 通过可定制的参考工作流加速开发。
NVIDIA Nemotron 模型不仅是开放的,而且是真正开源的。NVIDIA 会发布训练数据集、技术和模型权重,以便开源社区能够从我们的经验成果中受益,并利用这些资源创建自己的模型。
NVIDIA 开放模型许可证是一个宽松的许可证,允许用户在不提及 NVIDIA 的情况下使用、修改、分发和商用模型部署和衍生工具许可,鼓励生成式 AI 的创新和进一步开发。
是的,您可以从 Hugging Face 免费下载 NVIDIA Nemotron 模型,并在生产环境中运行。
NVIDIA 也以 NVIDIA NIM 的形式提供 Nemotron 模型,以实现安全、可扩展的部署,但这需要 NVIDIA AI Enterprise 许可证。您可以试用 Nemotron 模型,并从 build.nvidia.com 下载 NIM。
是的,NVIDIA 致力于发布更多 Nemotron 模型、数据集和技术,以支持开源生态系统。
NVIDIA Nemotron 模型基于前沿开放模型构建,因此可以更快地构建更好的模型。此外,NVIDIA 还发布模型权重、训练数据集和训练技术,以便开发者社区可以使用 Nemotron 的这些不同部分来训练他们自己的模型。
NVIDIA 提供了多种工具,例如 NVIDIA Dynamo、TensorRT-LLM 和 NIM,用于在生产环境中大规模运行 Nemotron 模型。您也可以使用流行的开源库,例如 SGLang 和 vLLM。
使用合适的工具和技术,将 NVIDIA Nemotron 模型从开发阶段向生产阶段推进。
与 NVIDIA 产品专家交流,了解如何借助 NVIDIA AI Enterprise 提供的安全性、API 稳定性和支持从试运行阶段向生产阶段推进。
最新的代理式 AI 资讯、技术、突破性成果等内容将直接发送到您的收件箱,敬请关注。