开放模型是指其权重、数据或训练方案可公开获取的 AI 模型,开发者可以在自己的基础设施上对其进行检查、定制和部署这些模型。
任何 AI 模型的核心都是权重。权重是模型在训练过程中学习的数值参数,能决定它如何处理输入和生成输出。在封闭的模型中,这些权重仍然是专有的:用户通过 API 或应用与模型交互,但无法下载、检查或修改其内容。
开放模型会将上述部分或全部模型组件对外公开。根据不同的模型及其许可协议,其发布的内容可能包含:
| 模型组件 | 含义 | 重要性 |
|---|---|---|
| 模型权重 | 决定模型行为的已训练参数 | 支持团队运行、检查并定制化调整模型 |
| 训练数据集 | 用于训练或定制化模型的数据集 | 帮助团队了解数据质量、覆盖范围与局限性 |
| 训练方案 | 用于构建模型的方法、代码与参数配置 | 保障实验可复现,支持后续深度定制 |
| 评估资产 | 基准测试集、模型卡与技术报告 | 帮助对比模型的质量、安全性、成本与业务适配性 |
并非每个开放模型都包含所有这些资源。借助这些要素,开发者可以下载模型并在自有硬件上运行,使用特定领域的数据对其进行定制,将其集成到自定义工作流中,或是以此作为进一步研究的起点。
大多数企业组织两者都会使用。现代 AI 应用通常以多模型系统的形式运行,系统会针对各项任务挑选最匹配的模型。
| 决策因素 | 使用开放模型 | 使用专有模型 |
|---|---|---|
| 场景 | 您需要针对特定领域、工作流程、语言或模态的专用 AI。 | 您需要广泛的推理、调研、内容合成或快速原型设计能力。 |
| 可信性与可控性 | 您需要更深入地了解模型的组件来源、行为表现、部署方式或治理机制。 | 托管模型可满足您对安全性、隐私和支持的要求。 |
| 定制 | 您需要使用企业数据、策略或工作流对模型进行定制。 | 通过提示工程或配置就足以完成任务。 |
| 部署 | 您需要在私有环境、本地、边缘端或低延迟场景中运行 AI。 | 您希望由服务提供商负责管理基础设施、扩展和更新。 |
| 成本与性能 | 您可以针对重复的、大规模任务优化一个专用模型。 | 您需要立即使用前沿功能,而无需管理模型。 |
最佳方案通常是混合策略:在专业任务中采用定制化的开放模型,而在需要通用能力时使用专有模型。
这两个术语虽有关联,但不能混为一谈。传统软件领域的开源,要求公开用于研究、修改和重新分发系统所需的所有代码。一个完全开放的 AI 发布应包含权重、训练数据集、代码和文档。
许多模型以开放权重和有限文档的形式,在宽松许可协议下发布,但并未共享完整的训练数据集或代码。“开放权重”和“开放模型”是更精确的术语,它们反映了实际公开的资源内容,以及开发者究竟可以检查、复现或改造哪些内容。
快速链接
各行各业均可采用开放模型,只要开发者需要自主掌控 AI 的适配方式、运行部署环境以及所处理的数据内容。高效的 AI 系统通常会将面向细分领域任务定制后的开放模型,与擅长复杂推理的前沿模型搭配组合,依据不同业务场景选用最合适的模型。
开放模型通常通过 Hugging Face 和 GitHub 等平台分发,开发者可在这些平台浏览、下载和共享模型权重、数据集和训练代码。这些平台已成为开放模型生态系统的核心基础设施,推动了社区的快速采用与试验。
采用开放模型具有显著优势。在实施时,请留意以下注意事项。
快速链接
开放模型生态系统包括由 Mistral、Sarvam 和 NAVER Cloud 等公司构建的模型;LangChain、Hermes 智能体和 OpenClaw 等社区工具;WideLabs、Pleias 和 FPT Corporation 的数据集;以及其他众多有助于团队构建、定制、评估和部署 AI 的开放技术。
NVIDIA 对开放模型进行了优化,使其能够更快、更轻松且更可靠地部署到生产环境中。NVIDIA NIM™ 可适配 NVIDIA 自研模型和社区开放模型,依托加速推理能力、优异的可移植性以及面向企业级的部署方案,支持在云端、数据中心、工作站及边缘设备等各类环境中完成部署。
这些资源共同为开发者、企业和机构在代理式 AI、物理 AI、机器人、生命科学及自主系统等领域提供了更多选择。
快速链接
| 专项任务 | 开放技术示例 |
|---|---|
| 复杂问题求解、编程、推理和数学推理 | <a href="https://huggingface.co/collections/nvidia/nvidia-nemotron-v3" target="_blank">NVIDIA Nemotron 3</a> |
| 语音 | <a href="https://huggingface.co/collections/nvidia/nemotron-speech" target="_blank">NVIDIA Nemotron Speech</a><br> <div class="nv-text"> <ul> <li><a href="https://huggingface.co/nvidia/nemotron-speech-streaming-en-0.6b" target="_blank">Nemotron Speech Streaming EN 0.6B</a></li> <li><a href="https://huggingface.co/collections/nvidia/parakeet-asr" target="_blank">NVIDIA Parakeet ASR 模型</a></li> <li><a href="https://huggingface.co/collections/nvidia/canary-asr-ast" target="_blank">NVIDIA Canary 多任务 ASR/NMT 模型</a></li> <li><a href="https://huggingface.co/nvidia/magpie_tts_multilingual_357m" target="_blank">NVIDIA Magpie 多语种 TTS</a></li> <li><a href="https://huggingface.co/datasets/nvidia/Granary" target="_blank">Granary 数据集</a></li> </ul> </div> |
| 多模态检索增强生成 (<a href="https://www.nvidia.cn/glossary/retrieval-augmented-generation/">RAG</a>) | <a href="https://huggingface.co/collections/nvidia/nemotron-rag" target="_blank">NVIDIA Nemotron RAG</a><br> <div class="nv-text"> <ul> <li><a href="https://huggingface.co/nvidia/llama-nemotron-rerank-vl-1b-v2" target="_blank">Llama Nemotron Rerank VL 1B V2</a></li> <li><a href="https://huggingface.co/nvidia/llama-nemotron-embed-vl-1b-v2" target="_blank">Llama Nemotron Embed VL 1B V2</a></li> <li>Llama Embed Nemotron <a href="https://huggingface.co/datasets/nvidia/embed-nemotron-dataset-v1" target="_blank">数据集</a></li> <li><a href="https://github.com/NVIDIA-AI-Blueprints/rag" target="_blank">RAG Blueprint</a></li> </ul> </div> |
| 数据隐私与模型安全 | <a href="https://huggingface.co/collections/nvidia/nemoguard" target="_blank">NVIDIA Nemotron Safety</a><br> <div class="nv-text"> <ul> <li><a href="https://huggingface.co/nvidia/Llama-3.1-Nemotron-Safety-Guard-8B-v3" target="_blank">Llama Nemotron 内容安全 8B V3</a> <ul> <li><a href="https://huggingface.co/datasets/nvidia/Nemotron-Safety-Guard-Dataset-v3" target="_blank">数据集</a></li> </ul> </li> <li><a href="https://huggingface.co/nvidia/gliner-PII" target="_blank">Nemotron PII</a> <ul> <li><a href="https://huggingface.co/datasets/nvidia/Nemotron-PII" target="_blank">数据集</a></li> </ul> </li> <li><a href="https://huggingface.co/nvidia/Nemotron-Content-Safety-Reasoning-4B" target="_blank">Nemotron 内容安全推理 4B</a> <ul> <li><a href="https://huggingface.co/datasets/nvidia/Nemotron-Content-Safety-Reasoning-Dataset" target="_blank">数据集</a></li> </ul> </li> </ul> </div> |
| 构建可在任何环境中安全运行、并由您的数据赋能的定制 AI 研究助手 | <a href="https://github.com/NVIDIA-AI-Blueprints/aiq" target="_blank">面向企业搜索的 NVIDIA AI-Q Blueprint</a> |
| 生成用于训练物理 AI 的合成数据<br><br> 构建专用世界行动模型 <br><br> 开发用于智能基础设施分析与安全保障的视觉 AI 智能体 <br><br> 对<a href="https://www.nvidia.cn/glossary/world-models/">世界模型</a>进行后训练,以支持机器人或自动驾驶的推理或策略评估 | <a href="https://www.nvidia.cn/ai/cosmos/">NVIDIA Cosmos™ 3</a><br><br><a href="https://github.com/nvidia/Cosmos" target="_blank">Cosmos 框架</a> |
| 用于处理、分析和整理视频内容的视频策展系统 | <a href="https://github.com/nvidia-cosmos/cosmos-curate" target="_blank">Cosmos Curator</a> |
| 利用视觉 —语言 — 行动模型实现辅助驾驶感知、规划与控制 | <a href="https://github.com/NVlabs/alpamayo" target="_blank">Alpamayo 1</a> |
| 基于推理的自动驾驶模型的闭环训练与评估 | <a href="https://github.com/NVlabs/alpasim" target="_blank">AlpaSim</a> |
| 借助开放的视觉 — 语言 — 行动模型实现通用机器人技能、推理和全身控制 | <a href="https://github.com/NVIDIA/Isaac-GR00T" target="_blank">NVIDIA Isaac™ GR00T N 模型</a> |
| 用于分析海量录制视频和实时视频内容的<a href="https://www.nvidia.cn/use-cases/video-analytics-ai-agents/">视觉 AI 智能体</a> | <a href="https://github.com/NVIDIA-AI-Blueprints/video-search-and-summarization" target="_blank">NVIDIA 视频搜索和总结蓝图 (VSS)</a> |
| 面向天气与气候应用的开放式 AI 模型和工具,涵盖全球预测、极端天气预测、数据同化和降尺度 | <a href="https://www.nvidia.cn/high-performance-computing/earth-2/">NVIDIA Earth-2</a> |
| 面向生物学与药物发现的开放模型、数据集和库,包括生物基础模型构建、分子设计、虚拟筛选、蛋白质结构预测和蛋白质结合剂设计 | <a href="https://github.com/NVIDIA-BioNeMo" target="_blank">NVIDIA BioNeMo™</a> |
并非所有开放模型都一样。需要评估的关键因素:
Artificial Analysis、Open LLM Leaderboard、Physics-IQ、Robolab 和 VANTAGE-Bench 等排行榜为众多开放模型提供了标准化的基准测试对比。
开源模型的许可协议差异很大,这类协议划定了使用者对模型开展各类操作的合法权限范围。常见类型包括:
在生产或商业环境中部署模型前,务必仔细审查具体的许可协议。许可协议条款也可能会因模型版本不同而存在差异。
开放模型可以在企业环境中安全使用,但安全性并非与生俱来 —— 仍需严谨的评估与控制:
训练数据和方法的透明度 (这是开放模型的核心优势) 使得系统性的安全评估比封闭系统更加可行。
可以。不过具体的工作量取决于具体的应用场景:
包含训练方案、快速入门指南和预构建的部署配置的模型系列,降低了入门所需的专业技术门槛。
大多数企业组织两者都会使用。开放模型与专有模型相辅相成,企业可针对各项任务挑选最匹配的模型。
多数生产环境系统会采用二者结合的方案:针对垂直专属任务调用定制化开源模型,通用复杂场景则选用顶尖闭源模型,依据业务需求在两类模型之间智能调度分流。最优架构取决于管控权限、成本开销、数据隐私、响应时延、精度指标与综合性能等各项业务需求。
开源 AI 通过共享模型、数据集、基准测试、训练方案以及社区协作不断取得进步。NVIDIA 通过由联盟主导的工作为该生态系统提供支持,助力开发者、企业和各类组织构建可信、可定制的模型系统,并将 AI 转化为差异化竞争优势。
了解 NVIDIA Nemotron 开放模型如何与前沿模型协同工作,在保持业界领先性能的同时,提供定制化的专业 AI 能力。
NVIDIA Cosmos 是一个包含开放世界基础模型 (WFM)、安全护栏和数据处理库的平台,用于加速智能汽车、机器人和专用视频分析 AI 智能体的模型定制。