NVIDIA AI Model and Application Development Certification Exam

理解代理式 AI 概念，包括推理模式、安全概念和故障模式、多智能体组件、智能体编排、代理式 AI 中的人类监督机制、衡量和提高代理性能，以及智能体与工具和外部系统集成。

• 代理式 AI 概念：智能体与生成式 AI 和基于规则的系统有何不同；核心基础模组；测试框架和运行时。
• 单 LLM 调用与多步骤智能体工作流。
• 与工具和外部系统集成，包括 API、工具使用和模型上下文协议 (MCP)。
• 通过反馈、模型选择以及提示词和工作流细化来提升性能。
• 安全控制，包括护栏、输出过滤器、提示注入防御和幻觉降低。
• 任务完成率、模型精度、Token 使用率、延迟、成本以及多步骤工作流的资源影响等性能指标。
• 编排和执行顺序，包括工具和 API 集成。
• 用于构建智能体的 NVIDIA 工具，包括 NVIDIA NeMo™、NVIDIA Agent Toolkit 和 NVIDIA NemoClaw™。
• 人类监督机制，包括人在回路工作流。
• 状态和上下文管理：无状态、有状态的交互和上下文工程。
• 多智能体组件、协作模式，以及何时选择单智能体与多智能体设计。
• 安全概念和故障模式，包括追踪和 NeMo Guardrails。
• ReAct、反思 (reflection) 和规划者-执行者 (planner-executor) 等推理模式。
• 短期和长期智能体记忆，以及每种记忆的适用场景。

17%
考试权重

通过去除噪声、个人身份信息 (PII)、有毒或有害数据，收集原始数据并将其转换为有意义的结构化信息，以整理高质量数据，创建自我改进的循环，或数据飞轮，持续优化 AI 模型并生成更优结果。

• 特征工程、特征存储和探索性数据分析。
• 数据治理标准、血缘和溯源 (用于审计)，以及模型风险管理。
• 数据提取和 ETL 组件，包括使用 Spark、Databricks、Kafka 和 NVIDIA RAPIDS 的分布式处理。
• 数据预处理和清理，包括数据标注和文本预处理。
• 隐私要求：PII 处理、数据保留、数据所有权、偏置和误用风险。
• 结构化、半结构化和非结构化数据。
• AI 评测指标和数据集，包括为什么特定应用的评估比通用基准测试更有用。
• 数据质量问题，例如缺失值、重复和过时。
• 数据飞轮：反馈收集、使用生产数据进行改进，以及相关挑战。
• 训练、推理和检索数据流；批量处理与流处理。
• 数据就绪、质量和可靠性如何影响模型性能。
• 生产质量监控，包括模型精度、接地度、幻觉率和任务完成率。

17%
考试权重

掌握 AI 推理的基础知识，包括推理服务基础架构、推理工作流阶段和模型、优化技术、提高吞吐量、延迟和性能，以及理解推理成本。

• 推理服务基础设施：模型服务器、网关和路由、提供商抽象、Dynamo、自动扩展、请求队列、冷启动和扩展策略。
• 推理工作流阶段和模式，包括预填充和解码，以及实时与批量推理。
• 优化技术：量化与精度权衡、KV 和前缀缓存、推测性解码、张量并行、分解式服务，以及对 GPU 显存的上下文长度影响。
• 针对批量、实时和流式服务提供最佳实践。
• 通过批量处理、Token 流、TensorRT-LLM、量化设置和缓存来提高吞吐量并优化延迟。
• 延迟与吞吐量权衡。
• 性能衡量指标：延迟、吞吐量、首 Token 时间和负载测试。
• 推理成本驱动因素，包括模型大小、Token、流量、硬件和延迟目标。

15%
考试权重

为特定任务或用例调整通用预训练 AI 或大语言模型 (LLM) 的密钥概念，包括微调类型和方法、数据要求、风险、预部署测试和验证，以及部署微调的模型。

• 通过网卡服务或经模型合并部署微调的模型。
• A/B 测试和离线实验，在部署前验证 AI 模型影响。
• 微调方法：SFT、PEFT、LoRA、QLoRA、RLHF、偏好优化 (DPO、KTO、GRPO)、蒸馏和指令调优。
• 微调风险，包括灾难性遗忘和过度拟合。
• 选择微调方法并准备标注的训练数据。
• 什么是微调、何时使用，及其数据要求。
• RAG 和检索最佳实践：文档提取、分块、嵌入、向量索引、查询和检索工作流、混合搜索以及重新排序。
• 面向文本、代码和多模态数据的 RAG 工作流组件；语义与混合搜索。
• 提示词工程、RAG 和微调之间的权衡，包括数据需求和成本/工作量。
• 提示词工程和优化：系统提示词、零提示词和少提示词、思维链提示词、结构化输出和提示词优化。

14%
考试权重

了解计算机视觉、非语言和语言模型的各种模型和类型，理解模型选择标准和约束，并评估模型功效和可解释性

• 神经网络与经典机器学习模型。
• 计算机视觉任务和模型类型：图像分类、物体检测、分割和 OCR。
• 为什么并行计算适合神经网络训练和推理。
• 非语言模型类型：嵌入、重新排序、多模态、omni、视觉语言和世界基础模型；生成的与判别模型。
• NVIDIA 模型系列及其用例，包括 Nemotron。
• 评估模型功效、鲁棒性和可解释性。
• 语言模型类型：大语言模型 (LLM)、小语言模型、推理模型、基础和指令调优模型、开放和专有模型、密集和混合专家模型，以及基础与任务特定模型。
• 模型选择标准，包括工作负载拟合和大小、成本以及性能约束。
• 核心 LLM 机制：Token、上下文窗口、自动回归生成以及潜在/嵌入空间。

11%
考试权重

如何利用受支持的 NVIDIA 库、微服务与框架套件构建企业 AI 工作流，从原型进入生产阶段，简化 AI 应用开发，以及优化硬件利用率。

• 在基础设施上的 AI 服务部署和编排，包括容器化、Kubernetes、模型和微服务部署、基础设施即代码以及服务网格。
• NVIDIA AI Enterprise：其目的、解决的企业问题和部署环境。
• NVIDIA Blueprint 作为参考架构；将蓝图与业务场景匹配，并基于 NVIDIA NIM™ 构建。
• 在本地部署、云、边缘设备和混合环境下实现一致的 AI 部署，包括用于数据控制的自托管。
• LLM 驱动的应用的生产力用例。
• NVIDIA NIM：模型打包、加速推理、计算感知选择，以及与传统模型服务之间的差异。
• NVIDIA AI 工厂体系架构：栈层、其功能，以及基础设施、平台、模型、应用和工作负载配置文件之间的关系。

10%
考试权重

物理 AI 概念、理解仿真和机器人开发的数字孪生，以及识别 NVIDIA 物理 AI 模型系列和用例。

• 物理 AI 与数字 AI，包括三台计算机模式、机器人和自主机器用例，以及边缘推理。
• 面向机器人开发的仿真和数字孪生：NVIDIA Omniverse™、NVIDIA Isaac Sim™、合成数据、域随机化、仿真到现实的差距，以及仿真到现实的飞轮。
• NVIDIA 物理 AI 模型系列和用例，包括 NVIDIA Cosmos 和 NVIDIA Isaac™ GR00T。

6%
考试权重

模型生命周期管理、AI 监控概念和指标、AI 工厂运营、计算参数和规模调整，以及部署系统的可观测性组件。

• 模型生命周期管理：生命周期和发布管理、重新训练触发器以及版本控制。
• AI 监控概念和指标：可观测性、后训练漂移、延迟、吞吐量、健康指标、服务等级协议违反检测、MTTD 和 MTTR。
• AI 工作负载的计算规模确定：GPU 显存、副本、水平与垂直扩展、并发用户、吞吐量和延迟服务水平协议。
• AI 工厂运营，包括工具链集成、操作手册 (Runbooks) 和执行手册 (Playbooks)。
• 影响工作负载性能的计算参数：批量大小、最大序列长度、精度设置、硬件利用率和成本权衡，以及 Run:ai 计算管理。
• 已部署系统的可观测性组件：仪表板、提示词/智能体/检索追踪、日志记录和警报、遥测、漂移检测以及异常检测。

10%
考试权重