NVIDIA-Certified Professional
Generative AI LLMs
(NCP-GENL)
关于认证
NVIDIA-Certified Professional: Generative AI LLMs (NCP-GENL) 认证，用于验证使用先进的分布式训练技术和优化策略，设计、训练和微调前沿的大语言模型 (LLM)，交付高性能的 AI 解决方案的中级技能。该考试为线下考试，包含 60—70 道单选或多选题，限时 120 分钟。
请在预约考试之前仔细阅读 NVIDIA 认证常见问题和解答，考试大纲和考前学习指南。
如有问题，请将详情发邮件至 dlichina@nvidia.com。
选择考试
考试大纲
请查看以下考试大纲，
详细介绍每个主题所占比重。
| 认证主题 | 考试权重 | 涵盖的技术 |
|---|---|---|
| LLM 架构 | 6% | 理解和应用 LLM 基础架构和机制。 |
| 提示工程 | 13% | 通过提示工程、思维链 (CoT)、领域适应、Zero/One/Few-shot 学习以及输出控制，使 LLM 适应新的领域、任务或数据分布。 |
| 数据准备 | 9% | 通过清理/管护/分析/组织数据集、Token 化和词表管理，为预训练、微调或推理准备数据。 |
| 模型优化 | 17% | 在生产环境中部署 LLM。包括构建容器化推理工作流、配置模型服务和编排（例如 Kubernetes、NVIDIA Triton™）、实施实时监控、优化部署以缩短延迟并提升吞吐量，以及管理模型更新。 |
| 微调 | 13% | 创建概念性数据映射文档、自定义导入器、导出和脚本，以便与 OpenUSD 交换数据。 |
| 评估 | 7% | 通过定量和定性指标、框架设计、基准测试、错误分析和可扩展评估，评估 LLM。 |
| GPU 加速和优化 | 14% | 在 GPU 硬件上扩展和优化 LLM 训练/推理。涉及多 GPU/分布式设置、并行技术、故障排查、内存和批处理优化，以及性能分析。 |
| 模型部署 | 9% | 通过容器化工作流、可扩展编排、高效的批处理/模型服务以及实时监控，在生产环境中部署 LLM。 |
| 生产监控与可靠性 | 7% | 建立监控仪表板和可靠性指标，跟踪日志和异常情况，进行根因分析，并对照以前版本对智能体进行基准测试。实施自动化微调、重新训练和版本管理，以便确保在生产部署中实现持续正常运行、公开透明、高度可信。 |
| 安全、道德与合规 | 5% | 负责整个 LLM 生命周期内的 AI 实践。包括进行偏差和公平性审核，实施安全护栏，配置道德合规性监控机制，并应用偏差检测和缓解策略，确保负责任地部署和使用 LLM。 |
考前学习指南
查看学习指南，详细了解考试所涵盖的各项技术主题的介绍和权重，以及考点相关的培训课程和阅读资料。
