现代“深度学习”正面临的数据集规模和模型复杂程度不断增加的挑战。因此,要想卓有成效且高效地训练模型,需要有强大的计算能力。学习在深度学习模型训练期间在多个 GPU 之间分配数据,使得更多基于深度学习应用开发成为可能。
此外,有效使用配备多个 GPU 的系统可缩短训练时间,从而加快应用开发速度并进一步缩短迭代周期。能够使用多个 GPU 执行训练的团队将具有更大的优势,可以在更短的时间内构建基于更多数据进行训练的模型,大幅提高工程师的工作效率。
此课程将为您讲解如何应用各种技术在多 GPU 上进行数据并行的深度学习训练,以缩短数据密集型应用所需的训练时间。通过使用深度学习工具、框架和工作流来运作神经网络训练,您将学习如何通过将数据分配到多个 GPU 来缩短模型训练时间,同时保持单个 GPU 上的训练准确性。
下载课程大纲 (PDF 294 KB)
课程时长:8 小时,课后 6 个月内可以继续使用课件和实验
课程模式:讲师实时授课,每位学员可使用云端完全配置的 GPU 加速工作站实验练习
价格:
预备知识:
技术:PyTorch、PyTorch 分布式数据并行、NCCL
课程测评问题类型:基于技能的编码测试,评估学员在多个 GPU 上训练深度学习模型的能力
培训证书: 成功完成本课程和测试后,学员将获得 NVIDIA DLI 培训证书,证明在相关领域的能力,为职业发展提供证明
学习此课程的硬件要求:您需要一台笔记本电脑或台式机,且能够运行最新版 Chrome 或 Firefox 浏览器。我们为您提供在云端完全配置的 GPU 加速工作站的专用访问权限
课程语言:中文
模型并行 —— 构建和部署大型神经网络 2022 年 11 月 17 日(星期四)凌晨 1:00 至上午 9:00(北京时间)
加速计算基础知识 – CUDA C/C++ 2023 年 1 月 12 日(星期四)凌晨 1:00 至上午 9:00(北京时间)
用于工业检测的计算机视觉 2023 年 1 月 19 日(星期四)凌晨 1:00 至上午 9:00(北京时间)
8 学时 | 中文 | 收费培训 | PyTorch, Megatron-LM, DeepSpeed, Slurm, Triton Inference Server, NVIDIA Nsight™
有培训证书
8 学时 | 中文 | 收费培训 | PyTorch, Pandas, NVIDIA NeMo ™, NVIDIA Triton ™ 推理服务器
8 学时 | 中文 | 收费培训 | CuDF, CuPy, TensorFlow 2, NVIDIA Triton 推理服务器
如果您的企业希望获取或提升在 AI、加速数据科学或加速计算方面的核心技能,NVIDIA DLI 有讲师指导的培训将是您的信心之选。
可选
NVIDIA 深度学习培训中心 (DLI) 培训证书可以证明在相关领域的能力,助力您的职业发展。部分在线自主培训和全部讲师指导的培训班课程,提供此证书。
在 LinkedIn 上张贴 DLI 证书,可以突显您的新技能。这样做有机会增加对招聘者的吸引力,从而推动您的职业生涯发展。参考这里的操作步骤来更新您的简历,将证书添加到“证书”一项中。