Video Player is loading.

Current Time 0:00

Duration 0:00

Loaded: 0%

Stream Type LIVE

Remaining Time 0:00

详情

字幕

大模型技术在搜索、推荐和广告领域的应用如火如荼，尤其是以生成式推荐为代表的研究被视为下一代搜推广稀疏大模型的全新技术路线，成为各大公司争相探索和落地的方向。本次分享主要介绍我们基于 Torch 搭建的一套易于使用的高性能分布式训推框架，低成本支持类似 GPT-3 计算规模甚至更大 FLOPS 的稀疏大模型的训练、推理、部署和线上实验。引入生成式推荐技术后，多个业务场景下都观察到了scaling law，线上AB实验也取得了一定的效果收益。

活动: GTC 25

日期: March 2025

NVIDIA 技术: Cloud / Data Center GPU,CUDA,TensorRT,NCCL,NSight Systems,NVLink / NVSwitch,Triton

行业: Consumer Internet

话题: Development and Optimization - Training AI Models

级别: 技术 - 高级

语言: 简体中文

所在地:

下一代生成式推荐模型训推引擎的建设和落地实践