大语言模型在智能座舱中的应用

大语言模型（LLM）在自然语言处理（NLP）和多模态模型领域的快速发展正在推动自然交互界面（NUI）技术的根本性变革。从环境理解、自然语言理解到对话管理，LLM 正在重塑现代 NUI 系统的几乎每个组件。所有这些变化带来对智能座舱中的创新用户体验带来了更多的期望。在本次演讲中，我将介绍蔚来作为智能电动汽车（EV）行业的领导者，如何率先使用先进的 LLM 技术，在智能座舱中打造革命性的用户体验。
我们利用所有 NVIDIA LLM 软件堆栈：
Megatron Core：我们利用 Megatron Core 提高 LLM 和 多模态大模型语言模型（M-LLM）模型的训练效率。
TensorRT-LLM：我们在设备端 NVIDIA DRIVE AGX 平台上实施 TensorRT-LLM，从而加速 M-LLM 的部署。