LanguageMPC:以大语言模型为核心的自动驾驶决策和控制系统 | 讲座预告

「自动驾驶新青年讲座」由智猩猩企划,致力于邀请全球知名高校、顶尖研究机构以及优秀企业的新青年,主讲在环境感知、精准定位、决策规划、控制执行等自动驾驶关键技术上的最新研究成果和开发实践。

「自动驾驶新青年讲座」目前已完结31讲。有兴趣分享的朋友,可以与智猩猩教研团队进行邮件(class@zhidx.com)联系

在传统的自动驾驶系统中,往往需要复杂的规则和奖励函数设计,而且受限于数据量和采样效率,处理罕见事件是一大挑战。此外,由于神经网络的黑盒特性,现有基于学习的自动驾驶系统缺乏良好的可解释性。

LanguageMPC:以大语言模型为核心的自动驾驶决策和控制系统 | 讲座预告

针对此问题,来自清华大学和香港大学的研究人员共同提出的一种新型类人智驾系统 LanguageMPC,该系统将大语言模型(LLM)和模型预测控制(MPC)相结合,利用 LLM 像人一样思考的能力,将人类常识和推理能力作为自动驾驶系统决策的指导。同时,基于模型预测控制算法研究员们还开发了将 LLM 给出的高层决策转化为具体驾驶行为的方法,将高层决策与底层控制器无缝结合,可与当前各自动驾驶大厂的 MPC 框架完美结合,无缝衔接。

LanguageMPC 的核心技术包括专用于驾驶场景的思维链框架和高层决策与模型预测控制衔接。其中,思维链框架通过设计初始 prompt 和多种工具,指导 LLM 依次完成对周车的意图判断和注意力分配、判断自车所处情景、给出驾驶动作指引等任务。而高层决策与模型预测控制衔接则是通过将 LLM 的决策转化为可操作的驾驶行为。

12月22日晚6点,「自动驾驶新青年讲座」第32讲邀请到 LanguageMPC 一作、清华大学的沙昊参与,主讲《LanguageMPC:以大语言模型为核心的自动驾驶决策和控制系统》。

讲者
沙昊,清华大学在读本科生;研究方向包括2D-3D视觉、自动驾驶、大语言模型等。

第32讲

主 题
《LanguageMPC:以大语言模型为核心的自动驾驶决策和控制系统》

提 纲
1、自动驾驶场景的 LLM 专用思维链框架
2、基于 LLM 高层决策指导底层控制器
3、在定量指标上的性能体现
4、协调多辆汽车等复杂任务中的应用

直 播 信 息
直播时间:12月22日18:00
直播地点:智猩猩知识店铺

成果
论文标题:《LanguageMPC:Large Language Models as Decision Makers for Autonomous Driving》
论文地址:https://arxiv.org/pdf/2310.03026.pdf