K8凯发 小米造车商议团队的新冲突:让自动驾驶AI“边想边开”,速率却快得像“只管开”
这项由小米具身智能团队主导开展的商议,以arXiv预印本形式于2026年4月20日公开荒布,编号为arXiv:2604.18486v1,商议标的涵盖计算机视觉与自动驾驶推理筹办。有敬爱敬爱深入了解的读者不错通过该编号在arXiv平台上查阅圆善论文。
**开车时,大脑在作念什么?**
每次你开车拐弯,你的大脑齐在速即运转:前边那辆车在延缓吗?路口的红灯快变了吗?左边那辆车会不会倏得并谈?你要综合通盘这些信息,才能决定踩油门、踩刹车,照旧打标的盘。这个念念考过程看起来很当然,但关于一台自动驾驶的汽车AI来说,想作念到相似的事情,却要付出浩瀚的代价——时辰代价。
传统的自动驾驶AI在作念决策时,会先把脑子里的"想法"一字一板地写出来,就像一个学生磨练时先在草稿纸上列出解题法子,然后再在答题纸上写谜底。这种"先想明晰重新动"的方式,学术上叫作念"链式推理"(Chain-of-Thought,简称CoT),它的克己是准确,但问题也很显明:太慢了。一辆车在高速公路上跑,如果AI每次决策齐要先写几十个字的"念念考过程",那等它想好了,可能如故追向前边的车了。
恰是为了禁止这个矛盾,小米具身智能团队提议了一个名为OneVL的新框架。它的中枢念念想不错用一句话详细:**把"写草稿"的过程压缩成"脑子里一闪而过的念头",但同期确保这个念头鼓胀智谋、鼓胀准确。** 更神奇的是,OneVL还能在过后"翻译"出我方的推理过程,让东谈主类工程师看懂它在想什么。
---
**一、为什么"想得慢"是个要命的问题**
先来搞明晰现存方法的窘境。面前主流的自动驾驶AI,在预计下一步轨迹之前,会生成一大段笔墨推理,比如"前线左侧车谈有一辆大货车正在以较快速率蚁集,右侧有行东谈主行将进入斑马线,面前绿灯还有8秒……要而论之,应当延缓并保执车谈"。这段推理很有道理,对晋升驾驶准确性也照实有匡助,但生成它需要破耗特别长的时辰。
商议团队在测试中发现,聘用圆善笔墨推理的AI(也即是"AR CoT+Answer"这种模式),在NAVSIM这个主流自动驾驶测评平台上,每次决策平均需要6.58秒。而如果平直跳过推理、只输出谜底("AR Answer"模式),则只需要4.49秒。两者差了快要两秒钟。在确凿驾驶场景里,两秒钟不错让一辆车行驶快要60米,足以发生严重事故。
于是有东谈主猜测了一个折中决策:既然显式写出推理太慢,那能不可把推理过程"藏起来",让AI在里面偷偷想一想,不把念念考过程写出来,平直输出谜底?这类方法被称为"隐式推理"或"潜在链式推理"(Latent CoT)。已有几个代表性方法,包括COCONUT、CODI和SIM-CoT,齐在尝试这条路。
然则问题来了:这些隐式推理方法在自动驾驶场景下,施展反而比什么齐不想的"平直输出谜底"还要差。在NAVSIM测试中,COCONUT得了84.84分,CODI得了83.92分,SIM-CoT得了84.21分,而什么推理齐不作念的平直预计得了87.47分。换句话说,这些"偷懒的念念考者"不但没帮上忙,还帮了倒忙。
为什么会这么?小米团队给出了一个深入的会诊:这些方法把推理压缩成了语言的压缩,而语言自身就如故是对确凿寰球的一层抽象。用语言来形容"前线有车",跟确凿看到一辆车比拟,丢失了太多空间和动态信息。用压缩后的语言来进行自动驾驶决策,就像是让一个从未开过车的东谈主,仅凭听别东谈主形容路况来戒指标的盘——听上去没问题,但细节全丢了。
---
**二、OneVL的中枢念念路:给AI配两个"会讲话的翻译官"**
OneVL的联想念念路,不错用一个厨师的譬如来长入。一位顶级厨师在烹调时,并不会每次切菜齐停驻来高声背诵菜谱——他的技巧如故融入了肌肉操心和直观之中。但如果你问他"你刚才为什么要加这一勺盐",他能坐窝给你一个表示的诠释。何况,他在烹调过程中,脑子里其实如故"看见"了这谈菜作念好之后的表情。
OneVL即是要让AI作念到相似的事情。它给AI配备了两种特殊的"代号牌":一种叫视觉潜变量(Visual Latent Token),另一种叫语言潜变量(Language Latent Token)。这些代号牌自身不是圆善的笔墨,更像是大脑里一闪而过的"念头编码"——相等紧凑,却包含了丰富的信息。
为了确保这些"念头编码"里果然装了灵验的东西,OneVL配备了两个"翻译官"。第一个翻译官是**语言接济解码器**,它的使命是把语言潜变量里的信息解码成东谈主类能读懂的笔墨推理。第二个翻译官更挑升念念,叫作念**视觉接济解码器**,它的使命是把视觉潜变量里的信息解码成改日0.5秒和1秒之后的路面画面——也即是说,AI需要"脑补"出立时要发生的场景长什么样。
这第二个翻译官,恰是通盘这个词联想的精髓场地。因为要预计出改日的画面,AI就必须确凿长入目下的路况:前边那辆车开得有多快?它会不会变谈?路面是不是在弯谈上?通盘这些动态的、空间的信息,齐必须被压缩进那些"视觉念头编码"里,不然画面就根柢画不出来。这就像是,只须你确凿长入了一齐数学题的解法,你才能预计出下一步算式的落幕——没办法靠蒙。
要津在于,这两个翻译官只在西宾阶段存在,在试验启航时会被平直丢弃。AI启航后,只需要把那些经过充分西宾的"念头编码"平直填入推理历程,然后一步输出驾驶轨迹。这种方式叫作念"预填推理"(Prefill Inference),通盘这个词过程的速率和什么齐不想就平直给谜底的方式简直一样快,在NAVSIM测试中仅需4.46秒,与平直预计的4.49秒简直莫得区别。
---
**三、AI怎么学会"想"而不说出来:三阶段西宾历程**
长入了OneVL的联想念念路之后,还有一个要津问题:怎么把它西宾出来?这就像培养那位顶级厨师——你不可第一天就让他在比赛级别的压力下完成一齐顶级菜肴,而是需要循序渐进地打磨本事。
OneVL的西宾分为三个主要阶段,在负责进入这三个阶段之前,还有一个探究法子。
探究法子是让视觉接济解码器"自学看寰球"。在这一步,这个解码器总共零丁于通盘这个词AI系统,只靠面前帧的画面特征来预计下一帧画面。它要学会:给我看目下的路况,我来猜接下来路面会酿成什么表情。这一步用了约13040个优化法子,批量大小为256。这就像是让一个学生先反复看交通视频,培养他对谈路动态的基本直观,才能在后续西宾中更好地伙同通盘这个词系统。
第零阶段(Stage 0)是主模子热身。在这个阶段,中枢的视觉语言模子(基于Qwen3-VL-4B-Instruct构建)脱手学习把那些"念头编码"镶嵌到推理历程中,同期完成轨迹预计任务。这一步的目的是让模子修复起基础才调:当你看到那些代号牌时,你要学着用它们来念念考,而不是无视它们。这个阶段西宾了2个圆善的数据轮次,学习率为4×10??。
第一阶段(Stage 1)是两个翻译官的专门培训。在这个阶段,主模子被冻结——也即是说,中枢AI暂时住手更新,保执领路情景。只须两个接济解码器在西宾:语言接济解码器学着把编码解读成笔墨,视觉接济解码器学着把编码解读成改日画面。这就像是先把厨师的技巧固定下来,然后专门西宾两个纪录员如何把他的操作准确纪录下来,而不会因为纪录过程自身影响厨师的判断。这个阶段西宾了1个数据轮次,学习率为1×10??。
第二阶段(Stage 2)是全面合股微调。三个部分——主模子、语言解码器、视觉解码器——同期更新,互相影响。来自两个解码器的"翻译质地"反映,会倒流回主模子,让主模子进一步优化那些"念头编码"的质地。这个阶段西宾了5个数据轮次,学习率为1×10??。恰是在这一阶段,视觉接济解码器施加的"必须能看见改日"的压力,迫使主模子的视觉潜变量确凿编码进了时空动态信息。
商议团队绝顶测试了"如果跳过这三个阶段,平直端到端合股西宾会怎么"。落幕相等惨烈:PDM评分从88.84分跌到了67.13分,下落了卓越21分。进一步检查西宾过程发现,平直合股西宾会导致梯度爆炸,运转梯度范数高达378.22(而正确的三阶段西宾保执在0.28),视觉解码器生成的"改日画面"也总共是胡乱的噪声,与输入画面毫无关系。
---
**四、在四个测试时势上,OneVL的收货单是什么样的**
商议团队在四个不同的自动驾驶测评平台上对OneVL进行了全面测试,这四个平台覆盖了从闲居城市谈路到极点特殊场景的野蛮情况。
第一个测试平台是NAVSIM,这是一个从确凿驾驶数据中索要的大范围测评平台,使用PDM评分来综合臆想轨迹安全性、舒放浪和行驶遵守,分数越高越好。OneVL在这里拿到了88.84分,不仅卓越了之前通盘使用隐式推理的方法(COCONUT最高84.84分),还卓越了最佳的显式推理方法(88.29分),更卓越了此前文件中最强的两个参考模子:AdaThinkDrive(8B参数范围,86.20分)和LaST-VLA(8B参数范围,87.30分)。而OneVL只用了4B参数,却作念到了更好的收货。
第二个测试平台是ROADWork,K8凯发(中国)这个平台专门测试在谈路施工区域行驶的才调——到处是锥桶、临时标记、不规则车谈永诀,还有衣裳荧光背心的工东谈主。这类场景在闲居测评中简直看不到,但在确凿驾驶中却极为常见。使用ADE(平均位移谬误,越低越好)和FDE(绝顶位移谬误,越低越好)来臆想。OneVL取得了12.49像素的ADE和28.80像素的FDE,而之前的最强专用方法YNet为22.68和80.78,差距相等显赫。
第三个测试平台是Impromptu,它收罗了八个确凿驾驶数据辩论的"相等规情景",比如谈路界限不表示、临时交通规则变更、奇怪的防止物出现等。OneVL的ADE为1.34米、FDE为3.70米,卓越了该平台原始论文中的自带模子(1.60米和4.28米),以及通盘同等范围的对比方法。在更精采的时序谬误分析中,OneVL在1秒、2秒、3秒、4秒的预计上均为最优,平均L2谬误仅为1.01米。
第四个测试平台是APR1,它引入了一种叫作念"因果链平定"(Chain of Causation)的推理标注,条款AI不仅仅预计轨迹,还要长入决策背后的因果逻辑。OneVL在这里取得了2.62米的ADE,优于对比基准Cosmos-Reason(2.86米,参数目10B,还使用了特殊的强化学习西宾)。在FDE筹办上,OneVL为7.53米,略逊于Cosmos-Reason的7.42米,这个微细差距商议团队诠释是因为Cosmos-Reason特殊使用了强化学习来优化,属于不同量级的过问。
---
**五、AI的"脑补画面"长什么样,推理笔墨又质地如何**
OneVL的一个绝顶之处在于,它能在推理扫尾后让两个接济解码器输出不错被东谈主类长入的内容,从而达成可诠释性。
在视觉层面,商议团队展示了多个测试场景下,视觉接济解码器生成的"改日画面"。以NAVSIM的一个弯谈场景为例,面前画面显现车谈右侧相近不可行驶区域,需要向左微调标的。视觉解码器在0.5秒和1秒青年景的画面,诚笃地呈现了车辆向左偏移后路面应有的视角变化,谈路两侧的建筑物和树木位置关系也顺应物理限定,证明AI照实"看见了"行将发生的事情,而不是在胡乱生成。
比拟之下,在莫得进行三阶段西宾的对照组中,换取输入的改日帧预计总共是与场景绝不关连的图像噪声,证明模子莫得确凿学会动态场景建模,而是走了捷径,记着了某些常见画面的名义特征。
在语言层面,商议团队对NAVSIM测试集的500个样本进行了笔墨推理质地的量化评估,联想了三个筹办。第一个是"元活动准确率":每段推理终末会得出一个高层决策,如"保执速率并看护车谈",这个决策的预计准确率越高越好。第二个是"语义相似度评分"(STS Score),用一个专门用来判断两段话是否道理相近的AI模子来打分。第三个是"AI裁判评分"(LLM-as-Judge Score),让谷歌的Gemini模子演出裁判,凭据场景图像、方法谜底推理笔墨和模子输出推理笔墨,从感知准确性、动态预计、决策合感性、语言运动性四个维度打分。
在这三项评估中,OneVL的语言接济解码器在元活动准确率上达到了71.00,卓越SIM-CoT的67.20;在语义相似度上达到78.26,在AI裁判评分上达到79.13,均高于SIM-CoT的76.25和78.73。比拟之下,圆善显式推理的方法(AR CoT+Answer)仍然保执最高,三项分别为73.20、79.75和81.86,但这是以慢得多的速率为代价的。
---
**六、视觉监督为什么比语言监督更垂危:一个挑升念念的发现**
消融实验(也即是"按次去掉某个零件,看性能如何变化"的测试)揭示了一个很挑升念念的限定。
去掉视觉接济解码器后,PDM评分从88.84跌到87.97,下落了0.87分。去掉语言接济解码器后,PDM评分从88.84跌到88.53,下落了0.31分。两者齐有孝顺,但视觉监督的孝顺快若是语言监督的三倍。
原因在于,自动驾驶本色上是一个空间预计任务,而不是一个语言理罢黜务。"前线有车"这句话和确凿"看到"前线的车,关于筹办轨迹来说,提供的信息密度总共不在一个量级上。视觉解码器条款AI预计出改日场景的像素级施展,这意味着潜变量必须编码车辆的位置、速率、标的,谈路的几何体式,以及它们随时辰的变化关系——任何信息的缺失齐会导致"画面不合"的平直反映。语言推理则更多是提供语义层面的锚点,让模子知谈我方在干什么,但无法替代空间动态信息。
这个发现对通盘这个词隐式推理领域的意旨在于,当你试图把一个需要多模态长入的任务压缩到一个紧凑的暗示空间里,阿谁压缩看法自身的质地决定了最终性能的上限。语言仅仅寰球的影子,视觉寰球模子才是更接近因果本色的压缩看法。
---
**七、面向确凿部署:用极小的代价换极快的速率**
商议团队还探索了一个更激进的部署决策:在通盘这个词系统上特殊挂载一个轻量级的MLP(多层感知机)预计头,平直从终末一个潜变量的掩饰情景转头出轨迹坐标,总共绕过自转头笔墨生成。
这个决策的延长只须0.24秒,折合成频率约为4.16Hz,达到了车载及时系统的基本条款。代价是PDM评分从88.84降到了86.83,下落了约2分。但这个86.83分的收货,仍然卓越了LaST-VLA的87.30分?不,等一下——86.83照实低于LaST-VLA的87.30,但LaST-VLA是一个8B参数的模子,使用的是圆善自转头推理,延永恒高于0.24秒。在试验部署中,一个以4Hz执续领路决策的轻量模子,频频比一个偶尔给出高质地谜底但延长不可秉承的重型模子更有实用价值。
这也意味着OneVL试验上提供了两种部署选项:一种是保留自转头轨迹生成、得到最高精度的圆善模式(4.46秒,88.84分);另一种是接上MLP预计头、就义约2分精度换取18倍速率晋升的超轻量模式(0.24秒,86.83分)。工程师不错凭据试验车辆的计算资源和任务条款活泼弃取。
---
**八、四个测试平台用到的数据和标注是怎么来的**
OneVL在西宾时需要三类监督信号:轨迹标注(来自各数据集自身)、笔墨推理标注(需要特殊构建)和改日帧视觉标注(通过IBQ视觉分词器离线生成)。
笔墨推理标注的构建方式因数据集而异。在NAVSIM上,商议团队平直复用了AdaThinkDrive发布的CoT标注,这些标注覆盖了车谈识别、要津对象分析(如车辆、行东谈主)和高层驾驶意图的形容。在ROADWork上,团队使用里面开荒的活水线,专门针对施工区域场景进行了标注,要点包括危急物识别(锥桶、护栏、临时标记)、非方法车谈解读和速率/侧向断根决策的原理。在Impromptu上,基于原数据集已有的问答对,添加了明确的决策标签和根因分析。在APR1上,由于官方未发布CoT标注,商议团队使用公开的APR1-10B模子检查点,对全部西宾数据生成了因果链标注,同期对密集的64点轨迹进行了启发式降采样,保留8个要津点以适配自转头生成步地。
视觉标注则更为自动化:使用Emu3.5的IBQ分词器,将每个西宾样本的改日两帧图像(+0.5s和+1.0s)离线编码为龙套视觉词汇序列,码本大小为131072。这个过程总共不需要特殊的推理时辰,事前计算收场后平直当作西宾标签使用。
---
归根结底,OneVL禁止的问题不错用一句大口语来证明晰:它让自动驾驶AI第一次达成了"念念考的速率和不念念考一样快,但后果比念念考更好"。以往的决策要么快但不准,要么准但太慢,要么试图把念念考压缩得很小但反而更差。OneVL用"必须能画出改日"这个硬不停,免强压缩出来的"念头"里装满了确凿灵验的时空动态信息,然后在推理时平直用这些念头,两个翻译官静偷偷地散失,通盘这个词决策过程快得像闪念。
这项商议对闲居东谈主的活命意味着,咱们离那辆确凿能安全、运动、及时吩咐复杂路况的自动驾驶汽车,又近了一步。何况这一步并不是靠堆砌更多的计算资源达成的,而是靠一个更智谋的联想念念路。
有敬爱敬爱深入了解技术细节的读者,不错通过arXiv编号2604.18486在arXiv.org上查阅圆善论文,通盘实验代码和演示页面也可通过论文中提供的名目主页获取。
---
Q&A
Q1:OneVL的推理速率为什么能和"不推理"一样快?
A:OneVL在推理时,会把经过西宾的"潜变量代号牌"平直填入输入指示词中(也即是预填方式),这些代号牌在预处理阶段被一次性并行处理,不需要像生成笔墨那样逐字逐句恭候。是以通盘这个词过程对延长简直莫得特殊影响,测试显现与总共不推理的平直预计方法出入不卓越0.03秒。
Q2:OneVL的视觉接济解码器生成的改日画面,是确凿的视频预计吗?
A:不总共是传统意旨上的视频预计。视觉接济解码器预计的是改日0.5秒和1秒时的场景画面,这些画面以龙套视觉词汇序列的形式暗示,通过IBQ分词器编码。它的主要目的不是生成视频供东谈主不雅看,而是当作西宾阶段的监督信号,免强视觉潜变量编码鼓胀丰富的时空动态信息。推理时解码器会被丢弃,生成视觉诠释是一个可选的"过后诠释"功能。
Q3:OneVL和闲居自动驾驶AI比拟,最本色的区别是什么?
A:最本色的区别在于OneVL引入了"寰球模子监督"。闲居隐式推理AI试图压缩语言形容,而语言是对寰球的二次抽象K8凯发,丢失了多半空间动态信息。OneVL通过条款AI简略预计出改日的视觉画面,逼迫其压缩出的"念头"确凿长入物理寰球的因果动态,而不仅仅记着语言形容的名义限定。这是性能晋升的根原开端。
开元棋牌(中国)官网入口