智能AI
evening
极简方案刷新扩散模型推理纪录,阿里清华论文入选ICML杰出论文
2026-07-06
1 阅读
约7分钟阅读
量子位的朋友们
字号:
< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400"> 极简方案刷新扩散模型推理纪录,阿里清华论文入选ICML杰出论文 量子位的朋友们 2026-07-06 18:33:45 来源: 量子位 7月5日,阿里巴巴与清华大学合作的论文The Flexibility Trap: Rethinking the Value of Arbitrary Order in Diffusion Language Models(灵活性陷阱:重新审视扩散语言模型中任意顺序生成的价值)入选AI顶会ICML杰出论文(Outstanding Paper),杰出论文是ICML最高荣誉,代表当年最具影响力的研究工作,通常只授予2-3篇,获奖率仅占接受论文的千分之一。 图说:2026年7月5日,ICML 2026主席团公布两篇杰出论文名单,阿里巴巴与清华大学合作的论文入选。 dLLM(扩散大语言模型)是当前最受关注的下一代语言模型架构之一,Google的Gemini Diffusion、中国人民大学的LLaDA等都属于这一方向。主流大语言模型(LLM)如GPT、Qwen等生成文本就像打字,从左往右逐个生成token,与LLM不同,dLLM在生成文本时可以任意选择生成顺序,无需从左往右,理论上拥有更大的生成解空间,在近一两年被寄予厚望。但这篇论文首次提出质疑:在解决数学、编程等通用推理任务时,任意顺序生成非但不能提升模型能力,反而会成为陷阱。 研究发现,不确定性高的关键逻辑节点(如“因此”“所以”),像是一个分叉口。若采用从左向右的顺序,模型必须在此处当场作出选择,生成下一个token,不能跳过。若采用任意选择生成顺序,模型会倾向于绕过这些难点,优先处理容易的部分。等回头再填充这些节点时,前后文已经确立,原本的推理分叉口变成了填空题——答案被上下文锁定了。 图说:从左向右的自回归顺序(a)迫使模型在每个逻辑分叉口做出选择;任意顺序(b)绕过难点,优先处理容易部分,导致推理路径被提前锁死。(图片翻译自论文) 选择权被悄悄消解,研究者将这一现象命名为“熵退化”。实证数据证实了这一现象:在HumanEval代码生成任务上,从左往右顺序能解出、而任意顺序解不出的题目占21.3%,反向仅0.6%。且顺序的自由度越大,推理性能越差。 基于这一发现,团队提出的解决方案是“JustGRPO”——意为在强化学习训练阶段放弃任意顺序,强制模型从左到右生成,使用GRPO就可以了。GRPO是一种主流算法,让模型对同一道题生成多组答案、通过组内优劣对比来优化策略。 此前,为dLLM设计强化学习算法面临一系列工程难题,比如生成顺序不固定导致无法准确归因每个词的贡献,各团队不得不引入各种复杂手段。“JustGRPO”则是一种大道至简的方法,类似于当所有人在给左手练力量,有人说:为什么不直接用右手? “JustGRPO”训练完成后,模型推理速度不受影响,推理效果大幅提高。在GSM8K(业界衡量大模型推理能力的标准测试集,包含约8500道多步推理小学数学应用题)上达到89.1%准确率,全面超越d1、ESPO、SPG、GDPO等所有为扩散模型专门设计的复杂强化学习算法。 (附:论文下载地址https://arxiv.org/abs/2601.15165) 本文由阿里x清华提供,量子位获授权转载,观点归原作者所有。 版权所有,未经授权不得以任何形式转载及使用,违者必究。 清华大学 阿里巴巴 量子位的朋友们 在联合国,这家中国公司给AI“减负”:不堆算力,而是给机器人装了个“类脑” 2026-07-06 2026新青年创投大会在沪举行:00后登场,创投新周期开启 2026-07-06 字节、宇树、BAT等40+产品大咖齐聚,2026奇点智能产品大会最新最全日程来了! 2026-07-06 联想控股发起成立中国中文信息学会产学研创新生态工作委员会 2026-07-06 扫码分享至朋友圈 相关阅读 两年网罗13位扫地僧,阿里达摩院最新架构完整曝光 乾明 2019-10-16 达摩院 阿里巴巴 阿里领投MiniMax 6亿美元融资,5家大模型独角兽集齐了 最新估值曝光 西风 2024-03-06 MiniMax 大模型独角兽公司 阿里巴巴 清华姚班/智班2020级新生来了!中国奥数新晋“一姐”在列,湖南、湖北人数最多 全部来自奥赛国家集训队 十三 2020-07-08 人工智能 姚班 智班 清华大学 OpenAI宋飏被Meta挖跑了!扩散模型崛起关键人物,加入MSL再会师清华校友赵晟佳 担任MSL研究负责人 衡宇 2025-09-25 Meta MSL OpenAI 清华大学 国内首次!这家中国企业的语言AI实力被公认全球No.2!仅次于谷歌 “听到”诚可贵,“听懂”价更高 十三 2022-07-07 Gartner 语音识别 语音语义 阿里巴巴 清华AI的华山论剑现已开启,不服就来战!王小川楼天城唐文斌都曾搅动风云 雷刚 乾明 2019-04-06 人工智能 清华大学 热门文章 全球首个:隐空间世界模型,打通长时序双向物理因果链了! 2026-06-29 具身智能Skill时刻!英伟达开源机器人技能库,Jim Fan:范式变了 2026-07-01 钉钉A1录音卡入选Gartner AI可穿戴设备报告 2026-07-02 让Agent越用越强:AReaL 2.0开源,打造面向自演进智能体的RL基础设施 2026-07-02 论坛预告|夯!AI企业家论坛首发阵容公开,更有千亿级实业巨头突袭 2026-07-02
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱