AI写东西可以不按顺序?阿里清华发现:乱序生成反而害了推理能力
2026-07-07
到底发生了什么事?
AI写文章(比如生成一段话、写代码)通常像人打字一样,从左往右一个字一个字蹦出来。但最近几年出现了一种新玩法:让AI随便选顺序,比如先写中间、再补开头,最后写结尾。理论上这样更灵活,能写出更丰富的内容,所以很多大公司都在研究。
阿里和清华的团队发现:这个“灵活”在解决数学题、写代码这类需要逻辑推理的任务时,反而成了陷阱。
简单说就是:AI遇到难点(比如推理的关键词“因此”“所以”),如果顺序可以随便选,它会下意识绕开难题,先去写容易的部分。等回头再补难点时,前后文已经定死了,答案等于被“锁死”,反而算不对。
这跟普通人有什么关系?
你平时用AI帮忙算账、写代码、解复杂问题,背后可能就依赖这种“从左到右”的顺序。如果AI用了“任意顺序”方式,它的推理能力可能会偷偷变差。阿里清华的发现告诉我们:有时候,“按部就班”比“花里胡哨”更管用。
他们是怎么发现的?
- 在HumanEval(编程能力测试)上,从左到右能解出、但乱序解不出的题目占21.3%;反过来只有0.6%。
- 顺序越自由,推理表现越差。这个现象叫“熵退化”。
他们给出了一个极简单的解决方案:
放弃“任意顺序”,强制AI从左到右生成,然后用现有的强化学习算法GRPO(让AI自己对比多个答案,选最好的)训练就行。
这个方案名为JustGRPO,听起来像“就用GRPO呗”——因为其他团队为了适应乱序,已经发明了各种复杂算法,而阿里清华发现:不如直接回归最简单的做法。训练完的模型,在GSM8K(小学数学应用题测试)上准确率达89.1%,全面超过那些复杂算法。
这项研究已入选AI顶会ICML的杰出论文,这是该会议的最高荣誉,获奖率只有千分之一。