要是眼前有两个 AI 助手：一个很智慧但时常不守规章冰球突破九五至尊娱乐网，另一个很听话但不太智慧，你会怎么选？

最近，上海东谈主工智能实验室与香港中语大学的商量团队发布了论文《Scaling Reasoning, Losing Control: Evaluating Instruction Following in Large Reasoning Models》，通过一个全新的评测基准MathIF揭示：

大模子越擅长复杂推理，越容易忽略用户的指示条目，"智慧"和"听话"之间存在昭彰的矛盾。

这项使命的灵感，源自实质使用推理模子（如 o3）经由中的一个不测发现：比拟很多经过强化推理老师的大模子，GPT-4o 在执行具体指示时反而愈加"听话" 。也恰是这种"越智慧、越不听话"的真确体验，让商量团队启动系统性地商量推理才能与指示奴婢之间的继续。

这一商量也引来� � 闻明博主的转发：

商量揭示越擅长数学推理的模子反而越难实足遵守指示，同期分析了模子大小与效劳性的非正有关征象，强调了推理才能与指示罢黜之间的衡量。

MathIF：商量推理模子"听话进程"的新基准

MathIF 基准故意针对数学推理任务，进修 AI 模子是否严格罢黜用户给出的指示条目。这些条目包括面貌、谈话、长度和特定要道词使用，均可通过面貌自动考据。

MathIF 由来自不同难度的数学题目构成，涵盖了检朴单的数知识题（GSM8K）到复杂的数学竞赛题目（AIME）。每个题目皆会附带具体而明确的指示，比如："谜底必须以一句中语完好作答，不成有满盈诠释。"

此外，MathIF 还联想了单一指示、双重指示和三重指示的组合情形，以测试模子在不同拘谨复杂进程下的知道。模子不仅需要正确解题，还要严格遵守这些指示条目。

自动评分面貌会精准检讨谜底是否妥当每个具体的指示圭臬，分辨以硬准确率（HAcc）和软准确率（SAcc）商量模子的效劳进程：HAcc 暗示是否一齐指示皆被得志，而 SAcc 则反应每条指示的平均得志比例。

△图表 1 MathIF 的指示类型越智慧越不听话？实验揭示"智慧"与"听话"的矛盾

商量团队使用 MathIF 评测了23个现时主流的大模子。这些模子包括不同的参数规模和老师面貌，涵盖从数十亿到数百亿参数的各式类型。

实验效率令东谈主不测：在数学推理才能知道越出色的模子，反而更难实足遵守用户给定的指示条目。即使是知道最好的模子Qwen3-14B，也只可得手遵守一半的指示辅导。

此外，模子的大小与其遵守指示的才能并不呈正有关，致使有时会出现负有关——即更大的模子并不一定更守规章。一些较小的模子反而更善于严格执行用户的指示。

指示罢黜（instruction-following）与数学推理才能（mathematical reasoning）之间存在一种衡量继续（trade-off）。也等于说，当模子在推理才能上知道得更强时，它时时更容易忽略或违背用户的具体指示。

△图表 2 23 个大推理模子在 MathIF 上的知道

模子按效劳性（HAcc + SAcc）知道从高到低排序。表中†秀气暗示该模子仅通过监督微调（SFT）老师，未使用推理导向的强化学习圭表。粗体 + 下划线标记则分辨代表各列筹商中的前两名与后两名。

为什么智慧模子更"不听话"？

商量团队进一步分析了这个征象背后的原因：

原因一：推理导向的老师模式

商量发现，旨在强化模子推理才能的老师面貌（如监督微调（SFT）和强化学习（RL）），诚然显贵擢升了模子的"才略"，却在一定进程上减弱了其对具体指示的敏锐性。

这类模子时时更专注于怎么准确解题，而容易残酷诸如面貌、字数等细节条目。正如图 3 所示，不管是 SFT 依然 RL，推理导向老师诚然擢升了解题知道，却大皆导致模子在指示罢黜才能（HAcc 与 SAcc）上的下落。

△图表 3 推理导向老师政策的对比

其中 Avg. Acc. 暗示在系数基准任务上的平均知道。绿色和红色配景分辨暗示相较于基础模子性能的擢升和下落。

原因二：长推理链镌汰效劳性

模子输出的推理经由越长（"链式想考"越复杂），越容易"健忘"指示条目。长段的复杂推理经由，容易让模子重观点分布，终末导致抵抗用户指示。如下图，将模子的推理效率按照长度进行分桶，推理长度越长，模子的指示罢黜准确率越低。

△图表 4 不同推理链长度区间下的 HAcc 和 SAcc 知道

长度分桶编号越大暗示生成的推理链越长。

商量团队通过实验进一步考据了这一征象：当模子被招引生成更长的推理经由时，其罢黜指示的准确率会昭彰下落。

具体作念法是，在模子推理已毕前东谈主为添加" wait "等辅导，迫使其链接延伸想考经由，从而生成更长的推理链。如下图所示，"想考越多"，模子对指示的执行反而越不准确。

△图表 5 模子指示奴婢才能的变化趋势

此外，商量团队还通过在老师阶段限度模子的推理长度，进一步不雅察其指示奴婢才能的变化。

具体而言，他们在强化学习（RL）的 rollout 阶段开采最大生成长度赶走，逾越该长度的回应将无法取得奖励，从而转折压缩模子的推理链长度。

从下图不错看出，赶走推理长度有助于显贵擢升模子的指示罢黜才能（HAcc 和 SAcc）。当最大长度限度在 1k 以内时，模子在效劳性方面的知道致使逾越了原始基线模子。

然而，这种擢升也带来了代价：模子的数学推理才能昭彰下落，知道出"听话"和"智慧"之间的衡量继续。

△图表 6 RL 老师中最大响应长度的影响

红色区域暗示相较于基础模子（Original）性能下落，神采越深暗示下落幅度越大。

这些征象进一步印证了商量团队的论断：偏向生成更长推理链的推理导向老师，时时会在就怕中减弱模子对指示的罢黜才能，突显了推理才能与指示效劳性之间恒久存在的衡量继续。

小手段：让模子更"听话"的毛糙圭表

商量者也尝试了一个毛糙的圭表改善模子的"听话进程"：在模子推理已毕后，输出谜底之前，再次近似一遍指示条目。

效率流露，这种圭表拉近了指示和回应的距离，如实灵验擢升了模子的指示遵守才能，但同期也稍稍镌汰了模子回答问题的准确率。模子为了遵守功令，不得抑遏送小数我方的数学推理才能。

△图表 7 通过在推理后近似指示擢升指示罢黜才能。

现时主流的推理导向老师面貌，诚然显贵擢升了模子的解题才能，却不可幸免地减弱了其对指示的罢黜才能。AI 的"智慧"与"听话"之间，正靠近一场难以归拢的矛盾。

已往，MathIF 基准有望构建既能真切想考，又能严格守规章的大模子。

论文地址：https://arxiv.org/pdf/2505.14810

Github 地址：https://github.com/TingchenFu/MathIF

一键三连「点赞」「转发」「防卫心」

接待在驳斥区留住你的目标！

—  完  —

� � 点亮星标 � �

科技前沿进展逐日见冰球突破九五至尊娱乐网