云霞育儿网

【研究发现AI越聪明越不听话!新研究:最强推理模型指令遵循率仅50%】如果面前有

【研究发现AI越聪明越不听话!新研究:最强推理模型指令遵循率仅50%】如果面前有两个AI助手:一个很聪明但经常不守规矩,另一个很听话但不太聪明,你会怎么选?

最近,上海人工智能实验室与香港中文大学的研究团队发布了论文《Scaling Reasoning, Losing Control: Evaluating Instruction Following in Large Reasoning Models》,通过一个全新的评测基准MathIF揭示:大模型越擅长复杂推理,越容易忽略用户的指令要求,“聪明”和“听话”之间存在明显的矛盾。(量子位)