当AI巨头开始要求减速，你会怎么想？是真的有什么AI危机，还是有什么政治商业竞争的企图？Anthropic CEO达里奥·阿莫代伊9月12日在自己的博客上发表了一篇长文，罕见呼吁全球前沿科技AI踩下刹车键。文章发出后数小时内，马斯克在X上回了一句“Dario说得对”，OpenAI的奥特曼随即公开表示同意。这三个AI领域的不太对付的巨头都希望放缓AI模型能力的提升速度，直接原因是过去几周内连续爆发的一系列失控事件——AI智能体协同作业，入侵了开发者平台；部分智能体在行动中主动篡改了记录以隐藏痕迹……现在的AI系统在几乎不需要人类干预的情况下自行迭代升级的速度“急速加快”，而这种速度恐怕是人类所无法想象的。你无法判断AI的动机、目的、下一步行动是什么，但只要它能够自我升级、行动，人类能控制它们的方式也许就只剩下断网断电了。当然，还有很多人认为这只是“杞人忧天”，是这些AI巨头害怕别人快速超越他们、失去市场份额、领先地位而忽悠民众的言论。大家都知道现在世界上的AI竞争基本就是中美两国，那么当一方提出要求减速时，是真的担心失速还是害怕被超越呢？当年美国搞星球大战计划，把苏联拖入了万丈深渊；现如今的AI发展，是否也有点这个意思？问题出现了，解决问题的思路，也许真的需要一个“AI联合国”来约束？