AI迷局：施密特的战略转向与“曼哈顿计划”的幽灵

2025年的每一天，人工智能领域似乎都在风起云涌。前谷歌CEO埃里克·施密特与几位科技领袖联名发表了一篇题为《超级智能战略》的政策论文，如同一枚投入湖中的石子，激起了层层涟漪。这篇论文的核心观点，竟是反对美国政府主导的“曼哈顿计划”式AGI（通用人工智能）开发。

这听起来有些不可思议。毕竟，“曼哈顿计划”曾是美国在二战中取得胜利的关键，代表着集中力量办大事的典范。为何在人工智能时代，这一模式却遭到了施密特等人的反对？这背后，隐藏着怎样的深层逻辑和战略考量？

一、从“竞争”到“制衡”：施密特的战略转变

要理解施密特的转变，我们需要先回顾一下历史。在过去几年，施密特一直是人工智能领域“竞争论”的积极倡导者。他曾多次强调，美国必须在人工智能竞赛中保持领先地位，否则将面临严重的战略风险。

然而，随着人工智能技术的快速发展，特别是大语言模型的崛起，施密特的观点开始发生微妙的变化。他逐渐意识到，AGI的开发不仅仅是一场技术竞赛，更是一场关乎人类未来的博弈。在这场博弈中，单纯的“领先”并不足以保证安全，反而可能引发更大的风险。

这种转变，并非施密特一个人的孤立思考。事实上，越来越多的科技领袖和学者开始关注AGI的潜在威胁。他们担心，如果AGI的开发失控，可能会导致灾难性的后果，甚至威胁到人类的生存。

施密特的转变，正是这种担忧的集中体现。他不再强调“赢得”人工智能竞赛，而是将重点转向了“制衡”——如何防止AGI的开发走向失控，如何确保人工智能的安全和可控。这是一种战略上的重大调整，也是一种更加成熟和负责任的态度。

这就像一位曾经热衷于速度与激情的赛车手，突然意识到赛道上潜藏的危险，开始更加关注安全驾驶。这并非胆怯，而是对风险的深刻认知和对生命的敬畏。这背后，是对技术本质的更深层思考：技术究竟是工具，还是可能反噬自身的猛兽？

二、“曼哈顿计划”的幽灵：AGI开发的双刃剑

“曼哈顿计划”的幽灵，始终在AGI开发的道路上徘徊。

一方面，它象征着人类在面对重大挑战时，能够集中资源、协同攻关的强大能力。在二战的硝烟中，“曼哈顿计划”的成功，为盟军的胜利奠定了基础。

另一方面，它也代表着一种潜在的危险——为了追求目标，不惜一切代价，甚至可能忽视伦理和安全的底线。原子弹的诞生，虽然加速了二战的结束，但也开启了人类历史上一个全新的时代——核武器时代。

在AGI开发的背景下，“曼哈顿计划”模式的风险更加凸显。如果美国政府主导AGI的开发，可能会引发以下几个问题：

国际紧张局势升级： AGI被视为一种战略性技术，具有改变国际力量对比的潜力。如果美国单方面推进AGI开发，可能会加剧与其他国家（特别是中国）的紧张关系，甚至引发一场危险的AI军备竞赛。根据国际战略研究中心（CSIS）2023年的一份报告，超过60%的受访专家认为，人工智能领域的军备竞赛是“极有可能”或“非常有可能”发生的。网络攻击风险增加： AGI的开发需要大量的计算资源和数据支持。如果美国政府集中力量进行AGI开发，可能会成为其他国家网络攻击的目标。这些攻击可能旨在窃取AGI技术、破坏AGI系统，甚至引发全球性的混乱。权力失衡的隐患： 如果美国率先开发出AGI，可能会打破现有的国际力量平衡，导致新的地缘政治冲突。其他国家可能会感到不安，甚至采取极端措施来应对这种失衡。

这些担忧并非空穴来风。近年来，美国国会已经提出了多个类似“曼哈顿计划”的提案，旨在资助AGI的开发。这些提案的支持者认为，美国必须在AGI领域保持领先地位，才能确保国家安全和经济繁荣。

然而，施密特等人认为，这种“唯快不破”的思路是危险的。他们认为，AGI的开发应该更加谨慎，更加注重安全和国际合作。这就像在攀登一座险峻的山峰，速度固然重要，但更重要的是安全。稍有不慎，就可能跌入万丈深渊。AGI开发的本质，在于其潜在的颠覆性。它不仅仅是技术的进步，更是对人类社会秩序、伦理道德乃至生存方式的挑战。

三、“相互确保的人工智能故障”：一种新的威慑理论

面对AGI开发的复杂局面，施密特等人提出了一种新的战略——“相互确保的人工智能故障”（Mutual Assured AI Malfunction，MAIM）。

MAIM的概念，借鉴了冷战时期的“相互确保摧毁”（Mutual Assured Destruction，MAD）理论。MAD理论认为，核武器的存在，使得任何一方都不敢轻易发动核战争，因为这会导致双方的共同毁灭。

MAIM理论的核心思想是，通过主动禁用具有威胁性的人工智能项目，来防止AGI被武器化。这包括：

主动防御： 不再等待对手将AGI武器化，而是主动采取措施，防止任何一方开发出具有威胁性的AGI。网络威慑： 扩大网络攻击能力，以便在必要时中和或摧毁其他国家的危险人工智能开发。技术限制： 限制对手获取先进的人工智能芯片和开源模型，延缓其AGI开发的进程。

MAIM理论的提出，标志着人工智能战略的重大转变。它不再追求单方面的技术优势，而是强调通过相互制衡来维护全球人工智能安全。这是一种更加现实、更加务实的策略，也更符合人工智能时代的复杂性。

MAIM的本质，是一种“以毒攻毒”的策略。它承认人工智能的潜在危险，并试图通过一种“恐怖平衡”来避免灾难的发生。这就像在悬崖边上跳舞，虽然危险，但或许是避免坠落的唯一方法。这其中的矛盾冲突在于，如何在追求技术进步的同时，又能避免技术失控的风险？

四、超越“曼哈顿计划”：AGI开发的第三条道路

施密特等人提出的MAIM理论，并非要完全停止AGI的开发，而是试图在快速发展和完全停止之间找到一条“第三条道路”。

这条道路的核心是：

负责任的创新： 在推进AGI开发的同时，必须充分考虑其潜在的风险，并采取相应的安全措施。国际合作： AGI的开发是一个全球性的挑战，需要各国共同努力，加强合作，制定共同的安全标准和行为准则。开放与透明： AGI的开发应该尽可能地开放和透明，接受公众的监督和审查，避免出现“黑箱操作”。

这条“第三条道路”，并非一蹴而就的坦途，而是充满挑战和不确定性的探索。它需要我们不断地反思、调整和完善。但无论如何，这都是我们必须面对的挑战，也是我们必须承担的责任。

AGI开发的未来，充满了未知和变数。我们无法预测AGI何时会实现，也无法预测AGI会对人类社会产生怎样的影响。但我们可以选择以一种更加负责任、更加谨慎的态度来面对AGI的挑战。

这就像在茫茫大海中航行，我们无法控制风浪，但我们可以调整船帆，选择正确的航向。AGI开发的“第三条道路”，正是这样一种选择。它或许不能让我们一帆风顺，但至少可以让我们避免驶入危险的漩涡。这或许正是人类在面对未知时的智慧：在探索与敬畏之间，找到平衡。

扩展数据人工智能军备竞赛的可能性： 根据国际战略研究中心（CSIS）2023年的一份报告，超过60%的受访专家认为，人工智能领域的军备竞赛是“极有可能”或“非常有可能”发生的。人工智能领域的投资： 根据CB Insights的数据，2023年全球人工智能领域的投资总额超过了400亿美元，比2022年增长了近20%。人工智能安全事件： 根据AI Incident Database的数据，截至2024年，已经发生了超过1000起与人工智能相关的安全事件，涉及自动驾驶、人脸识别、金融交易等多个领域。各国人工智能战略： 截至2024年，已有超过50个国家发布了国家级人工智能战略，旨在推动人工智能技术的发展和应用。算力竞赛：根据OpenAI在2018年发布的数据分析，自2012年以来，用于训练最大型AI模型的计算量大约每3.4个月翻一番。