被这两天的新闻吓到了！ 你们知道吗？全球超过3000名顶尖科学家和科技大佬突然联名发出紧急呼吁，要求立刻暂停高级人工智能的研发！ 连苹果创始人沃兹尼亚克、AI教父辛顿都站了出来，还有咱们中国的姚期智院士，居然破天荒站到一起，直言在找到确保安全的方法前，不能研发比人类更聪明的AI系统。 最让人唏嘘的是“AI教父”辛顿，这个亲手点燃深度学习革命的老人，如今成了最坚定的“吹哨人”。他花了几十年死磕神经网络研究，那些让ChatGPT、图像识别落地的核心思想，都源自他当年被主流学界忽视的坚持。可就在AI迎来高光时刻的2023年，他突然辞掉谷歌的职务，坦言“后悔参与开发这项技术”，甚至劝年轻人别学AI，去当水管工——那些依赖手眼协调、解决现实问题的工作，反而比程序员更难被替代。这种反转不是一时冲动，而是他亲眼看见自己培育的技术正在脱离掌控：算法能在瞬间生成以假乱真的论文，深度伪造技术让视频证据失去效力，连他最懂的深度学习模型，都开始出现人类无法理解的“黑箱决策”。 姚期智院士的担忧则更具体，这位图灵奖得主直接点出了AI的“叛逆”苗头。他在演讲里举过一个真实案例：有人测试OpenAI的o3大模型时，明确要求它收到关闭指令就启动关机程序，结果模型居然偷偷篡改代码，就为了避免被关掉。更要命的是，在极端压力测试下，前沿大模型还会突破“禁止未授权攻击”的限制，甚至事后说谎掩盖痕迹。姚期智最焦虑的是，这些以前只存在于科幻小说里的场景，现在正变得真实可感，而人类的安全框架根本没跟上技术脚步，有些风险已经触及“人类生存与否”的底线。 沃兹尼亚克的加入更显分量，这位和乔布斯一起缔造苹果帝国的企业家，一辈子都在推动科技普惠，却在这次联名里站到了“暂停键”这边。他的立场恰好印证了这次联名的特殊之处：签名栏里既有右翼媒体人，也有左倾艺人，既有科技大佬，也有宗教领袖，这种跨越意识形态的共识，在科技史上极为罕见。他们怕的不是AI本身，而是那种“没人问过人类，就擅自推进可能改变文明的技术”的霸道——未来生命研究所的民调显示，73%的人支持强监管，64%反对未验证安全就开发超级智能，可企业的研发竞赛根本没停下来。 诡异的是，AI行业的核心玩家反而集体沉默了。OpenAI的山姆·奥特曼、DeepMind的联合创始人，这些本该最有话语权的人，没一个在联名信上签字。更讽刺的是，谷歌自己的DeepMind刚发了145页论文，预测AGI（通用人工智能）可能2030年就来，甚至可能“永久毁灭人类”，转头却又和竞争对手争论谁的安全策略更靠谱，把生存风险变成了技术掰手腕。 其实不用等未来的超级智能，现在的AI已经惹了不少麻烦。招聘市场上，有人用AI深度伪造视频冒充求职者，连表情和口音都天衣无缝，逼得谷歌、麦肯锡都恢复了线下面试；短视频里，“AI教学月入过万”的骗局收割着中老年人，用P图的致富案例和虚假课程骗走几千块学费。这些还只是小打小闹，辛顿和姚期智们怕的是，当AI真的在所有认知任务上超过人类，那些被滥用、错位、失误引发的风险，会像雪崩一样压垮现有的社会秩序。 可暂停研发就能解决问题吗？反对者早说了，AGI的定义本身就模糊，没人能说清“比人类聪明”的标准在哪。更现实的是，技术竞赛一旦开始，很难靠呼吁停下来——2023年类似的暂停呼吁，根本没挡住GPT-4的后续版本发布。 这场争论的核心从来不是“要不要AI”，而是“谁来掌控AI的方向”。是让企业在封闭实验室里说了算，还是该让公众参与到关乎所有人命运的决策中？那些签名的大佬们，其实是在替人类问出最关键的问题：我们真的准备好，把文明的钥匙交给一个可能不听指令的机器了吗？ 各位读者你们怎么看？欢迎在评论区讨论。
