云霞资讯网

《华尔街日报》最新发表的长文,揭开了一群硅谷顶尖科技精英神经兮兮的样子。 白天

《华尔街日报》最新发表的长文,揭开了一群硅谷顶尖科技精英神经兮兮的样子。

白天在旧金山的高层写着全球最顶尖的 AI 代码,晚上在私密 Slack 频道里认真讨论买地避难、建造防电磁脉冲掩体和抢购碘片。

这不是好莱坞的科幻剧本,而是 Claude 母公司 Anthropic 核心团队的真实日常。

他们的笔记本电脑上贴着一行刺眼的口号:“Things will never be chill again”(事情再也轻松不起来了)。

报道甚至翻出了一段绝密往事:2022 年在巴哈马举行的一场秘密聚会上,有一顿隐秘至极的午餐,入场券只有一条极其离谱的硬性标准——你必须公开承认“未来百年人类灭绝的概率大于 75%”。

为什么世界上最懂 AI 的那批人,反而最害怕 AI?看看他们的出厂基因就懂了。

Anthropic 的创始人 Amodei 兄妹以及多位核心高管,早期曾经挤在旧金山的一间合租房里。当硅谷其他创业者在夜宵摊上聊着估值、期权和上市图景时,这群人围着餐桌讨论的却是超级火山爆发、小行星撞地球,以及一个不可控的超级 AI。

他们甚至在聚餐时认真推演过:未来会不会被政府统一征召进沙漠深处的地下设施,在铅板屏蔽电磁脉冲的基地里被逼着写代码。

让这群理智科学家彻底陷入幻灭的,正是他们自己亲手发现的物理铁律。

2020 年,他们发表了著名的“缩放定律”(Scaling Laws)。原本大家以为通用人工智能(AGI)是几百年后的哲学辩论,结果公式算出来极其残酷:只要把算力和数据像堆砖头一样叠上去,AI 的能力就会呈现出预测度极高的指数级暴涨。

AGI 不是遥远梦想,而是一个有明确倒计时的工程确定性。从那一刻起,他们的心态彻底崩了。

在他们的圈子里,有一个叫 p(doom) 的硬指标——也就是 AI 毁灭人类的概率。

对普通人来说这听起来像个黑色幽默,对他们而言则是指导人生的量化参数。

买不买房、生不生娃、甚至找不找对象,都要把这个灭绝概率代入公式算一遍。内部对齐骨干 Evan Hubinger 甚至公开断言:未来 10 年 AI 杀死全人类的概率超过 10%。

更具嘲讽意味的是资金来源。当年为了抵抗 OpenAI 的极速商业化,他们接受了加密货币巨头 SBF 高达 5 亿美元的投资,理由听起来无比崇高:SBF 也是“有效利他主义”的虔信仰徒。

结果后来 FTX 爆雷倒闭,这笔用来“拯救世界”的启动资金秒变涉嫌欺诈的赃款。他们不得不一边顶着舆论嘲讽,一边在复杂的破产清算中拼命清洗这笔钱,最后靠亚马逊、谷歌和中东资本救场才换回身家清白。

这就演变成了当下科技界最荒诞的“加速者悖论”:为了防止毁灭世界的超级 AI 被对手先造出来,他们只能选择自己先把它造出来。

为了防御风险,他们参照全球生物安全实验室搭建了 ASL 防御体系,耗费海量算力测试 Claude 会不会教人制造致死病毒或瘫痪电网。

但一边高喊安全,一边被迫在军备竞赛中不断推高模型参数,终究引发了内部极度痛苦的撕裂。

最近,研究人员 Jacob Coxon 等多位核心骨干愤而辞职,公开发声警告失控灭绝的风险。当年打着“比 OpenAI 更重视安全”旗号分家的人,终究被自己亲手释放的庞然大物逼到了墙角。

世界上最懂 AI 底层机理的那批人,并不是在装神弄鬼地卖焦虑。他们是亲眼看到了黑盒深处的怪兽,然后发现自己除了踩油门把它推向终点,竟无力按下刹车。当造神者们开始在私密频道里研究逃难,这个时代注定再也轻松不起来了。