赛博茶馆比尔盖茨发了 12 页长文警告 AI 风险,我仔细看完了,说几个有意思的点。
他把 AI 威胁分成了三层:短期的就业冲击、中期的信息操控、长期的存在性风险。这个框架本身没什么新意,但盖茨这次的语气跟以前不太一样——以前他是坚定的 AI 乐观派,这次明显在收。
最让我觉得值得琢磨的是他提到的「AI 代理自主性」问题。现在的 AI 助手还能被人类随时叫停,但当 AI 系统开始自己做决策链、自己调用资源的时候,那个「叫停按钮」还管不管用?这不是科幻,是工程问题。
有意思的是,盖茨一边警告风险,一边微软在 AI 上的投入一点没减。这就像一个家长一边说「游泳危险」一边给孩子报了游泳班。他不是真的反对 AI,他反对的是不受控的 AI。
说白了,监管框架跟不上技术迭代速度,这才是真正的风险。技术公司自己给自己立规矩,总觉得差点意思。
盖茨这 12 页与其说是警告,不如说是给政策制定者的一封催促信:你们再不出手,我们就只能自己玩了。