刘慈欣称人工智能或让人类完了刘慈欣说的“完了”,我的理解,重点不在 AI 造反,而在于人类自愿交出了定义问题的权力。
他近年的表述比早年更具体:AI 逐渐接管决策后,世界将脱离人类的绝对控制,文明主体发生改变,“进化还是退化”的追问本身都失去意义。这不是科幻末日,而是温水煮青蛙式的让渡。
真正值得警惕的是他反复提到的“陷阱”:当 AI 能替你判断、替你创作、替你决定什么值得思考时,人类很容易滑入舒适区,不再出题,不再较真。科幻小说里的机器人造反是假的,但人类主动放弃思考能力,却是正在发生的事。
不过刘慈欣本人也留了余地。他说过目前 AI 毁灭不了人类,算力限制是硬约束。他的“完了”更像是一句警示,而非预言。怕的不是 AI 变强,是人觉得自己可以下线了。 只要还有人愿意问“这事对不对”“这值不值得做”,人类的护城河就还在。 北京