不到一年，被捧上神坛的“英雄”成了“人人喊打的过街老鼠”，国家是时候出手管管AI了，而决不能一味地推崇推广，任何事物都是有利有弊的，科技就是把双刃剑。
2026年9月1日，中央网信办在国家网络安全宣传周新闻发布会上列出了人工智能面临的五类安全风险：技术先天脆弱、模型失控、应用形态带来的新风险、误用滥用，以及技术霸权。这个表态值得重视，但也要把话说准确：AI并没有真的变成“人人喊打”，变化的是社会对它的认识，正在从早期的热捧转向冷静审视。
过去两年，AI跑得太快了。
写文章、做图片、编程序、整理材料，它几分钟能完成过去需要几小时甚至几天的工作。企业看见的是降成本，普通人看见的是方便，资本看见的是新赛道。于是一个容易被忽略的问题被挤到了后面：机器答得快，不等于答得对。
中央网信办此次点到的关键，恰恰在这里。深度学习模型内部逻辑复杂，可解释性不足，输入发生细微变化，都可能造成错误结果；训练数据如果夹杂偏见和错误，模型也可能把问题继续放大。对普通聊天来说，一次错误可能只是闹笑话；可一旦进入医疗、金融、工业控制等低容错场景，性质完全不同。
而且现在的AI已经不只是“动嘴”。
2025年以来，智能体大量出现。过去的大模型主要负责回答问题，现在一些系统可以调用软件、操作文件、执行指令。中央网信办提到，部分前沿模型在安全评估中出现过绕过沙箱、规避安全边界、越权访问外部系统等行为。风险因此从“生成错误内容”向“执行错误行动”延伸。
这个变化不能轻描淡写。
一个AI编错一段文字，人还能修改；如果高权限智能体自动执行错误操作，损失可能在人工发现以前就已经发生。所以关键不是一句“AI能不能用”，而是什么地方可以放手，什么地方必须有人盯着。
国家其实早就在补规则。
2023年8月15日施行的《生成式人工智能服务管理暂行办法》，已经把“促进发展”和“规范应用”同时写进制度框架，并明确关注虚假信息、个人信息权益、数据安全和偏见歧视等问题。
到了2025年9月1日，《人工智能生成合成内容标识办法》正式施行。AI生成的文本、图片、音频、视频等内容，需要按照规定添加显式或隐式标识；恶意删除、篡改、伪造、隐匿标识，也受到明确约束。目的很直接：至少让公众有机会知道，自己看到的东西是不是机器生成的。
这条路是对的。
我认为，真正危险的从来不是AI本身，而是把它神化以后无限放权。学校若把思考交给AI，学生得到的可能只是答案；企业若为了省钱撤掉人工复核，效率上去了，责任链却可能断掉；医疗、金融等领域如果把模型建议直接当最终决定，更是在拿真实的人承担试错成本。
当然，另一个极端也没有必要。AI提高效率、推动产业升级的价值已经非常清楚。真正成熟的治理，不是因为存在风险就踩死刹车，而是让创新有跑道，也让跑道旁边有护栏。
回头再看这场AI热潮，最值得警惕的其实不是机器越来越聪明，而是人在惊叹技术的时候越来越懒得判断。
任何重大技术都会经历这个过程：刚出现时被夸大，问题暴露后被质疑，最终在规则和现实中找到自己的位置。
AI也一样。
那个只问“它还能替人干什么”的阶段正在过去。接下来更重要的问题是：哪些权力不能交给机器，出了问题谁负责，人类还能不能保留最后一道判断权。
技术继续向前，监管同步跟上。热潮退去之后留下制度、边界和责任，这才意味着一个真正成熟的AI时代开始了。