美国军方内部曾出现一份由人工智能辅助形成的错误情报。4名知情人士称，今年春天相关行动期间，一份流传于美军内部的报告声称，一艘正在中东航行的中国船只运载了与核计划有关的部件。这个判断很快引起关注，美军一度准备拦截并登船检查，相关军机也已经进入待命状态。


真正值得警惕的地方，不只是AI判断错了，而是一个错误判断为什么能一路进入军事行动环节。按照知情人士的说法，一名美军特种作战司令部分析人员使用AI聊天机器人分析船只货运清单，把公开来源信息和机密信号混合处理。AI错误识别了船上货物，分析人员随后又借助AI，把这套错误结果整理成标准情报报告格式。


这一步很关键。普通聊天内容出现错误，影响可能只是判断失误；一旦错误结论被包装成正式情报，它的可信度在传播过程中就容易被放大。人看到的是一份格式完整的情报文件，却未必能第一时间意识到，其中的重要判断已经经过AI加工。真正的风险，不是机器会不会犯错，而是人的审核有没有跟上。


据报道，美方官员直到行动临近时才重新深入核查这份情报，发现报告存在问题，相关行动随之停止。材料还提到，目前并不清楚分析人员使用的是商用AI，还是政府内部的AI工具。这一点反而值得注意，因为无论工具来自哪里，只要缺少明确的复核机制，AI生成的错误信息就可能进入高风险决策链条。


从这个案例看，AI最大的诱惑就是“快”。分析人员可以更快整理海量信息，也能更快生成看起来完整的报告，可速度一旦压过核查，错误传播的节奏也会同步加快。军事和情报领域真正需要解决的，已经不是要不要使用AI，而是哪些环节必须保留人工复核，哪些判断绝不能只靠机器给出的结果。机器负责提高效率，最终拍板的人必须对信息真伪负责，这条线不能模糊。

本文信息来源于《联合早报》