云霞资讯网

全副武装的美军士兵已全部就位,战机已经升空,距离冲上一艘中国货船,只剩几分钟。

全副武装的美军士兵已全部就位,战机已经升空,距离冲上一艘中国货船,只剩几分钟。

就在这时,有人多核查了一眼底层情报,整份作战依据,是假的。

而撰写这份报告的,不是间谍,也不是叛徒,而是向AI聊天机器人问出来的。

这桩差点捅出大娄子的事件,是北京时间9月19日凌晨由美国有线电视新闻网独家爆出的,消息来自四名了解内情的美军内部人士,事件就发生在今年春季美国对伊朗发动战事的那段时间。

当时中东海域的美军正处于高度戒备状态,一份在内部传阅的情报报告突然拉响了最高级警报,报告里明确标注,一艘航行在该海域的中国籍货船,正在向伊朗运送核武器项目的核心部件。

这份情报没走多少流程就递到了战区作战指挥层,美军几乎没有耽搁就启动了海上拦截预案。

负责登船突击的海军特种作战小队立刻整装集结,配套的空中支援战机相继从附近的军事基地和航母甲板升空,海面的护航舰艇也马上调整航向,朝着目标船只的方向全速驶去,整个作战链条在极短时间内全部动员起来,就等指挥层最后一声令下,士兵就会直接强行冲上船只进行搜查。

按照当时的战备推进速度,从决策落地到实际登临行动,中间只隔了短短十几分钟,但凡复核环节慢上半拍,就会酿成无法挽回的后果。

叫停整个行动的,是最后一轮的情报合规复核。

负责复核的官员翻查这份报告的信息支撑时,发现里面的很多关键细节都没有实际的情报来源佐证,既没有卫星实拍的货物画面佐证,也没有地面情报人员的信息确认,整个报告的逻辑链条全是推断性表述。

顺着信息来源的线索追下去才发现,这份所谓的高优先级军事情报,根本不是专业情报团队分析出来的,而是美国特种作战司令部的一名基层分析师,借助通用AI聊天机器人生成的内容。

这个AI错误地把船上装载的普通民用货物识别成了核武器相关部件,又自行拼凑了运输路线和交付目的信息,攒出了一份看起来格式规范、内容详实的正式情报报告。

有知情人士事后直言,这份报告完全是错误的,差一点就引发了两个核大国之间的直接军事冲突。

这话一点都不夸张,公海之上美军全副武装强行登临中国籍商船,本身就是严重违反国际法的军事挑衅,一旦真的发生,后续的外交对峙、军事升级根本无法预估。

很多人看到这则消息第一时间就想起了1993年的银河号事件,当年美军也是凭着一份错误情报,在公海拦截中国货船强行登检,最后什么违禁品都没找到,却让中美关系陷入了很长时间的低谷。

和当年不同的是,这次的错误情报不是人为的主观误判,而是AI生成的虚假内容,而且美军的战备响应速度比当年快得多,要是晚几分钟发现问题,后果不堪设想。

事件曝光之后,五角大楼并没有正面回应事件的具体细节,只是泛泛表示军方对所有情报都有严格的验证流程,会负责任地整合新技术。

这种回避的态度本身就很能说明问题,说到底就是这事确实不光彩,也没法解释清楚为什么一份AI生成的报告能一路走到作战指挥层。

出事之后美军内部也吵成了两派,支持AI快速落地的人觉得这只是个别案例,不能因为一次失误就否定AI的效率,毕竟AI处理海量情报的速度比人工快几十倍,在战时速度就是战斗力。

但反对的声音也很尖锐,情报工作差之毫厘谬以千里,尤其是涉及大国博弈的军事情报,哪怕万分之一的错误率,都可能引发灾难性的冲突。

现在美国情报界和军方已经开始讨论,要不要给作战情报环节的AI应用加上强制的人工复核要求,所有涉及高风险军事行动的情报,必须有至少两个独立的信息源交叉佐证,不能只靠AI生成的内容就做决策。

其实这已经不是AI第一次在军事领域捅娄子了,之前美军在测试AI辅助目标识别系统的时候,就多次出现把民用车辆、平民误判成军事目标的情况,只是那些都还在测试阶段,没有造成实际的伤亡和冲突。

这次不一样,是实实在在发生在实战状态下的事件,已经走到了动武的最后一步,最后只是侥幸踩了刹车。

更值得注意的是,现在不止美国,很多国家都在加快军事AI的应用,大家都在抢技术高地,都怕落后于人,却很少有人把安全校验放在优先位置。

这种趋势带来的风险是实实在在的,大国之间本来就存在战略互信不足的问题,很多时候一点小的误判就可能升级成军事对峙。

以后如果AI生成的虚假情报越来越多,误判的概率只会越来越高,说不定哪次没刹住车,就会引发谁都不想看到的局面。对于我们来说,这也是个明确的警示信号,既要警惕别有用心的人利用AI制造虚假情报挑事,也要对这种新技术带来的新型安全风险,提前做好应对的准备。