云霞资讯网

词元需求迎来爆发式增长!推理算力才是未来主战场 中国电信研究院最新AI基础设施报

词元需求迎来爆发式增长!推理算力才是未来主战场
中国电信研究院最新AI基础设施报告,给出一个极具冲击力的数据:预计2026年国内词元(Token)消耗量将达到10亿亿。
到2030年,这个数字会突破3500亿亿,复合增速接近12倍。

AI行业正在发生根本性转变:竞争重心,已经从过去大模型训练,转向智能体落地、商业化应用变现。
很多人以前只盯着训练算力,觉得GPU都是用来训练大模型。但报告明确预判,推理算力的需求会远远甩开训练算力,2029年推理算力市场占比直接冲到80%。

简单说白话:训练大模型是一次性重投入;而智能体、AI应用持续对话、调用、交互,每一次提问、每一轮输出,都在消耗词元,持续吃掉大量推理算力。
未来2-3年,国内算力需求年均增速接近10倍,增量主力就在推理侧。

这个变化对产业链影响很大。
之前市场炒算力,大多盯着训练用的高端芯片。而接下来,推理芯片、液冷、光模块、服务器、高速互联这些方向,才会持续受益。
赛道逻辑已经悄悄切换,不再单纯比拼谁能训练出更大的模型,而是比拼谁能扛住海量词元带来的持续推理需求。

当然也要客观看待:这是机构对远期需求的预测,预期很宏大,但落地节奏、资本开支、技术迭代都存在不确定性,不要盲目追高。

大家觉得,算力行情主线,会不会从训练芯片转向