在大洋彼岸的互联网科技巨头狂堆算力大炼模型之际,行业化落地被认为是中国人工智能产业发展的重要特色。通过将大模型与千行百业场景结合,AI已成为我国数字经济发展的核心驱动力。打造强大、自主的AI技术底座与构建繁荣、创新的AI应用生态,已因此成为产业发展的关键。
业界在行动!近日,昇腾“淬火行动”伙伴能力提升专项行动——广深专场圆满落幕,来自全国各地的昇腾行业伙伴及其AI技术开发者汇聚一堂,通过这场为期三天的深度技术赋能活动学习昇腾软硬件技术,补齐技术断点,强化实战能力,共同开启了以“技术自闭环”推动AI项目落地的“加速度”。
01.从调用API到深入技术栈,加速项目落地进程
当AI大模型成为行业智慧升级的核心驱动力,传统数智服务提供商也站在了新的十字路口,机会与挑战并存。
广州力麒智能科技有限公司(以下简称“力麒智能”)作为智慧政务解决方案提供商,成立20多年以来一直为数字政府建设提供专业的软硬件全套服务。随着AI时代呼啸而来,力麒智能也开启了国产化大模型应用开发的新征程。
在力麒智能技术总监陈劲全看来,公司在应用开发中面临的核心难点在于对算力、对知识库、对底层国产环境的适配;在项目推进中,需要融入技术生态,将上层应用与底层算力支撑层相结合,若技术链整合不顺畅,将导致项目推进受阻。

广州力麒智能科技有限公司技术总监陈劲全
毫无疑问,这需要生态方提供更适配的技术支持。昇腾“淬火行动”正为此而生,三天的培训活动通过RAG应用开发、小模型推理部署、大模型训推加速、算子开发等课程,为伙伴开发者构建了所需的技术认知与实操能力。
以时下火热的RAG应用开发为例,培训首日便聚焦RAG技术应用如何通过知识库解决大模型知识更新滞后与内容幻觉问题,并结合昇腾RAG SDK的实操演练,指导开发者快速构建企业级智能问答应用,为技术落地产业场景提供有效路径。
“此前团队主要是调用API,不熟悉推理部署、调优及底层技术栈构建,”陈劲全表示,通过“淬火行动”实操培训积累技术经验,团队未来不仅可以快速解决内部项目问题,还能协助客户处理昇腾大模型应用部署难题,推动项目合作。
02.从“黑盒子”到可管可优,推动安防AI高效落地
深圳市未来清研智能科技有限公司(以下简称“未来清研”)Java研发工程师林晨,在负责公司特定行业AI应用落地时同样面临诸多难题。

深圳市未来清研智能科技有限公司Java研发工程师林晨
一方面,客户的需求高度定制化且动态变化,传统研发方式响应慢,需要AI驱动的流程化方式提升需求交付效率。另一方面,团队此前使用的开源推理框架难以适应特定生态的硬件系统和相应的技术运维支持,同时,无法把控真实有效的调优过程。
于是2024年公司将目光投向了更系统化、更加可控的昇腾技术方案,林晨此番参加昇腾“淬火行动”,正希望进一步借助昇腾生态的系统化培训与技术支持,在模型调优、算法优化、算力挖掘等方面实现进阶,更好地满足安防客户对定制化功能与本地数据安全的诉求。
林晨指出,尤其是RAG SDK对本地数据集测试、Milvus向量库对接的支持,为业务高效落地提供了相关参考,“培训老师认真负责、文档详实,帮助明确了模型调优、框架适配的方向。”
03.从跨架构迁移到端到端实战,提升问题解决效率
深圳市法本信息技术股份有限公司(以下简称“法本信息”)作为一家长期深耕AI与信创领域的老牌信息技术服务商,与昇腾合作已久,是昇腾ISV大模型应用软件合作伙伴。目前,法本信息已形成阶段性成果——旗下在昇腾AI开发者创享日·广东站重磅发布的FarAI GPT系列一体机,基于昇腾和DeepSeek构建企业级AI生态架构,内嵌三大核心垂直模型与智能体,覆盖人才获取与管理(智能招聘GPTRecruit)、知识管理(知识大脑GPTBrain:银行监管、汽车维修等)、研发效能(辅助编码GPTCoder)等关键业务场景,可赋能金融、汽车等行业,全面满足企业AI时代战略转型需求。
法本信息新生代算法工程师郑帅在交流中提到,目前团队在昇腾技术应用领域已积累了一定的经验,尤其在跨架构迁移(从英伟达平台到昇腾)、基于昇腾的端到端大模型实战等核心能力上,已通过产品适配与项目实践形成了相关的技术路径。目前个人在昇腾技术的深入应用上也处于持续精进阶段,主要在算子开发等进阶技术领域仍在积累突破,希望通过更多实践与交流进一步提升专业能力。同时他提到,部分客户对自主技术生态的稳定性仍存顾虑,而法本信息基于昇腾在知识问答、金融监管、汽车人员培训和智能招聘等场景落地的经典案例,充分展现了公司在昇腾生态下的AI创新实践成果与技术积淀,这些正成为增强客户信心的重要支撑。

深圳市法本信息技术股份有限公司算法工程师郑帅
为此,生态层面的持续支持仍显得尤为关键。昇腾“淬火行动”恰好回应了这一需求。在培训中,昇腾AI技术专家将理论与实战相结合,系统指导开发者完成MindIE大模型推理与调试调优,并带领参训者完整实操了MindSpeed LLM大模型预训练、微调及后训练的全流程。此外,昇腾AI框架布道师还现场演示了MindSpore昇思动态图能力及其兼容方案,通过创新的适配层设计,使主流PyTorch训练代码能够平滑迁移至昇腾平台,显著降低生态切换成本,保障开发体验的一致性。
郑帅表示:“‘淬火行动’是我深入昇腾技术体系的重要一步,它帮助我在既有积累的基础上,进一步系统加深了在算子开发等方面的认知,为后续FarAI GPT系列一体机等类似产品的迭代与新场景拓展奠定了扎实基础。”他也期待生态方能提供持续的支持渠道,如专家交流与专项指导,助力个人及团队进一步攻克模型训练加速、算子开发等进阶技术。
04.从模型训推到算子开发,充分发挥昇腾硬件性能
广电运通集团股份有限公司(以下简称“广电运通”)算法研发部的高级算法工程师胡一征博士,也从模型训推、算法优化、算子开发等层面分享了与昇腾生态的交集。

广电运通集团股份有限公司算法研发部高级算法工程师胡一征
他介绍,广电运通团队自2024年开始使用昇腾,见证了其大模型生态从初始起步到逐步完善的过程。比如在前期MindIE功能不足时,广电运通团队自主编写推理接口,支撑了内外部的大模型落地项目;随着MindIE持续迭代,到当年底新版本发布时,团队就转向使用MindIE自带接口了。
本次参加昇腾“淬火行动”,胡一征博士表示正是冲着“自己不太熟悉”的底层算子来的。他高度认可昇腾CANN底层开源的价值,认为这样的举措能够降低开发者参与门槛,降低适配成本,并希望昇腾持续完善算子生态,逐步实现与主流框架的全面对齐,进一步降低跨架构开发与迁移的工作量。
活动第三日的培训,也正围绕最底层的CANN算子编程能力展开,包括可以帮助开发者打造与硬件架构高度契合的AscendC算子开发,以及可实现算子快速开发和跨平台高效迁移的Triton算子开发,助力开发者从理论掌握到实操上手,并显著提高开发与迁移的效率。
通过开源和开放的创新模式,胡一征博士期待能够充分发挥昇腾硬件性能,实现PyTorch所有算子的支持与精度对齐,最终达成开发者希望看到的“一套代码在英伟达与华为算力设备无缝切换”的目标。
写在最后:
毋庸讳言,AI的行业化落地,既离不开坚实的AI技术底座,也离不开繁茂AI的应用生态——而贯穿这其中的,正是开发者这一决定性力量!此番广深两地的开发者因昇腾“淬火行动”而集结,完成从“璞玉”到“利刃”的蜕变,料定将带着淬火后的硬核实力,共同为本地乃至全国的AI行业落地按下“加速键”,让创新锋芒在这片产业沃土上破开荆棘、一往无前!