携手火山引擎,顺丰科技用AI重塑供应链
发表于 2025-07-04 13:34:21

把大模型用在长链路、复杂协作的供应链上,是提效最明显的领域之一。供应链场景的「钉子」迎来了大模型生产力这把「锤子」。

作为支撑顺丰速运背后的供应链数智化承载,顺丰科技围绕物流场景的数智化需求,携手火山引擎积极探索大模型时代的最佳实践。

2024年,凭借火山引擎机器学习平台 AI 训推一体服务,顺丰科技推出了针对物流行业的垂直领域大模型——「丰语」,在顺丰的市场营销、客服、收派、国际关务等业务板块的二十余个场景中的落地实践应用。「丰语」系列模型还利用火山引擎 AI 云原生推理套件 ServingKit,实现了从模型部署到推理应用全链路的提效。

高效训推一体架构,打造「丰语大模型」

顺丰科技全面拥抱、深度探索 AI 在物流各环节中的增长提效。自研的“丰语系列大模型家族”包括丰语语言大模型、丰语语音大模型、丰语多模态大模型,在顺丰科技的市场营销、客服、收派、国际关务等20+业务板块场景中实践应用。

image.png

在训练丰语大模型的过程中,顺丰科技通过火山引擎机器学习平台,实现从训练到推理的全链路加速。

模型训练过程中,火山引擎训练框架 veTuner 帮助「丰语大模型」实现了高性能 Dataloader 的全面适配与集群自动并行,相较开源框架性能提升超30%;

同时,火山引擎强化学习库 veRL 支持 PPO、GRPO、DAPO 等多种算法,最高实现64.9% MFU(内存频率利用率),大大降低了「丰语大模型」的训练成本;

xLLM 推理框架通过 PD 分离部署与动态流量调度,将「丰语」大模型的吞吐能力提升最高达5倍,稳定应对高并发业务高峰。

当大模型重塑物流服务,如何降低推理成本?

与此同时,随着大模型渗透到物流上下游的各个场景,每天千万件的订单信息需要消耗大量的 AI 推理资源。

面对不断攀高的推理成本,顺丰科技利用火山引擎 AI 云原生推理套件 ServingKit ,实现从模型部署到推理应用全链路的提效。在 DeepSeek V3/R1满血版的部署上做到顺丰同城“即日达”的效率,通过算子融合和镜像优化,在相同 SLO 和上下文输入长度下大模型吞吐有明显提升。

2025年,随着智能体落地按下加速键,未来,顺丰科技将携手火山引擎,进一步探索物流场景的 AI 生产力落地。


「免责声明」:以上页面展示信息由第三方发布,目的在于传播更多信息,与本网站立场无关。我们不保证该信息(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关信息并未经过本网站证实,不对您构成任何投资建议,据此操作,风险自担,以上网页呈现的图片均为自发上传,如发生图片侵权行为与我们无关,如有请直接微信联系g1002718958。 

CSDN官方微信
扫描二维码,向CSDN吐槽
微信号:CSDNnews
微博关注
【免责声明:CSDN本栏目发布信息,目的在于传播更多信息,丰富网络文化,稿件仅代表作者个人观点,与CSDN无关。其原创性以及文中陈述文字和文字内容未经本网证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本网不做任何保证或者承诺,请读者仅作参考,并请自行核实相关内容。您若对该稿件有任何怀疑或质疑,请立即与CSDN联系,我们将迅速给您回应并做处理。】