国际权威机构IDC最新发布的《中国智算基础设施服务市场(2024下半年)跟踪》报告显示,2024年中国智算基础设施服务市场迎来爆发式增长,整体规模达124.1亿元,同比增长57.7%。其中,百度智能云凭借GPU云服务的卓越表现,以及“基础设施+平台+场景”的闭环能力,正推动智算服务向产业化落地深化。在同步发布的《中国智算专业服务市场报告》中,百度智能云在解决方案实施服务市场中稳居行业第一。

IDC报告显示,2025年,DeepSeek的快速出圈,创造了新的市场机遇,百度智能云不仅提供基础设施交付、并通过 “规划 - 建设 - 运营 - 生态” 的闭环能力,赋能智算中心全链路价值,同时,依托在AI领域的先发优势,百度智能云在模型与行业AI场景方面处于领先地位。

硬核技术驱动高速增长

算力需求持续释放,推动GenAI IaaS服务市场占比不断提升。其中GenAI IaaS市场持续快速迭代,头部格局加速收敛。百度智能云通过 “国产芯昆仑芯+百舸GPU算力平台”的软硬一体技术体系,为AI大模型训练与推理提供高性能、高性价比的算力解决方案:

(1)昆仑芯超节点,训推性能跨越式提升:通过硬件架构创新,昆仑芯超节点突破传统单机8卡产品形态,超高密度设计使得单柜可容纳32/64张昆仑芯AI加速卡。单柜内卡间实现全互联通信,带宽提升高达8倍,一个机柜的算力最高可达到传统形态下8台8卡服务器,实现对MoE大模型单节点训练性能5-10倍、单卡推理效率13倍的大幅提升。

(2)百舸GPU算力平台,极致的训推加速优化:百舸平台通过在各个层面的优化,在各种维度的指标上做到了业界领先水平。在万卡任务上,百舸平台可以保障有效训练时长占比达到99.5%。在推理加速的极致优化上,百舸平台基于大规模PD分离式推理系统以及多专家并行机制,支撑千帆平台为40万客户提供服务。上线以来,千帆的推理吞吐提升了20倍,推理速度提升了50%以上。

这一独特的技术优势也助力百度智能云成功突破头部科技企业及中腰部客户市场,推动GenAI IaaS业务实现跨越式增长。

响应市场变革,引领“训推拐点”

随着DeepSeek等开源模型引爆企业级推理需求,2025年AI算力正从训练主导转向推理驱动。百度智能云也已完成率先布局:

(1)在算力层面,目前百度智能云成功点亮了昆仑芯P800三万卡集群,也基于百舸GPU算力平台适配了国产化P800芯片,来提供整个模型推理服务,为DeepSeek等开源模型提供优质且适配性强的环境,使模型发挥出更高的性能。以DeepSeek R1满血版为例,百舸+昆仑芯的方案,对推理吞吐和时延等关键指标做了优化,单卡吞吐性能相比国内主流芯片方案可以高出90%;在大规模高并发场景下,模型推理速度可以提升40%以上。

(2)在平台层面,针对DeepSeek等开源模型进行了极致的性能优化,比如通过高效的PD分离式推理架构,实现模型吞吐的大幅度提升,进而显著降低模型推理成本。同时,针对有进一步应用需求的企业,千帆大模型平台提供基于模型开发工具链进行一键部署、蒸馏这样的能力,能让企业客户更好的将模型用起来,完成特定模型需求的再开发,带来增益赋能。

(3)在应用层面,百度智能云也推出了“精选行业场景智能体家族”,包括营销供电方案智能体、公路应急指挥智能体、座舱大模型智能体、智慧就医智能体、生态环境监测智能体等,积极探索大模型在智能问数、公文写作、理财助手、合规管理、医疗辅诊等行业垂直业务场景中的能力拓展与应用进化。

智算未来,生态共赢

智算基础设施服务市场增长超预期,GenAI IaaS市场已突破百亿规模且预计2029年将突破千亿规模。现阶段来看,规模化不再成为模型性能提升的唯一出路,硬件迭代改进,底层算法调优,强化学习优化等技术突破也与算力扩张协同驱动模型发展,百度智能云也将持续推进GPU云战略,实现国产芯片与智算基础设施平台协同发展,为人工智能产业提供高效算力支撑。