英博数科宋琛:AI基础设施竞争正在从建算力转向运营算力

2026年05月27日 14:18
本文共计1786个字,预计阅读时长6分钟。
来源/资讯中国 责编/爱力方

大模型进入业务系统后,企业对AI基础设施的要求正在发生变化。

过去,行业更关注GPU数量、集群规模和训练能力;现在,客户的问题变得更具体:一次调用成本能不能降下来,高峰期能不能稳定响应,不同部门的算力资源如何分配,业务增长后能不能快速扩容。

在36氪2026 AI Partner大会上,英博数科副总经理宋琛以“从算力到价值:AI时代的基础设施重构与产业增长新引擎”为主题发表演讲。她认为,大模型产业从技术验证走向规模化应用后,算力的价值不再只看规模,更要看能否持续转化为稳定、可控、可计量的业务结果。

AI应用落地后,算力变成一笔运营账

当AI还停留在演示、测试和单点试用阶段,基础设施的重点是先把资源建起来。但进入真实业务系统后,算力面对的是更复杂的使用场景。

一个企业内部,可能同时运行办公助手、智能客服、代码生成、内容生产、知识库问答、视频生成等多类应用。不同应用对延迟、并发、稳定性和成本的要求并不一样。单纯拥有GPU,并不等于具备可持续的AI服务能力。

对客户来说,真正重要的是算力能否按需调用、稳定运行、算清成本,并跟上业务增长节奏。

推理需求上升,建设逻辑随之变化

过去几年,大模型基础设施更多围绕训练任务建设。训练强调大规模并行、高带宽互联和高吞吐能力,核心目标是支撑更大的模型和更高的训练效率。

但随着AI应用进入业务流程,推理需求开始快速增长。相比训练,推理更高频、更实时、更分散,也更难预测。尤其在Agent、多模态和长上下文场景中,一次任务可能包含任务拆解、多轮推理、工具调用、上下文读取、结果校验和内容生成,资源消耗不再是简单线性增长。

Token也因此成为衡量基础设施效率的重要参照。它不只是模型调用的技术单位,背后连接着芯片、电力、网络、存储、调度和运维等多环节成本。“单Token成本”反映的不只是模型服务价格,也能体现集群规划、调度效率和平台运营水平。

智算中心能力边界正在被重塑

推理需求和成本压力上升后,智算中心不能只停留在资源供给层面。

过去,智算中心更像资源池,重点是有卡、有网络、有存储,能够承载训练任务。现在,它需要同时支撑模型训练、高并发推理、多业务混合调用、多租户隔离和精细化成本管理。

资源如何规划,决定集群能否稳定运行;任务如何调度,决定训练和推理能否协同;成本如何核算,决定多部门、多组织能否长期使用;安全如何隔离,则决定平台能否面向更多客户开放服务。

AI基础设施的核心能力,正在从“建起来”延伸到“用得好”。

英博数科:打通资源、平台与工程交付

围绕智算基础设施建设,英博数科已经形成覆盖资源整合、平台调度、系统架构和工程交付的完整能力体系。

在资源侧,英博数科具备大规模GPU算力资源整合与集群建设能力,可面向大模型研发、科研计算和企业AI应用提供稳定算力供给。针对多节点分布式部署场景,公司通过高速网络通信、弹性扩展架构和高可用运行策略,保障高强度计算任务的持续稳定运行。

在平台侧,英博数科建设智算容器云平台,对算力资源进行统一调度与管理,为模型训练、推理服务和科研计算提供系统级支撑。通过平台化能力,客户可以更高效地完成资源调用、任务管理和业务协同,降低复杂算力环境下的使用门槛。

在工程交付侧,英博数科建立了标准化部署流程和运维体系,覆盖算力系统建设、调优、监控和后续运维,保障智算中心从上线交付到长期运行的连续性。

这套能力并不只对应单一建设环节,而是贯穿智算中心从资源接入、平台调度到持续运维的完整链路。对于客户而言,其价值不只是获得算力资源,更在于让算力能够在真实业务场景中稳定释放、持续产出。

基础设施竞争回到长期运营能力

对AI基础设施公司来说,卡数和集群规模仍然重要,但已经不再是唯一标准。

当大模型进入真实业务系统,客户更关心的是算力能否稳定交付、资源能否高效调度、成本能否清晰核算、系统能否随着业务增长持续扩展。基础设施的价值,也会越来越体现在长期运营能力上。

对于英博数科而言,这也是其持续投入全栈智算基础设施的核心方向:通过资源、平台、技术和运营能力的结合,帮助客户把算力从基础资源转化为可持续释放的业务价值。

随着AI应用进入更大规模的落地阶段,真正决定基础设施竞争力的,或许不再只是“拥有多少算力”,而是“能否让每一份算力更高效地服务业务”。

来源:英博数科宋琛:AI基础设施竞争,正在从“建算力”转向“运营算力”-资讯中国 | 资讯中国

声明:本文来自资讯中国,版权归作者所有。文章内容仅代表作者独立观点,不代表A³·爱力方立场,转载目的在于传递更多信息。如有侵权,请联系 copyright#agent.ren。

相关图文

热门资讯

推荐专栏

爱力方

爱力方

机器人前沿资讯及信息解读
机器人大讲堂

机器人大讲堂

中国顶尖的机器人专业媒体服务平台
关注爱力方,掌握前沿具身智能动态

© 2025 A³·爱力方

https://www.agentren.cn/