Agent时代：AI基础设施的新挑战

随着人工智能的快速发展，AI Agent（智能体）的应用正在从实验室走向大规模产业落地。与传统的单一模型推理不同，Agent的任务复杂性和运行规模对基础设施提出了全新的要求。浪潮信息在2026年开放计算大会上，针对这一趋势发布了CPU原生液冷整机柜和多模融合超节点，试图解决“量”和“智”两方面的核心挑战。

从大模型到智能体：基础设施需求的转变

过去，大模型的推理工作主要依赖GPU完成一次输入和输出的计算任务。但在Agent时代，这种一次性任务处理模式已经不能满足需求。一个典型的Agent应用需要完成以下步骤：

1. 任务拆解：将一个复杂任务分解为多个子任务。
2. 工具调用：根据任务需求调用外部工具或服务。
3. 多轮协作：与其他Agent协同工作，动态调整任务执行策略。
4. 持续运行：长时间在线，实时响应外部请求。

这种复杂的运行逻辑需要大量的计算资源，尤其是对CPU提出了更高的要求。因为任务拆解、逻辑推理和多轮对话等操作更依赖CPU的整型计算性能，而不仅仅是GPU的浮点计算能力。此外，Agent需要大规模并行运行，这对算力的扩展性和稳定性也提出了前所未有的挑战。

据行业预测，2025年中国AI Agent市场规模将达到190亿元，年均复合增长率超过110%。到2026年，40%的企业应用将集成任务型AI Agent。这说明，Agent的落地不再是一个“是否可能”的问题，而是“如何高效实现”的问题。

让Agent“多且稳”：单柜运行4万个智能体

为应对Agent的规模化运行需求，浪潮信息推出了一款CPU原生液冷整机柜，号称可以单柜支持4万+个智能体同时运行。相比之前的2U服务器单台部署1000个Agent的方案，这次的新产品让Agent密度直接提升了40倍。

关键技术突破：OCM架构与原生液冷

1. OCM架构：这是一种开放计算模组架构，可以兼容不同代际和不同架构的处理器（如x86和ARM）。与传统架构相比，OCM架构不需要为每一代新芯片重新设计硬件系统，大大缩短了研发周期。

2. 原生液冷散热：高密度CPU部署带来的最大难题是散热。传统的风冷方式已经无法满足300千瓦以上功率密度的散热需求。浪潮信息采用原生液冷设计，将CPU、内存、网卡、光模块等所有发热部件统一纳入液冷散热体系。通过计算与散热协同设计，液冷冷板能够直接覆盖所有发热部件，避免了传统风液混合方案中局部散热不均的问题。

3. 空间优化：为了在单机柜内塞入384颗CPU，浪潮信息将算力单元设计为2U超薄形态，同时优化内存和IO布局，将原本由风扇和线缆占用的空间完全释放给计算资源。这种设计提高了机柜的空间利用率，使得高密度部署成为现实。

让Agent“更聪明”：多模型协作的超节点方案

仅仅拥有大量Agent还不足以满足复杂任务的需求。不同模型擅长的领域各不相同，例如，有的模型在逻辑推理上表现出色，有的模型则擅长生成自然语言。在实际应用中，单一模型往往难以胜任多样化任务。因此，多模型协作成为提升Agent智能水平的重要方向。

浪潮信息的多模融合超节点正是为了解决这一问题而设计的。这一产品通过底层硬件资源的动态分配和调度，实现了多个模型之间的高效协作。具体来说：

• 任务分工：根据任务需求，智能调度不同模型参与计算，提高整体效率。
• 模型互补：让擅长不同领域的模型彼此弥补短板，协同完成复杂任务。
• 资源共享：通过统一的算力池管理，将CPU、GPU等硬件资源灵活分配给不同任务，避免资源浪费。

这一切的实现依赖于底层基础设施的支持。在多模融合超节点中，硬件系统以模块化设计为核心，能够灵活适配各种模型和任务场景。

影响与展望

浪潮信息的创新产品不仅为AI基础设施的未来指明了方向，也揭示了Agent时代的技术演变路径。从单一模型推理到智能体的规模化运行，再到多模型协作，AI的应用场景正变得越来越复杂。与此同时，底层算力基础设施的重要性也在不断提升。

在未来几年，以下趋势值得关注：

• 液冷技术的普及：随着功率密度的不断攀升，液冷方案将成为高性能计算领域的标配。
• CPU与GPU的协同发展：AI基础设施将从以GPU为中心的单一模式，走向CPU、GPU和其他加速器协同发展的多元化模式。
• 智能体生态的崛起：Agent将成为企业应用的重要组成部分，其生态系统的完善将进一步推动AI技术的落地。

浪潮的尝试为行业提供了宝贵的经验，也为其他厂商树立了标杆。未来，随着技术的不断进步，AI基础设施将在更高的维度上推动人工智能的发展。

标签： 人工智能 AI基础设施 智能体 浪潮信息