云天励飞发布AI推理芯片蓝图，算力优化新趋势
云天励飞发布未来算力蓝图：专用芯片与超节点，瞄准“百亿Token一分钱”
7月18日，在2026年世界人工智能大会（WAIC）上，云天励飞公布了未来两年的AI推理芯片路线图。这家公司计划推出三款专用芯片——DeepVerse100P、DeepVerse100D和DeepVerse100L，分别针对AI推理过程中的不同阶段进行优化。这一蓝图不仅展现了专用芯片如何提高推理效率，也揭示了AI推理算力优化正从单芯片性能延伸到集群级协同的新方向。
这篇文章将从云天励飞的技术策略、大模型推理的挑战及芯片设计的创新等多个维度，解析这场技术发布背后的深意。
推理负载的分化与算力优化的新趋势
近年来，随着大模型在对话、知识问答、编程以及实时智能体系统等应用中的广泛落地，AI推理的复杂性正在显著上升。单次任务的上下文长度不断增加，推理链路变得更加复杂，同时对实时性和低延迟的需求也在急剧提升。这种趋势对算力提出了更高要求，而传统的“通用型芯片”方案已经逐渐难以满足这些需求。
当前，大模型推理主要分为以下三个阶段：
- Prefill阶段：处理输入上下文，要求高计算吞吐能力。
- Decode阶段：逐Token生成，强调内存带宽与数据访问效率。
- Decode FFN阶段：计算密集型任务，依赖高效的访存和并行计算能力。
这些阶段对算力的需求特性各不相同，传统的统一算力架构无法高效处理所有任务，资源竞争和瓶颈频发。例如，在共享算力设备上，Prefill阶段可能会抢占Decode阶段的带宽资源，导致系统整体效率下降。因此，推理负载的分化推动了算力优化的精细化需求。
定制化芯片组合：解耦计算瓶颈的关键
云天励飞推出的三款芯片——DeepVerse100P、DeepVerse100D和DeepVerse100L，正是为了解决上述问题。这些芯片各自针对特定推理阶段进行了深度优化，以满足负载分化带来的多样化需求。
DeepVerse100P：Prefill阶段的高效引擎
DeepVerse100P专注于处理长上下文的Prefill任务。它通过优化计算性能来应对复杂的输入处理任务，避免了传统混部架构中Prefill和Decode阶段争抢算力资源的问题。其设计初衷是最大限度提升吞吐能力，确保后续Decode阶段的高效运行。
DeepVerse100D：极致的Decode性能
Decode阶段需要逐Token生成，云天励飞的DeepVerse100D芯片针对这一环节构建了专用的推理引擎。它通过大幅提高内存带宽，并采用光互联技术，将不同计算节点之间的通信延迟降至最低。这种动态光路重构技术能够有效减少通信拥塞和数据传输的延迟，从而大幅提升逐Token生成的稳定性和效率。
DeepVerse100L：Decode FFN的计算加速器
Decode阶段的FFN（前馈网络）环节通常是最耗费计算资源的部分。DeepVerse100L芯片通过采用3D内存架构，显著提升内存带宽，并将芯片间通信的延迟降至最低。这种设计提升了计算与访存的并行效率，使得FFN环节的资源利用率达到新高度。
这三款芯片的协同工作将成为云天励飞构建“推理工厂”的重要基石，目标是实现大规模Token生成的高效低成本。
从单芯片到集群：突破AI推理的系统性能瓶颈
随着大模型推理从单机运行扩展到大规模集群部署，系统整体效率的提升已成为关键挑战。在这种背景下，仅仅依靠提升单颗芯片的性能已经远远不够，必须将优化扩展到集群级别。云天励飞的解决方案是构建异构算力集群，对推理过程中涉及的计算、访存和通信进行全方位设计。
万卡异构集群的协同优化
云天励飞的三款芯片并非孤立运行，而是以“万卡异构集群”的形式协同部署。通过对Prefill、Decode和Decode FFN阶段分别配置专用芯片，这种分离式架构可以避免不同任务之间的资源争抢，从而提升整体系统的稳定性和效率。此外，芯片间使用高速互联技术实现低延迟通信，使得系统能够在大规模集群中保持高效的任务调度和资源利用。
面向“百亿Token一分钱”的野心
云天励飞规划的“百亿Token一分钱”目标，并不仅仅是一个技术口号，而是对AI推理成本和效率极限的追求。通过芯片、互联、软件和系统的全面优化，公司希望将AI推理成本降至一个全新的低点，为普及AI应用铺平道路。
影响与展望
云天励飞在WAIC 2026上发布的算力蓝图，展现了AI推理领域的一种全新思考方式：不再以单一芯片性能为核心，而是从系统整体出发，通过精细化的算力分配和异构设计提升效率。这种方法不仅使AI推理的成本和效能取得了突破，也为未来AI技术的规模化应用提供了可能。
技术驱动AI普及
通过聚焦“百亿Token一分钱”的目标，云天励飞的芯片路线图有望显著降低大模型的推理成本，为教育、医疗、物流等行业带来更多普惠AI应用。如果这一目标得以实现，人们将能够以更低的成本享受到更智能、更个性化的AI服务。
推动AI芯片行业进入精细化时代
云天励飞的方案打破了传统“通用算力”的单一思路，为AI芯片行业提供了一条新路径。未来，随着AI技术的应用场景更加多样化，预计将有更多企业加入专用芯片和异构算力的研发热潮，加速AI技术的成熟和落地。
算力与生态的双重挑战
然而，这一蓝图的落地也面临诸多挑战。首先，构建和管理万卡级异构集群对硬件和软件的协同提出了极高的要求。此外，大规模推理集群的部署和运营成本也可能成为限制其广泛采用的因素。因此，未来的发展还需在技术创新与成本可控之间寻找平衡。
云天励飞的未来算力蓝图表明，AI推理正在从“更强大的硬件”向“更智慧的系统”进化。这不仅是一场技术的进步，更是推动AI进入下一个发展阶段的关键一步。
标签： AI芯片 大模型推理 算力优化 人工智能 WAIC
