云天励飞：已完成天府智算中心交付并已确认相关收入

  【天极网IT新闻频道】近日,云天励飞在业绩说明会上宣布,公司已完成天府智算中心的交付,并在2024年第四季度确认相关收入。今年4月,云天励飞也发布公告,完成了向德元方惠交付AI训练及推理算力服务及对应的交付物,并已完成剩余算力服务的验收相关工作。算力运营是云天励飞的重要业务板块之一。根据云天励飞官方公告,公司已落地西南、华南区域三个高性能算力集群,运营算力规模接近5000P。

  云天励飞业务分为三大板块——企业级、消费级、行业级。公司企业级服务业务涵盖落地大规模异构高性能算力集群为客户提供AI训练及推理算力服务,包括智能算力调度及AI大模型开发配套服务,智算业务是云天励飞企业级业务的关键组成部分。根据云天励飞2024年年报,公司营业收入达9.17亿元,同步增长81.3%,主要系企业级和消费级场景业务的销售收入增加所致。从分行业营收上来看,云天励飞企业级场景业务营收同比增长699.08%。

  能够快速成为算力运营业务中的佼佼者,离不开 云天励飞的底层技术实力。

  云天励飞在自研大模型“云天天书”的过程中,积累了一系列算力调优、提升模型训练效率的技术平台和相应工具,公司将上述技术沉淀运用在AI算力服务中,可帮助客户提升模型训练及算力利用效率。

  同时,云天励飞还有自研AI推理芯片。在超大规模异构高性能算力集群中,可将自研推理卡与高性能训练算力相结合,为自研推理卡落地打开场景触角,搭建生态,为行业带来更丰富的算力服务。

  在智算服务市场中,算力需求正在从以“超大规模参数”的大模型训练为主,逐步转向面向AI应用的推理计算优化。推理算力需求的快速攀升对企业提出了更高要求,既需要强大的硬件支持,也需要针对应用场景的深度优化。云天励飞凭借自主研发的AI推理芯片,在这一领域建立了明显的技术优势。

  公司推出的DeepEdge10芯片采用了创新的“算力积木”架构设计,通过支持多芯粒扩展的Chiplet技术以及C2CMeshTorus互连技术,能够将多个DeepEdge10标准计算单元灵活组合。这种设计不仅可以封装成不同算力的芯片,还能实现多芯片互连的可扩展计算系统,覆盖从8T到256T的算力需求,支持7B、14B、130B、671B等不同参数量的大模型推理任务。

  2024年公司推出全新大模型推理加速卡IPU-X6000,该加速卡内置全国产工艺的大算力芯片DeepEdge200,采用D2DChiplet技术,专门针对大模型推理任务设计,研发了符合大模型演进趋势的统一工具链,包括分布式并行策略、基于硬件的流水线排布、先进的量化策略、多机并行的编译机制等,在同等条件下能够做到推理性能更高、消耗成本更低,IPU-X6000加速卡已适配了包括云天天书、DeepSeek、通义千问、百川智能以及Llama2/3等在内的主流大模型。

  据悉,云天励飞已积累了多个行业的客户资源。通过前期业务拓展触达、上下游生态搭建等方式,云天励飞积累较多具备大模型训练及推理需求客户,包括AI初创公司、科研院所、互联网企业、自动驾驶企业、运营商等客户资源。