作家 | 三北剪辑 | 漠影

AI上市公司深圳云天励飞，最近在算力产物及就业业务板块完成诸多大额订单。

领先是11月5日，云天励飞晓示已完成近16亿元的AI大单的录用责任，为北京德元方惠科技开发有限包袱公司（简称“德元方惠”）提供AI老师及推理算力就业。同期，第一批算力就业（对应协议中约60%的算力界限）的验收关系责任已完成，上线日历为2024年10月1日。

▲云天励飞最新公告部分截取

而就在不久前的9月，云天励飞刚中标了约1.3亿元的“天府智算中心（一期）格式拓荒采购及监理就业采购格式”，连下两城。

自旧年以来，大模子催生了巨额老师及推理算力需求，天下各路云预见大厂、就业器厂商、AI企业以及一些跨界玩家纷繁启动参加智算行业。

手脚一家作念AI算法起家的企业，云天励飞拿下这些项贪图背后，有什么样的期间和交易逻辑？这又能为AI企业同业带来什么样的启示？

通过对话云天励飞副CFO兼成本中心总司理陈腾宇，本文对此进行了深刻探讨。

自2023年大模子爆火以来，催生了巨额老师及推理算力需求。

大模子朝超大参数界限发展，OpenAI建议的百万卡的智算集群念念路还是被考据，推动智算中心如星罗云布般浮现。凭据工信部最新数据，摒弃2024年上半年，国内还是竖立和正在竖立的智算中心进步250个。2024年上半年智算中心招投标关系事件791起，同比增长高达407.1%。

提早预判到这么的趋势，云天励飞于2023岁首涉足异构算力领域，这是国内AI企业最早布局智算的次第之一。陈腾宇向智东西谈及那时的机会：短期来看，云天励飞在研发进程中有巨额的期间千里淀不错撑握异构算力集群的高后果运行，而其盈利智商亦较为可不雅；另一方面，老师背后的推理需求是更大的蓝海，将给云天励飞自研推理芯片提供宏大的应用场景。

经营一年多，时候来到2024年7月，云天励飞与德元方惠一举签下16亿元的AI大单，在产业里一战成名。

按照合约，云天励飞将为后者提供智能算力更正及AI大模子开发就业平台配套就业，算力总界限约4000PFLOPS，用于大模子老师及推理。

格式界限之大、业务之聚焦，许多业内东谈主士酷好，云天励飞能治理这个格式吗？

陈腾宇告诉智东西，刻下这一格式已全面完成录用，并参加调试及验收阶段。同期，格式交易化也不成问题，凭据云天励飞官方公告，这一格式异日三年展望每年为公司新增营收约5亿元，三年累计产生利润5.39亿元。

本年9月，云天励飞紧接着再下一城，中标了约1.3亿元的天府智算中心格式。

据悉，该格式刻下也还是参加录用进程，展望进一步为云天励飞的事迹带来直袭取益。

大格式纷繁录用，艳丽着云天励飞异构算力业务步入正轨，成为一条新的增长弧线。

不错看到，比拟国内其他AI领域同业，云天励飞是在该领域跑得较快的AI企业。究其原因，领先如故因为公司较快地看到并收拢了这波AI机遇。

但提早布局AI算力的企业不在少数，为什么云天励飞概况解围？

AI算力混战步地握续已一年多。

自旧年以来，尽管云巨头接踵推出令东谈主眼馋的大模子训推“全家桶”，但执行可用的算力仍是稀缺资源，就业器厂商、AI企业都在布局智算，以致跨界玩家都入局了，竞争好不彊烈。

之是以概况在群雄混战的AI算力阛阓站住脚，陈腾宇合计，云天励飞的中枢竞争力还在于期间储备，主要体刻下算法和芯片两大方面。

1、自研大模子教化千里淀器具，助客户提高算力运用后果

在算法层面，云天励飞于2023年推出了自研千亿级“云天天书”大模子，并在大模子的研发进程中累积了一系列算力调优、提高模子老师后果的期间平台和相应器具。

这些教化及器具都被云天励飞千里淀到产物和就业中，可匡助客户提高模子老师及算力运用后果，以更低成本老师大模子。

具体到集群治理方面，云天励飞智能老师平台及算力更正平台，概况按任务更正到卡，并进行任务治理、任务编排、老师告警、大模子断点续训。

此外，其数据治理（DataHub）支握数据可视化、挖掘、治理等多维治理，在保证数据安全性的基础上收余数据钞票化；此外皮集群治理中的通讯优化、日记集群、监控告警等方面也累积了多个器具链。

具体到软件平台方面，云天励飞推出了智能算法标注平台，为算法老师提供了可靠的底层数据支握，可支握图像和文本自动化标注，据称比拟东谈主工标注后果提高40%傍边。

除此除外，支握大模子负载平衡的部署平台，支握在多个主流硬件平台进行零代码、自动化的模子发布的模子发布平台，提供无缺器具和资源的模子评测平台，全面消除内容审核过滤的智能内容审核平台等，都不错大大提高算法老师后果。

2、算法芯片化，自研大模子芯片提供高效推理就业

在芯片层面，云天励飞基于对AI算法期间特色及行业场景预见需求的意会，通过自界说教导集、处理器架构及器具链的协同联想，收尾算法期间芯片化，构建了神经荟萃处理器平台，不错支握其算力产物及就业。

同期，云天励飞已具备自研的推理卡，依托立异的D2D chiplet架构，可承载大模子应用落地的大界限推理预见。据悉，从2022年启动其就启动针对大模子的Transformer架构作念优化，收尾流片，可见其对阛阓感知的前瞻性。

尽管在软件生态上还存在差距，但与国际高性能算力比拟较，一些国产推理芯片还是在某些专项上占据上风。比如说云天励飞X6000一体机，采选Mesh互联期间，在多卡互联时可收尾有储分享、最大化进展带宽上风，从而提高大模子推理后果，针对70B模子的推理后果已达60 Tokens/s，而针对MoE架构模子，如mistral08*7B，推理后果达到260 Tokens/s。

具体到大模子推理的实务中，许多客户更多温雅的是带宽能不成充分运用起来这个问题。云天励飞在卡间互联、堆叠式联想等多方面的研发储备，使其概况抖擞客户的这一中枢需求。

不错看到，之是以概况拿下近20亿元大单，还因为云天励飞建树了双重护城河：左手算法，右手芯片，使其在群雄混战的AI算力阛阓杀出一条血路。

纵不雅算力产业，动辄一个项贪图金额达数亿以致数十亿元，周期长、工程量大、后续运营就业需求高。

针对这么的业务特征，陈腾宇告诉智东西，关于大客户来说，他们在弃取算力就业提供商时，领先如故要讨论这家公司是否靠谱。主要试验的方面除了期间储备，还包括行业教化、供应链和录用智商、运营相识性及资金实力等一系列轮廓智商。

而跟着百模大战赓续鼓动，集群运营濒临的最大挑战还在于举座的运营智商，以及跟着阛阓趋势变化，通过软硬件协同迭代，禁止抖擞客户的新需求。

谈及云天励飞在这些“软实力”方面的储备，陈腾宇谈谈，云天励飞还是搭建智商板块较为皆全的业务团队，包含期间研发、运营及销售、期间运维及录用等东谈主员，保险业务顺利开展、进行。

同期，该业务板块已有界限化落地。凭据云天励飞官方公告，其已落地西南、华南区域三个高性能算力集群，运营算力界限接近5000P。在拿下两个无数大单前，摒弃2024年5月末，公司已搭建异构预见集群算力超800P。

此外，云天励飞还累积了多个行业的客户资源。通过前期业务拓展触达、高卑劣生态搭建等形式，云天励飞累积较多具备大模子老师及推理需求客户，包括AI初创公司、科研院所、互联网企业、自动驾驶企业、运营商等客户资源。

不错看到，恰是这么的团队储备、落地案例及客户资源累积，合营“算法芯片化”计策及期间储备，让云天励飞的异构算力业务稳步发展起来。

关于AI行业来说，云天励飞开辟了一条AI企业在大模子期间的新长进——不啻于算法攻关，而是将算法与算力教化链接布局算力产物和就业，这对AI同业有一定的启迪作用。

回来往日一年多，AI算力在“百模大战”怒潮之中成为竞争焦点；站在刻下看异日，行业已阅历过一波大浪淘沙，凸起重围的玩家如云天励飞，正真枪实剑披挂上阵，构筑AI企业的新价值壁垒。

智算中心正从“建起来”走向“用起来”，也对云天励飞们建议了新挑战。“咱们的智商构建和交易化还是作念得比较好了，下一步咱们会赓续作念深，绑定多个行业龙头，尽可能地挖掘客户需求，同期借用他们的行业教化去迭代我方的推理算力。”陈腾宇说。