当前位置：世界数码科技网 >> 创业资讯 >> 文章正文

云AI推理市场将迎来爆发 绥远科技发布首个推理产品

云AI推理需求将在2022年爆发。继去年底发布首个面向数据中心的AI训练芯片“佳思”和加速卡“云穗T10”之后，绥远科技发布首个面向云的高性能推理卡。

疫情加快了数据中心建设和AI应用的步伐。“传统的数据中心与AI没有直接关系，就是X86 GPU加上一堆存储和数据处理，但是现在越来越多的数据中心引入AI加速平台。AI的普及率会越来越高。我们预计渗透率在5%-25%-30%之间，市场非常巨大。”绥远科技CEO赵立栋在接受CBN专访时说。

12月21日，绥远科技发布了首款面向数据中心的AI推理产品“云穗i10”。公司是腾讯投资的国内AI芯片创业公司。2018年8月，绥远科技在腾讯的带领下获得3.4亿元人民币的预A轮融资。今年5月，绥远科技宣布完成7亿元人民币的B轮融资，由半导体产业基金吴月峰资本牵头，腾讯和上海双创紧随其后。

根据使用场景，AI芯片主要分为云芯片和终端芯片。目前主流的神经网络深度学习包括训练和推理两部分。云追求高性能，开发成本更高，而终端更注重低成本低功耗。目前，中国的AI初创企业主要位于终端和边缘侧。

赵立栋认为，高性能AI计算芯片和数据中心分布式集群作为人工智能行业的基础设施，从架构升级到应用场景，蕴含着巨大的市场空间和机遇。

除了训练端，云端对AI推理的需求也在上升。据CCID Consulting报道，2019年至2021年，中国AI芯片市场规模仍将保持50%以上的增速，到2021年，市场规模将达到305.7亿元。其中，随着大规模本地数据中心建设的完成，云训练芯片的增速有所放缓；随着各领域市场需求的释放，云推理芯片和终端推理芯片市场的增长率将继续呈上升趋势。

数据显示，从2019年到2024年，云训练芯片的复合年增长率为32%，而云推理的增长率将达到69%。到2022年，中国云推理芯片市场将达到189亿元，首次超越云培训市场。

赵立东说，AI真正开始是在这五六年，后来在国内，BAT等大企业在2018年和2019年开始大量采购英伟达V100训练芯片。“训练和推理的关系是，把——训练的模型部署到推理产品上。当模型和算法还不成熟的时候，你需要不断的训练和迭代，等它们成熟了，就可以部署到实际应用的推理中。从2018年到2022年，很多场景的算法和模型在过去的几年里逐渐成熟，并得到了实际的应用。当推理芯片的销售收入超过训练芯片的销售收入时，很多算法和模型得到了广泛的应用。2022年是AI领域的重要节点。”

在生态合作方面，绥远科技张亚林表示：“云穗i10已经完成了与Inspur、新华三、Supermicro等服务器厂商推理服务器的适配。可应用于视频图像、语音、自然语言处理、知识地图等各种应用场景。并针对内容理解、推荐和识别等高精度场景进行了优化。”

据悉，小芸i10是单槽标准卡，支持PCIe 4.0，FP32计算能力为17.6TFLOPS，BF16/FP16为70.4TFLOPS，将于明年一季度上市。与此同时，绥远科技发布了推理机“评价理想推理”。

绥远科技的云培训产品已经实现商用落地。今年9月，绥远科技表示，“云穗T10”及其多卡分布式训练集群已经登陆云数据中心，正式进入商用阶段。腾讯是绥远科技的重要合作伙伴，赵立栋对CBN表示，双方将进一步加强合作的广度和深度。但他指出，“腾讯是我们起步阶段(破冰)的重要合作伙伴，从0到1起步是最难的。腾讯帮了我们很多，是我们第一个具有战略重要性的客户，但绝对不是唯一的。”

据报道，杉川科技有三个目标市场。一种是云服务提供商，包括公有云、私有云、混合云等。这些企业流量大，数据量大，需要训练算法来加速AI相关应用；二是重点关注金融、保险、医疗、交通等领域的行业服务商；第三，AI超级计算中心和智慧城市。

第一财经广告合作，请点击这里

本内容由第一财经原创，版权归第一财经所有。未经CBN书面授权，不得以任何方式使用，包括转载、提取、复制或创建镜像。第一财经保留追究侵权人法律责任的权利。如需授权，请联系第一财经版权局：021-22002972或021-22002335；banquan@yicai.com .

文章作者