当前位置：世界数码科技网 >> 互联网 >> 文章正文

AI如何突破内存带宽瓶颈？Rambus技术专家详细讲解IP产品策略

芯东西（公众号：aichip001）

作者 | 温淑

编辑 | 心缘

12月9日，据报道，今天上午，美国IP设计师、芯片供应商Rambus召开了2020中国在线技术峰会，这是Rambus首次为中国市场召开技术峰会。

Rambus大中华区总经理、高级应用工程师曹、高级现场工程师张艳分享了Rambus在安全IP和接口IP方面的最新产品进展，阐述了内存和系统接口对于下一代AI/ML硬件的重要作用。

在安全IP方面,Rambus目前提供两类产品，可以满足从轻型物联网到高端车的应用场景需求；接口IP方面，的rambus采用TSMC 7nm工艺的HBM2E内存接口解决方案，可实现4 Gbps的性能，其GDDR6解决方案可提供高达18 Gbit/s/pin。

成立于20世纪90年代，Rambus不断开发现代SoC和计算系统的关键基础技术，包括高速物理和数字控制器接口IP核、安全IP核等。

一、安全IP:保护半导体产业链全过程安全

如今，许多半导体企业专注于在单个产业链中发展业务，如芯片知识产权、设计、代工、封装等。产业链中的各个环节都有一定程度的分离。

因此，对于某个产业链中的某些参与者来说，他们的上游产品是由第三方供应商提供的，这可能会给产品带来不可控制的安全隐患。

因此，Rambus资深现场工程师张炎认为，为了保护整个半导体生命周期的安全，需要从芯片架构阶段考虑芯片安全问题。

目前，Rambus已推出两大类安全IP，分别为Vaultlp IP（安全服务密钥管理IP）和CryptoManager Root of Trust IP（系统安全管理IP）。

其中，Vaultlp IP适用于IoT、工业、网关等轻量应用场景具有安全指导和安全管理职能。

CryptoManager Root of Trust IP面向更高端的使用场景，致力于为云端、AI/ML、车载、国防等场景打造安全环境。

Rambus硬件信任根产品

芯片落地后，在两个设备或服务器之间传输的数据称为“流动数据”。由于传输介质位于公共区域，这部分“流动数据”可能会在多个位置受到攻击。

面对这一隐患，有必要利用安全通信协议建立加密传输通道。目前Rambus可以提供Rambus MACsec等多种安全通信协议产品。

据张艳介绍，MACsec是二层网络的安全标准，在PHY已经广泛部署了交换机、防火墙、网关、网卡和5G设备。

Rambus MACsec产品解决方案包括单端口IP、多通道(时分复用)MACses引擎等。还提供MAC sec toolkit IEEE 802.1X(EAP MKA)，其中包括开发所需软件的数据平面工具。

此外，Rambus还提供非MACsec多通道半导体IP，可支持1Tpbs以上的AES-GCM加解密。

张炎还分享了他对保护半导体行业基础设施安全的看法。他认为，为了保护半导体行业的基础设施安全，需要从芯片/设备安全、供应链安全、生命周期安全三方面入手，对应芯片设计、生产和应用的每个过程。

1、保护芯片/设备的安全：打造硬件信任根

随着复杂性的增加，芯片安全漏洞成倍增加。以CPU为例。目前人们向CPU引入了乱序执行、多线程执行等多种功能。随着CPU功能的增加，出现了越来越多的安全隐患，如Metaldown、Specre等攻击。

因此，真正与安全相关的敏感代码不应该设计在主中央处理器上，而应该运行在专门为安全设计的区域，这一区域被称为信任根（root of trust）.

在硬件实现中，信任的根不仅要保证芯片的硬件安全，还要保证算法在遇到恶意攻击时仍然可信。

信任根有多种密码算法，可以安全地存储密钥，并作为上层软件所需的信任链的基础。

在大多数情况下，信任的根是基于硬件不可修改的特性而设计的。可以说是信任根是SoC和上层应用构建安全的基石,

比如IP设计者可以在IP上提供多个信任根支持、安全调试等安全功能。

需要指出的是，在很多情况下，一些信任根只能在一定的攻击手段下提供保护，而不能针对更多种类和更高层次的攻击提供保护。

在选择信任根时，要根据芯片最终使用场景、要考虑的威胁模型、设备安全/性价比排名等因素进行综合考虑和评估。

2、保护供应链生命周期安全：部署设备密钥，提供密钥管理服务

张艳说，为保证芯片生产流程的安需要引入安全认证这个环节，这个环节是通过自动安全密钥/ID/数据注入来实现的。在这种解决方案中，系统可以在可信或不可信的环境中完成自动写入，无需人工干预。

在为保护芯片生命周期安全,有必要为生产过程中的设备唯一标识(ID)建立一个安全部署计划；在运营过程中，该方案需要具备基于云服务的设备认证、功能管理和设备安全退役等功能。

二、接口IP:带宽已经成为解锁更高AI和ML性能的关键

近年来，随着数据规模的指数级增长，各种AI/ML应用应运而生，并且出现了许多为AI/ML任务设计的专用处理器。

兰布斯大中华区总经理雷速表示，兰布斯对谷歌TPU v1、英伟达K80和英特尔哈斯威尔的表现进行了评估。运行各种算法的结果表明，三个处理器的性能受到内存带宽的限制。

Rambus高级应用工程师曹表示，在带宽成为AI系统性能瓶颈的背景下，HBM2E和GDDR6技术成为两种流行的带宽解决方案。最初是在图形市场开发HBM2E和GDDR6，但在AI训练和推理应用方面也显示出优势。

HBM2E可以提供高达3686 Gbps的带宽。与HBM2E解决方案相比，GDDR6提供的带宽更低(512 Gbps)，但具有成本优势。

曹讲解了Rambus HBM2E和GDDR6解决方案的性能特点。

1、HBM2E解决方案可提供4 Gbps性能

今年10月15日，朗伯斯宣布，在台积电的7nm制程上，其HBM2E内存接口方案可达到4 Gbps性能。

SK Hynix的HBM2E动态随机存取存储器运行在3.6 Gbps，解决方案是可为单个HAM2E设备提供460 GB/s的带宽，满足TB级带宽需求。

4 Gbps速度的7纳米HBM2E产品集成了完整的硬核PHY(包括输入输出和去盖)和控制器，可以降低客户的集成难度。

此外，该解决方案还提供系统级设计支持，包括内部电路板和封装参考设计。

去年，Rambus宣布绥远科技选择Rambus HBM2 PHY和内存控制器IP作为其下一代AI训练芯片。

曹表示，到目前为止，Rambus已经为50多家客户提供了带宽解决方案，其GF12LP节点的HBM2E解决方案速率可达3.2 Gbps，目前处于量产前期阶段。同时，Rambus正在12LP工艺节点上开发HBM2E解决方案。

2、GDDR6解决方案可提供高达18 Gbit/s/pin速率

曹，某表示，目前这是GDDR6解决方案在业内能提供的最大费率。

带宽方面，Rambus GDDR6解决方案可提供高达576 Gbps的带宽；总线速度方面，Rambus GDDR6解决方案可以达到12、14、16或18 Gbps；此外，该解决方案支持8、12和16千兆位动态随机存取存储器。

此外，Rambus GDDR6解决方案还提供了经过验证的PHY和内存控制器。用户不需要花时间调试，Rambus可以提供100多个测试序列。

结论：AI芯片ip面临两大需求：高安全性/高带宽

随着技术的发展，AI已经走出实验室，成为推动成千上万行业智能化转型的大引擎，芯片是实现AI应用的重要基础硬件设施。市场研究机构德勤(Deloitte)预计，2020年全球人工智能市场规模将达到6800亿元人民币，复合增长率为26%。

在这个过程中，AI应用对产业链上游环节的芯片ip提出了新的安全和带宽要求。据此，Rambus推出了HBM2E和GDDR6等两种类型的安全IP和接口IP解决方案。

此外，我们了解到，除了HBM2E和GDDR6产品之外，Rambus还提供DDR4和PCIe带宽解决方案。据我们所知，兰布斯目前为50多个客户提供PCIe解决方案。

未来，AI、5G等什么新技术会为芯片ip行业孕育？以Rambus为代表的产业链玩家会想出什么解决方案？我们会继续关注。