All Node List by Editor

加速符合 O-RAN 标准的 5G 和 4G 网络的部署

是德科技公司（NYSE：KEYS）携手欧洲著名通信技术公司意大利电信（TIM）和移动无线连接解决方案全球创新企业 JMA Wireless，在 2021 世界移动通信大会（MWC 21）上展示了最新的开放式无线接入网（O-RAN）技术。是德科技提供先进的设计和验证解决方案，旨在加速创新，创造一个安全互联的世界。

这三家公司都在以 O-RAN 联盟定义的开放接口为基础，全力研发无线接入网（RAN）技术，旨在推动符合 O-RAN 标准的 5G 和 4G 网络加速投入部署。TIM 和 JMA 使用 Keysight Open RAN Architect（KORA）解决方案来验证 O-RAN 子系统的一致性、互操作性和性能，为创造新 5G 业务商机开路。

是德科技副总裁兼网络基础设施事业部总经理 Giampaolo Tardioli 表示：“我们非常高兴能够为 TIM 和 JMA Wireless 提供解决方案，有力支持 O-RAN 厂商验证每个网元能否在多厂商网络中发挥预期性能。”

在 MWC 21 上，TIM 采用了是德科技的 RuSIM 来仿真 O-RAN 无线单元（O-RU），并验证了 JMA Wireless 所提供的分布式单元（O-DU）和中央单元（O-CU）组合的功能、性能和一致性。RuSIM 不仅支持 4G LTE 网络，还支持 5G 新空口（NR）网络，因此用户能够使用它来验证是否可以通过同一 O-RAN 前传接口提供多技术蜂窝业务。

JMA 意大利公司董事总经理兼国际销售部负责人 Remo Ricci 表示：“我们很高兴与 TIM 和是德科技并肩合作，在 MWC21 上演示O-RAN 解决方案。得益于O-RAN 体系结构，移动运营商能够突破以往部署的传统技术的局限，为每一个网元自由选择心仪的供应商。”

是德科技的 RuSIM 允许用户仿真流经 O-RAN 前传接口的真实网络流量，以验证 RAN 的端到端性能。该产品属于是德科技无线接入网（RAN）、5G 核心网（5GC）和 5G NR测试解决方案组合的一员，该组合覆盖从 RAN 边缘到网络核心的整个应用领域。

是德科技的 Open RAN Architect 采用全面、可重复、自动化的测试流程，赋能移动运营商、开放测试与集成中心（OTIC）以及芯片设计和网络基础设施厂商加快开发、集成和部署 O-RAN 设备。用户能够获得一系列通用解决方案，在从流片前验证到云部署中的整个工作流程中轻松共享工作成果。

关于是德科技

是德科技（NYSE：KEYS）是一家领先的技术公司，致力于帮助企业、服务提供商和政府客户加速创新，创造一个安全互联的世界。从设计仿真、原型验证、生产测试到网络和云环境的优化，是德科技提供了全方位的测试与分析解决方案，帮助客户深入优化网络，进而将其电子产品以更低的成本、更快地推向市场。我们的客户遍及全球通信生态系统、航空航天与国防、汽车、能源、半导体和通用电子终端市场。2020 财年，是德科技收入达 42 亿美元。更多信息，请访问 www.keysight.com。

随着全球各国政府着力于投资重点国家基础设施以实现制造、运输和医疗保健的现代化，他们正寻求加速5G网络升级的方法。康普所推出的HELIAX® SkyBlox™可满足这一需求，助力网络运营商以强劲的势头构建可靠的移动网络。

重量仅为一公斤的HELIAX SkyBlox™有助于最大限度地减少对塔架负载的影响，并将通常安装包括安装盒子至塔架上、配置光纤、固定所有电源线等所需总用时间减少50%以上。

康普室外无线网络高级副总裁Farid Firouzbakht表示：“移动互联对于经济复苏至关重要。网络运营商可以通过选择有助于自身应对挑战和简化安装的技术来加快5G网络的部署。全新的HELIAX SkyBlox在加速部署和减少碳足迹的进程中创下了又一里程碑。”

为基于光纤的5G铺平道路

康普的HELIAX® SkyBlox™面向新建或扩展光纤到天线 (FTTA) 部署，专为精简、简化和支持其最佳网络性能而构建。新系统由100%可回收材料制成，其复合光纤和电源架构，以及塔架部署的重量限制，能够降低向现有基站添加的负载，从而为运营商减轻上市时间延迟的负担。

Mobile Experts创始人兼首席分析师Joe Madden表示：“运营商面临着如何在拥挤的蜂窝塔上同时承载4G和5G设备的严峻挑战。他们正在寻找能够结合模式和频段，且设计简单、结构轻巧的天线系统。在构建面向未来需求的网络战略中，电源和光纤的快速部署将至关重要。”

为进一步简化此类5G部署，康普还推出了HELIAX模块化FTTA解决方案，以在基带和无线电装置之间提供灵活连接。康普HELIAX模块化FTTA解决方案具有可扩展性和可堆叠性，使移动网络运营商使用紧凑机构的带有环境防护护套的单一馈缆，就能快速部署光纤和电源线。不含金属的耐用型电缆束同样由可回收材料制成，有助于减少无源互调 (PIM) 干扰，并减轻塔架重量。

康普最新的HELIAX®创新连接器解决方案还为网络运营商及其天线和OEM合作伙伴提供了一系列全新射频连接解决方?6?7?6?7案，以应对当今复杂而拥挤的5G网络需求。

关于康普：

康普（纳斯达克股票代码：COMM）致力于突破现有的技术界限，打造世界领先的有线和无线通信网络。由员工、创新者和技术人员组成的全球团队始终致力于为世界各地的客户预测未来趋势，塑造网络可能性。了解更多：https://zh.commscope.com/。

专注于引入新品并提供海量库存的电子元器件分销商贸泽电子 (Mouser Electronics) 很高兴地宣布荣获Ohmite Corporation颁发的2020年度渠道合作伙伴奖。Ohmite Corporation是一家知名的大电流、传感、高压和高能应用电阻器供应商，这个奖项是对贸泽出色的Ohmite新品销售业绩的肯定。

Ohmite总裁Greg Pace表示：“我们很高兴将这个奖项授予贸泽，他们在2020年的优异表现让这个奖项实至名归，衷心祝贺贸泽。贸泽对Ohmite新产品的快速引进和推广帮助我们实现了业务增长。感谢贸泽全球团队的辛勤工作以及优质的服务。”

贸泽亚太区市场及商务拓展副总裁田吉平女士表示：“非常感谢我们重要的合作伙伴Ohmite授予我们这一荣誉，这是对我们团队出色表现的高度肯定。期待未来我们能继续深入合作，互助共赢。”

长期以来，贸泽与Ohmite保持着良好的合作关系。作为全球分销商，贸泽连续六年荣获Ohmite颁发的总裁菁英奖，并凭借全球销售增长和合作关系、快速的新产品导入能力、全球支持方面的优异表现，以及为客户和Ohmite提供始终如一的出色服务，摘得年度卓越销售奖。

自1925年以来，Ohmite在功率电阻器产品的设计和制造方面一直保持重要地位，并进一步延伸到大电流、高压、高能和可变电压控制电阻器的生产领域。此外，Ohmite还提供了一个全面的散热器阵容。如需了解更多有关Ohmite产品的信息，敬请访问https://www.mouser.cn/manufacturer/ohmite/。

作为全球授权分销商，贸泽电子库存有丰富的半导体和电子元器件，并积极引入原厂新品，支持随时发货。贸泽旨在为客户供应全面认证的原厂产品，并提供全方位的制造商可追溯性。为帮助客户加速设计，贸泽网站提供了丰富的技术资源库，包括技术资源中心、产品数据手册、供应商特定参考设计、应用笔记、技术设计信息、设计工具以及其他有用的信息。

关于贸泽电子 (Mouser Electronics)

贸泽电子隶属于伯克希尔哈撒韦集团 (Berkshire Hathaway) 公司旗下，是一家授权电子元器件分销商，专门致力于向设计工程师和采购人员提供各产品线制造商的新产品。作为一家全球分销商，我们的网站mouser.cn能够提供多语言和多货币交易支持，分销超过1100家品牌制造商的500多万种产品。我们通过遍布全球的27个客户支持中心，为客户提供无时差的本地化贴心服务，并支持使用当地货币结算。更多信息，敬请访问：http://www.mouser.cn。

模型大小不断增长给现有架构带来了挑战

深度学习对计算能力的需求正以惊人的速度增长，其近年来的发展速度已从每年翻一番缩短到每三个月翻一番。深度神经网络（DNN）模型容量的不断提升，表明从自然语言处理到图像处理的各个领域都得到了改进——深度神经网络是诸如自动驾驶和机器人等实时应用的关键技术。例如，Facebook的研究表明，准确率与模型大小的比率呈线性增长，通过在更大的数据集进行训练，准确率甚至可以得到进一步提高。

目前在许多前沿领域，模型大小的增长速度远快于摩尔定律，用于一些应用的万亿参数模型正在考虑之中。虽然很少有生产系统会达到同样的极端情况，但在这些示例中，参数数量对性能的影响将在实际应用中产生连锁反应。模型大小的增长给实施者带来了挑战。如果不能完全依靠芯片扩展路线图，就需要其他解决方案来满足对模型容量增加部分的需求，而且成本要与部署规模相适应。这种增长要求采用定制化的架构，以最大限度地发挥每个可用晶体管的性能。

图1：模型大小的增长速度（来源：Linley Group）

Parameters (log scale)：参数（对数刻度）

Image-processing models：图像处理模型

Language-processing models：语言处理模型

随着参数数量快速增长，深度学习架构也在快速演进。当深度神经网络继续广泛使用传统卷积、全连接层和池化层的组合时，市场上也出现了其它结构，诸如自然语言处理（NLP）中的自注意力网络。它们仍然需要高速矩阵和面向张量的算法，但是存储访问模式的变化可能会给图形处理器（GPU）和当前现有的加速器带来麻烦。

结构上的变化意味着诸如每秒万亿次操作（TOps）等常用指标的相关性在降低。通常情况下，处理引擎无法达到其峰值TOps分数，因为如果不改变模型的处理方式，存储和数据传输基础设施就无法提供足够的吞吐量。例如，批处理输入样本是一种常见的方法，因为它通常可以提高许多架构上可用的并行性。但是，批处理增加了响应的延迟，这在实时推理应用中通常是不可接受的。

数值灵活性是实现高吞吐量的一种途径

提高推理性能的一种途径是使计算的数值分辨率去适应各个独立层的需求，这也代表了与架构的快速演进相适应。一般来说，与训练所需的精度相比，许多深度学习模型在推理过程中可以接受明显的精度损失和增加的量化误差，而训练通常使用标准或双精度浮点算法进行。这些格式能够在非常宽的动态范围内支持高精度数值。这一特性在训练中很重要，因为训练中常见的反向传播算法需要在每次传递时对许多权重进行细微更改，以确保收敛。

通常来说，浮点运算需要大量的硬件支持才能实现高分辨率数据类型的低延迟处理，它们最初被开发用来支持高性能计算机上的科学应用，完全支持它所需的开销并不是一个主要问题。

许多推理部署都将模型转换为使用定点运算操作，这大大降低了精度。在这些情况下，对准确性的影响通常是最小的。事实上，有些层可以转换为使用极其有限的数值范围，甚至二进制或三进制数值也都是可行的选择。

然而，整数运算并不总是一种有效的解决方案。有些滤波器和数据层就需要高动态范围。为了满足这一要求，整数硬件可能需要以24位或32位字长来处理数据，这将比8位或16位的整数数据类型消耗更多的资源，这些数据类型很容易在典型的单指令多数据（SIMD）加速器中得到支持。

一种折衷方案是使用窄浮点格式，例如适合16位字长的格式。这种选择可以实现更大的并行性，但它并没有克服大多数浮点数据类型固有的性能障碍。问题在于，在每次计算后，浮点格式的两部分都需要进行调整，因为尾数的最高有效位没有显式存储。因此，指数的大小需要通过一系列的逻辑移位操作来调整，以确保隐含的前导“1”始终存在。这种规范化操作的好处是任何单个数值都只有一种表示形式，这对于用户应用程序中的软件兼容性很重要。然而，对于许多信号处理和人工智能推理常规运算来说，这是不必要的。

这些操作的大部分硬件开销都可以通过在每次计算后无需标准化尾数和调整指数来避免。这是块浮点算法所采用的方法，这种数据格式已被用于标准定点数字信号处理（DSP），以提高其在移动设备的音频处理算法、数字用户线路（DSL）调制解调器和雷达系统上的性能。

图2：块浮点计算示例

mantissa：尾数

block exponent：块指数

使用块浮点算法，无需将尾数左对齐。用于一系列计算的数据元素可以共享相同的指数，这一变化简化了执行通道的设计。对占据相似动态范围的数值进行四舍五入造成的精度损失可被降到最小。在设计时就要为每个计算块选择合适的范围。在计算块完成后，退出函数就可以对数值进行四舍五入和标准化处理，以便在需要时将它们用作常规的浮点值。

支持块浮点格式是机器学习处理器（MLP）的功能之一。Achronix的Speedster®7t FPGA器件和Speedcore™ eFPGA架构提供了这种高度灵活的算术逻辑单元。机器学习处理器针对人工智能应用所需的点积和类似矩阵运算进行了优化。相比传统浮点，这些机器学习处理器对块浮点的支持提供了实质性的改进。16位块浮点运算的吞吐量是传统的半精度浮点运算的8倍，使其与8位整数运算的速度一样快，与仅以整数形式的运算相比，有功功耗仅增加了15％。

另一种可能很重要的数据类型是TensorFloat 32（TF32）格式，与标准精度格式相比，该格式的精度有所降低，但保持了较高的动态范围。TF32也缺乏块指数处理的优化吞吐量，但对于一些应用是有用的，在这些应用中，使用TensorFlow和类似环境所创建的模型的易于移植性是很重要的。Speedster7t FPGA中机器学习处理器所具有的高度灵活性使得使用24位浮点模式来处理TF32算法成为可能。此外，机器学习处理器的高度可配置性意味着可以支持一个全新的、块浮点版本的TF32，其中四个样本共享同一个指数。机器学习处理器支持的块浮点TF32，其密度是传统TF32的两倍。

图3：机器学习处理器（MLP）的结构

Wireless：无线

AI/ML：人工智能/机器学习

Input Values：输入值

Input Layer：输入层

Hidden Layer 1：隐藏层1

Hidden Layer 2：隐藏层2

Output Layer：输出层

处理灵活性优化了算法支持

虽然机器学习处理器能够支持多种数据类型，这对于推理应用而言是至关重要的，但只有成为FPGA架构的一部分，它的强大功能才能释放出来。可轻松定义不同互连结构的能力使FPGA从大多数架构中脱颖而出。在FPGA中同时定义互连和算术逻辑的能力简化了构建一种平衡架构的过程。设计人员不仅能够为自定义数据类型构建直接支持，还可以去定义最合适的互连结构，来将数据传入和传出处理引擎。可重编程的特性进一步提供了应对人工智能快速演进的能力。通过修改FPGA的逻辑可以轻松支持自定义层中数据流的变化。

FPGA的一个主要优势是可以轻松地在优化的嵌入式计算引擎和由查找表单元实现的可编程逻辑之间切换功能。一些功能可以很好地映射到嵌入式计算引擎上，例如Speedster7t MLP。又如，较高精度的算法最好分配给机器学习处理器（MLP），因为增加的位宽会导致功能单元的大小呈指数增长，这些功能单元是用来实现诸如高速乘法之类的功能。

较低精度的整数运算通常可以有效地分配给FPGA架构中常见的查找表（LUT）。设计人员可以选择使用简单的位串行乘法器电路来实现高延迟、高并行性的逻辑阵列。或者，他们可以通过构建进位保存和超前进位的加法器等结构来为每个功能分配更多的逻辑，这些结构通常用来实现低延迟的乘法器。通过Speedster7t FPGA器件中独特的LUT配置增强了对高速算法的支持，其中LUT提供了一种实现Booth编码的高效机制，这是一种节省面积的乘法方法。

结果是，对于一个给定的位宽，实现整数乘法器所需的LUT数量可以减半。随着机器学习中的隐私和安全性等问题变得越来越重要，应对措施可能是在模型中部署同态加密形式。这些协议通常涉及非常适合于LUT实现的模式和位域操作，有助于巩固FPGA作为人工智能未来验证技术的地位。

数据传输是吞吐量的关键

为了在机器学习环境中充分利用数值自定义，周围的架构也同样重要。在越来越不规范的图形表示中，能随时在需要的地方和时间传输数据是可编程硬件的一个关键优势。但是，并非所有的FPGA架构都是一样的。

传统FPGA架构的一个问题是，它们是从早期应用演变而来的；但在早期应用中，其主要功能是实现接口和控制电路逻辑。随着时间的推移，由于这些器件为蜂窝移动通信基站制造商提供了一种从愈发昂贵的ASIC中转移出来的方法，FPGA架构结合了DSP模块来处理滤波和信道估计功能。原则上，这些DSP模块都可以处理人工智能功能。但是，这些模块最初设计主要是用于处理一维有限冲激响应（1D FIR）滤波器，这些滤波器使用一个相对简单的通道通过处理单元传输数据，一系列固定系数在该通道中被应用于连续的样本流。

传统的处理器架构对卷积层的支持相对简单，而对其他的则更为复杂。例如，全连接层需要将一层中每个神经元的输出应用到下一层的所有神经元上。其结果是，算术逻辑单元之间的数据流比传统DSP应用中的要复杂得多，并且在吞吐量较高的情况下，会给互连带来更大的压力。

尽管诸如DSP内核之类的处理引擎可以在每个周期中生成一个结果，但FPGA内部的布线限制可能导致无法足够快速地将数据传递给它。通常，对于专为许多传统FPGA设计的、通信系统中常见的1D FIR滤波器来说，拥塞不是问题。每个滤波阶段所产生的结果都可以轻松地传递到下一个阶段。但是，张量操作所需的更高的互连以及机器学习应用较低的数据局部性，使得互连对于任何实现而言都更加重要。

图4：滤波器和人工智能数据流

Memory Cascade Out：存储级联输出

Operand Cascade in：操作数级联

Register File：寄存器文件

Fracturable：可分割

Adder/Accumulator：加法器/累加器

Memory Cascade in：存储级联

机器学习中的数据局部性问题需要注意多层级的互连设计。由于在最有效的模型中参数数量庞大，片外数据存储通常是必需的。关键要求是可以在需要时以低延迟传输数据的机制，并使用靠近处理引擎的高效便笺式存储器，以最有效地利用预取以及其他使用可预测访问模式的策略，来确保数据在合适的时间可用。

在Speedster7t架构中，有以下三项用于数据传输的创新：

• 优化的存储层次结构
• 高效的本地布线技术
• 一个用于片内和片外数据传输的高速二维片上网络（2D NoC）

传统的FPGA通常具有分布在整个逻辑架构上的片上RAM块，这些RAM块被放置在距离处理引擎有一定距离的地方。对于典型的FPGA设计来说，这种选择是一种有效的架构，但在人工智能环境中，它带来了额外的和不必要的布线开销。在Speedster7t架构中，每个机器学习处理器（MLP）都与一个72kb的双端口块RAM（BRAM72k）和一个较小的2kb的双端口逻辑RAM（LRAM2k）相关联，其中LRAM2k可以作为一个紧密耦合的寄存器文件。

可以通过FPGA布线资源分别访问机器学习处理器（MLP）及其相关联的存储器。但是，如果一个存储器正在驱动关联的MLP，则它可以使用直接连接，从而卸载FPGA布线资源并提供高带宽连接。

在人工智能应用中，BRAM可以作为一个存储器，用于存储那些预计不会在每个周期中发生变化的值，诸如神经元权重和激活值。LRAM更适合存储只有短期数据局部性的临时值，诸如输入样本的短通道以及用于张量收缩和池化活动的累积值。

该架构考虑到需要能够将大型复杂的层划分为可并行操作的段，并为每个段提供临时数据值。BRAM和LRAM都具有级联连接功能，可轻松支持机器学习加速器中常用的脉动阵列的构建。

图5：具有存储和级联连接功能的MLP

MLP可以从逻辑阵列、共享数据的级联路径以及关联的BRAM72k和LRAM2k逐周期驱动。这种安排能够构建复杂的调度机制和数据处理通道，使MLP持续得到数据支持，同时支持神经元之间尽可能广泛的连接模式。为MLP持续提供数据是提高有效TOps算力的关键。

MLP的输出具有同样的灵活性，能够创建脉动阵列和更复杂的布线拓扑，从而为深度学习模型中可能需要的每种类型的层提供优化的架构。

图6：具有端点和I/O块的NoC

Multiplier / multiplicand fractions after converting inputs to have the same exponent：将输入转换为具有相同指数后的乘数/被乘数分数

Multiplier block exponent：乘数块指数

Multiplicand block exponent：被乘数块指数

Integer Multiply / Add Tree：整数乘法/加法树：

Convert to Floating Point：转换为浮点

Floating Point Accumulation：浮点累加

Round to desired precision：四舍五入到所需精度

Speedster7t架构中的2D NoC提供了从逻辑阵列的可编程逻辑到位于I/O环中的高速接口子系统的高带宽连接，用于连接到片外资源。它们包括用于高速存储访问的GDDR6和诸如PCIe Gen5和400G以太网等片内互连协议。这种结构支持构建高度并行化的架构，以及基于中央FPGA的高度数据优化的加速器。

通过将高密度数据包路由到分布在整个逻辑阵列上的数百个接入点，2D NoC使得大幅增加FPGA上的可用带宽成为可能。传统的FPGA必须使用数千个单独编程的布线路径来实现相同的吞吐量，而这样做会大量吃掉本地的互连资源。通过网络接入点将千兆数据传输到本地区域，2D NoC缓解了布线问题，同时支持轻松而快速地将数据传入和传出MLP和基于LUT的定制化处理器。

相关的资源节省是相当可观的——一个采用传统FPGA软逻辑实现的2D NoC具有64个NoC接入点（NAP），每个接入点提供一个运行频率为400MHz的128位接口，将消耗390kLUT。相比之下，Speedster 7t1500器件中的硬2D NoC具有80个NAP，不消耗任何FPGA软逻辑，并且提供了更高的带宽。

使用2D NoC还有其他的一些优势。由于相邻区域之间互连拥塞程度较低，因此逻辑设计更易于布局。因为无需从相邻区域分配资源来实现高带宽路径的控制逻辑，因此设计也更加有规律。另一个好处是极大地简化了局部性重新配置——NAP支持单个区域成为有效的独立单元，这些单元可以根据应用的需要进行交换导入和导出。这种可重配置的方法反过来又支持需要在特定时间使用的不同模型，或者支持片上微调或定期对模型进行再训练这样的架构。

结论

随着模型增大和结构上变得更加复杂，FPGA正成为一种越来越具吸引力的基础器件来构建高效、低延迟AI推理解决方案，而这要归功于其对多种数值数据类型和数据导向功能的支持。但是，仅仅将传统的FPGA应用于机器学习中是远远不够的。机器学习以数据为中心的特性需要一种平衡的架构，以确保性能不受人为限制。考虑到机器学习的特点，以及不仅是现在，而且在其未来的开发需求，Achronix Speedster7t FPGA为AI推理提供了理想的基础器件。