All Node List by Editor

作者： JFrog大中华区总经理董任远

新年立下新志向，开启新征程。对于 CISO 和 CSO们来说，这也意味着他们能够借此机会打造能把自身企业安全作为优先考量的解决方案。

去年，整个业界在加强软件供应链安全方面取得了显著进展，但安全团队在软件供应链方面仍然面临着许多潜在的威胁。AI/ML模型中恶意代码的猖獗使用、遭入侵的开源软件、漏洞利用等问题仍持续困扰着企业。

为在 2024 年确保软件供应链尽可能安全，安全专业人士必须在今年致力于做好以下五大关键，包括：

●对于开源代码，在信任的同时要对其进行验证

●警惕安全解决方案和代码开发中的AI/ML

●不要对零日漏洞感到恐慌

●将 SBOM 作为安全战略的必备要素进行集成

●采取“左移”战略

对于开源代码，在信任的同时要对其进行验证

安全领导者面临的最严峻挑战之一就是开源软件的威胁。许多开发者盲目信任来自公共开源代码库的软件，认为它们不存在安全和合规性问题。然而，未能对代码进行包含必要的安全控制等在内的正确审查以确保其始终处于最新状态，会使组织遭受软件供应链攻击的风险增高。

步入 2024 年，安全领导者必须在信任开发者开源编码实践的同时对其进行验证。安全风险往往始于开发者从这些公共资源库下载代码的那一刻。通过确保自始对代码进行充分审查，安全领导者就能主动减轻对软件供应链的威胁，避免造成不可挽回的损失。

警惕安全解决方案和代码开发中的AI/ML

2023年，人工智能的兴起推动了创新，但也引起了人们对安全问题的高度关注。软件开发安全方面的疏忽可能会无意中将恶意代码引入AI/ML 模型，让攻击者有机可乘，由此对企业造成进一步的损害。

开发者还可能会使用从公共 AI/ML 源生成的代码，而不知道模型是否已遭到入侵。如果盲目信任AI/ML 模型，就可能会给企业招致更多的漏洞——所有来自AI/ML 源的代码都必须经过审查。

无需对零日漏洞感到恐慌

2023 年，网络犯罪分子利用零日漏洞的速度创下了历史新高，而新的一年里，这一趋势还将持续。

面对零日攻击，安全团队常常会感到恐慌，不确定 CVE （关键漏洞披露）会产生怎样的影响。虽然CVE可能存在于他们的软件中，但也完全有可能在极端特殊情况下被利用，而这些情况并不适用于该企业。在这种情况下，可能会无缘无故地对最终用户实施耗时且可能具有破坏性的补丁。

今年，CISO 和 CSO 们在采取行动之前，需要先了解 CVE 及其与企业的关系。盲目修补可能弊大于利，而将 CVE 与具体情况联系起来，则有助于更好地保护企业并明确真正需要采取的行动。

将 SBOM 作为必备要素纳入安全战略

SBOM 已成为安全领导者使用的重要 DevSecOps 工具，因其能为用户提供更快的识别方法，缩短恢复时间，提高代码修复的效率和效力，并在更严格的监管环境中增强合规性。

SBOM 可以系统性地跟踪每个应用程序中存在的组件，以及应用程序运行所需的依赖项，使安全团队能够准确地查看在发生漏洞利用时受到影响的系统。此外，在 2024 年，网络安全监管环境还将继续收紧，这使得 SBOM 不再只是“锦上添花”的存在，而且是确保遵守新规则的必需。

采取“左移”战略

对于安全领导者来说，落实上述所有的解决方案可能是一项艰巨的任务，这也是为什么CSO 和 CISO 们在 2024 年必须采用“左移”的方法来确保安全性。

通过从一开始就将安全纳入软件开发，安全领导者可以确保为其软件供应链建立更加积极主动的防线。这样，他们在软件开发中使用开源或公开开发的 AI/ML 代码时就更具灵活性，可以更好地控制为其企业而构建的AI/ML 模型，确保尽可能降低CVE 漏洞利用的可能性，并提高了 SBOM 的有效性。

步入2024 年并展望更远的未来，软件领域的复杂性只会有增无减。通过在软件供应链安全方面采取“左移”思维，CISO 和 CSO 们可以确保企业更强大、更具韧性，以应对新的安全挑战。

关于JFrog

JFrog Ltd.（纳斯达克股票代码：FROG）的使命是创造一个从开发者到设备之间畅通无阻的软件交付世界。秉承“流式软件”的理念，JFrog软件供应链平台是统一的记录系统，帮助企业快速安全地构建、管理和分发软件，确保软件可用、可追溯和防篡改。集成的安全功能还有助于发现和抵御威胁和漏洞并加以补救。JFrog 的混合、通用、多云平台可以作为跨多个主流云服务提供商的自托管和SaaS服务。全球数百万用户和7000多名客户，包括大多数财富100强企业，依靠JFrog解决方案安全地开展数字化转型。一用便知！如欲了解更多信息，请访问jfrogchina.com或者关注我们的微信官方账号：JFrog捷蛙。

Ambarella安霸 何小林

近年来，人工智能应用正经历一轮快速的发展与普及，而以ChatGPT等先进的大模型技术在此过程中起到了关键作用。这些模型对计算能力的需求不断攀升，催生了AI芯片设计的不断革新，进入了大算力时代。

目前，主流AI芯片的架构仍然沿用了传统的冯·诺依曼模型，这一设计将计算单元与数据存储分离。在这种架构下，处理器需要从内存中读取数据，执行计算任务，然后将结果写回内存。尽管AI芯片的算力在不断提升，但仅仅拥有强大的数据计算能力并不足够。当数据传输速度无法跟上计算速度时，数据传输时间将远超过计算时间。

以Transformer架构为基础的AI大模型导致了模型参数量激增，短短两年间模型大小扩大了惊人的410倍，运算量更是激增了高达750倍。尽管硬件的峰值计算能力在过去20年中提升了惊人的60,000倍，但DRAM带宽的增长却相对滞后，仅提高了100倍。计算能力与带宽能力之间的巨大差距导致了内存容量和数据传输速度难以跟上AI硬件的计算速度，这已成为限制AI芯片性能发挥的主要瓶颈，通常被称为“内存墙”问题。

内存墙的应对方法

针对内存墙问题，研究人员正积极探索多种解决方案，主要可分为以下三个研究方向：

1. 算法优化：重新审视网络模型设计，致力于优化算法实现，以减少对高速数据传输的依赖。这一方向旨在从根本上降低数据传输需求，提升算法效率，从而打破内存墙的限制。

2. 模型压缩：通过降低模型精度（如量化）或去除冗余参数（如剪枝）来压缩推理模型。这种方法可以显著减少模型大小，降低内存占用，从而减轻内存墙带来的压力。

3. AI芯片架构设计：设计高效的AI芯片架构，以优化数据流和计算流程。通过硬件层面的创新，减少数据搬运和计算量，提高整体系统效率。

算法的优化与模型的压缩是软件研究人员追求的重要方向。在AI芯片架构设计领域， 各大AI芯片公司也开始优化芯片架构， 以实现更为高效的内存传输。安霸同样提出了其专有的解决方案。

CV3系列芯片如何打破内存墙

2015年， 安霸收购了自动驾驶算法公司VisLab, 开始研究自动驾驶需要怎样的芯片。 2017年，安霸推出第一代CVflow架构芯片CV1， 用于加速AI视觉计算。2018年开始逐步推出并量产专门针对车载辅助驾驶市场的第二代CVflow架构芯片CV2系列。 2019年，自动驾驶技术的突飞猛进，使得汽车行业对芯片算力的需求急剧增长，标志着大算力时代的来临。在这样的技术背景下，安霸前瞻性地启动了CV3系列大算力芯片的设计工作，旨在为自动驾驶场景提供强大的计算能力。经过三年的精心打磨与架构设计, 2022年, CV3架构的第一颗芯片CV3-HD成功点亮， 其最高算力达到了1500 eTOPS(等效算力)，而功耗仅为50瓦，展示出了卓越的计算性能与能耗比。 2023年， 首个面向量产智驾域控制器的芯片CV3-AD685顺利点亮并开始提供样片， 其算力达到750 eTOPS(等效算力)。2024年1月，安霸再次推出了CV3-AD 汽车智驾域控制器芯片的最新成员：CV3-AD635 和 CV3-AD655。至此，CV3-AD 系列芯片已经实现了从主流到中、高端乘用车市场高级辅助驾驶与自动驾驶解决方案的完整覆盖。

在深入洞察自动驾驶场景的基础上， 安霸的CV3系列芯片在设计之初就敏锐地预见到大算力时代所带来内存带宽挑战。为了突破内存瓶颈，CV3在内存控制器上采用了先进的LPDDR5技术，每位DRAM的数据传输速率高达8Gb/s。针对不同应用场景的算力需求，设计了64位、128位和256位的内存位宽，从而确保在各种计算场景下都能提供足够的数据传输带宽。

在AI加速器的架构设计上，CV3系列芯片推出了安霸特有的第三代CVflow架构。这一架构赋予了CV3卓越的算力性能和优异的能效比。如图1所示，CVflow的总体架构展示了其数据流和计算单元的组织结构。

图1 CVflow架构图

具体来说, CV3的高算力与低功耗得益于以下几个精心设计的架构特点。

·Partial buffer架构

尽管许多AI芯片采用增大缓存的方式来减少DRAM访问，但缓存系统存在几个显著问题：

1. 设计复杂性与成本：缓存系统的设计相对复杂，相较于同等容量的SRAM，它需要占据更大的芯片面积。这不仅增加了芯片的成本，还可能导致功耗上升。

2. 软件优化需求：为了充分利用缓存系统，软件算法需要针对其进行专门的优化，以提高缓存命中率。这增加了软件开发的复杂性和工作量。

3. 算力浪费：缓存系统通常遵循“使用时才加载”的策略，这导致计算单元在等待数据加载完成期间无法进行有效计算，从而造成算力的浪费。算力的有效利用率在很大程度上依赖于缓存命中率。

4. 性能不稳定：在复杂的多核多线程环境中，缓存命中率与系统的负载密切相关。随着负载的变化，缓存命中率可能会受到严重影响，导致系统性能的不稳定。

与传统的缓存系统不同，CVflow架构采取了一种创新的策略，将片上内存（On-chip Memory）分割成多个不同大小的内存块，这些内存块被称为Partial Buffers（PB）。这些PB的主要用途是存储计算过程中的中间结果，从而显著减少对外部DRAM的访问次数。Partial Buffers所带来的优势如下：

• 简化的硬件设计与成本优化：PB的设计相较于传统缓存更为简单，这意味着在硬件实现上，CVflow架构能够节省更多的芯片面积，进而降低制造成本和功耗。

• 独立的DMA通道：为了确保数据的高效传输，CVflow架构为Partial      Buffers配置了独立的DMA（Direct Memory Access）通道。这使得数据能够从DRAM中快速、无缝地传输到PB中，从而避免了数据传输的瓶颈。

• 访存效率高: 一次性从DRAM和PB之间传输大块数据的策略, 替代了传统的多次小块数据传输的方式, 减少了数据在内存和向量处理器(NVP)之间的搬运数次，降低了数据传输的延迟和开销

• 与计算单元并行处理：PB在CVflow内部被组织成一个环形结构。这意味着当一个PB的数据被使用后，CVflow的硬件调度器会智能地加载下一个所需的数据块到空闲的PB中。这种设计允许数据预加载与计算单元的工作并行进行，从而消除了数据等待时间，提高了整体计算效率。

• 简化的内存管理：与需要手动优化和管理的传统缓存系统不同，CVflow转换工具能够自动、高效地管理PB。这意味着开发人员无需花费额外的时间和精力来管理片上内存，从而可以更加专注于算法和应用的开发。

以图2所示的卷积神经网络为例，在传统的计算架构中，该网络通常需要12次的DRAM访问来完成一次完整的计算过程。然而，在CVflow架构下，通过利用高效的Partial Buffers（PB）设计，3到12过程的内存访问被低延迟的PB所取代。这意味着，中间计算结果可以直接在PB中完成，而无需频繁地访问外部的DRAM。因此，整个计算过程中，只需要在输入和输出阶段各进行一次DRAM访问，从而减少了10次的DRAM访问。这种优化不仅显著降低了计算过程中的延迟，还因为减少了外部DRAM的访问次数，从而降低了整体的功耗。

图2 CVflow卷积神经网络计算示例

·并行的流式架构

CVflow工具根据芯片的片上内存大小，智能地将大型神经网络切割成多个连续的、紧凑的计算单元，这些单元被组织成有向无环图（DAG）的形式。这种独特的架构带来了多重优势：

• 高效内存利用：每个DAG的中间计算步骤都在片上内存内完成，从而避免了频繁访问外部DRAM的需求。这不仅减少了数据传输的延迟，还提高了内存的使用效率。

• 快速启动与并行处理：网络加载时间大大缩短，因为只需加载一部分网络即可开始计算。同时，在计算过程中，CVflow能够并行加载网络的后续部分，实现了计算与数据加载的并行化，进一步提升了整体性能。

• 稳健的性能表现：由于大大减少了对DRAM的访问次数，并且实现了计算与数据加载的并行处理，CVflow架构在面临其他芯片模块（如CPU、GPU、ISP）同时高负载运行的场景时，仍能保持稳定的性能表现，从而确保了在各种复杂环境下的可靠性。

图3 AI模型的DAG切割示意图

·硬件实现的算子

与GPU通过简单地堆砌计算单元来提升算力的方式不同，CVflow架构致力于通过实现高效的硬件算子来加速计算过程。CV3的CVflow架构，基于对深度学习网络的前瞻性研究，实现了超过100种常用算子的硬件化。这种设计策略使得CVflow在晶体管数量更少的情况下实现了出色的算力。

以8x8的矩阵乘法为例，传统的计算方式需要512个乘加(MAC)操作，但在CVflow架构中，其特有的矩阵乘法算子能够在单个计算指令周期内完成。此外，CVflow还支持多种融合算子的应用。例如，对于常见的2D/3D卷积与池化操作，CVflow的转换工具能够自动将这两个操作融合为一个硬件算子操作，从而有效减少了数据吞吐量和计算周期，进一步提升了整体性能。

·非结构化的稀疏加速

通过将AI模型稀疏化，去除冗余参数， CVflow架构带来了显著的性能提升， 具体而言：

• CVflow工具能够自动压缩网络参数，这减少了芯片端加载AI模型所需的时间。

• 芯片端的CVflow硬件调度器具备智能分析能力，可以自动识别并跳过不必要的计算，从而显著降低了计算量。

• 无需对AI模型结构进行调整, 从而实现了算法的一次性开发和无缝部署。这种特性简化了模型部署过程，使得模型开发人员无需担心模型结构的兼容性问题，可以专注于算法的优化和创新。

• CVflow工具链提供了多种稀疏策略来保证AI模型稀疏后的精度。

以7x7卷积为例，未进行稀疏化之前，每次卷积操作都需要用到全部的49个参数，并且会执行49次乘加（MAC）操作。然而，当实施了80%的稀疏化后，情况发生了显著变化：参数量减少了60%，这意味着存储和传输的效率大大提升；计算量减少了80%，从而极大地提高了卷积操作的效率。这种CVflow独有的稀疏化技术对于优化AI模型的性能和资源消耗至关重要。

图4 CVflow 网络稀疏化示例

·支持多种量化格式

CV3的CVflow架构具有强大的数据格式支持能力, 可以支持 4, 8, 16, 32的定点数据格式和16, 32位的浮点数据格式。CVflow工具能够针对每一层网络参数和输入输出数据进行精确的动态范围分析，从而确定最优的量化精度，实现高效的混合精度部署。这一特性使得CV3在处理不同数据类型和规模的任务时，能够灵活适应并发挥最佳性能。

2024年国际消费电子展（CES）期间，安霸展出了基于CV3平台的自动驾驶研发车辆, 并为受邀客户提供试驾体验。此次展出进一步验证了CV3 CVflow架构芯片的强大实力， 即便面对自动驾驶场景的大算力、高带宽的复杂计算需求，也能游刃有余地应对。

2023年, 特斯拉实现了首个端到端大模型自动驾驶系统， 将原本庞大的30万行的人工规则算法精简至仅2000行代码。随着驾驶数据的不断积累，自动驾驶技术正朝着端到端大模型的方向发展。  面对未来大模型自动驾驶时代的算力与内存墙挑战， 专为自动驾驶设计的CV3-AD系列芯片凭借第三代CVflow架构，以芯片架构创新的方式，突破大算力芯片的内存墙的限制，为大模型算法提供了强大的硬件支持， 助力高级辅助驾驶以及自动驾驶技术的普及与发展。

Altera致力于为客户提供端到端的FPGA、易于使用的AI、软件和弹性供应链

今天，英特尔宣布成立全新独立运营的FPGA公司——Altera。在FPGA Vision线上研讨会期间，首席执行官Sandra Rivera和首席运营官Shannon Poulin进行了分享，展示其在超过550亿美元的市场中保持领先性的战略规划，强调将通过打造集成AI功能的FPGA等举措，进一步丰富公司的产品组合，同时亦表明将持续助力客户应对不断增加的挑战。会上，Altera也作为新公司的品牌正式对外公布。

Altera首席执行官Sandra Rivera表示，“现阶段，客户正面临日益复杂的技术挑战，而我们始终致力于打造差异化优势，加快产品落地实践，并推动FPGA市场发展。我们致力于通过大胆、灵活和以客户为中心的方法，率先推出可编程解决方案，并在通信、云、数据中心、嵌入式、工业、汽车等广大应用领域提供具备AI功能且便于应用的解决方案。”

Altera持续拓展的产品组合和路线图不仅能够更好地满足云、网络和边缘FPGA市场不断增长的需求，同时也可以通过一流的Quartus Prime软件和易于整合的AI功能，捕捉业界快速发展的应用机会。AI的崛起正在为千行百业带来新的复杂性和机遇。而由于FPGA的AI套件和OpenVINO等工具可以基于诸如TensorFlow和PyTorch等标准框架生成优化的IP，Altera也将利用其充分把握市场的新机遇。基于Altera FPGA（现场可编程门阵列）打造的灵活解决方案，不仅可以更好地满足持续变化的市场需求，如将重要的AI推理功能无缝集成至系统中，也能够捕捉行业动态发展的标准，如PCI Express、CXL、以太网和6G无线网。

Altera的解决方案是专为包括网络、通信基础设施、低功耗嵌入式等在内的广泛市场和实践应用而优化的。现阶段，Altera推出旨在满足客户需求的新产品和服务，其中包括：

• Agilex 9现已大规模生产。其提供业界领先的数据转换器，适用于需要高带宽混合信号FPGA的应用场景。

• Agilex 7 F系列和I系列现已投入生产。该系列产品能够提供两倍的性能功耗比，专为诸如数据中心、网络等高带宽计算应用设计。

• Agilex 5现已广泛推出。作为业界首个嵌入AI模块的FPGA，其能够为嵌入式边缘应用提供领先的性能，且每瓦性能提升最高可达1.6倍。

• Agilex 3即将推出。其将为云计算、通信和智能边缘应用中的低复杂度功能提供领先、低功耗的FPGA系列产品。

关于英特尔

英特尔（NASDAQ: INTC）是全球半导体行业的引领者，以计算和通信技术奠定全球创新基石，塑造以数据为中心的未来。我们通过精尖制造的专长，帮助保护、驱动和连接数十亿设备以及智能互联世界的基础设施 —— 从云、网络到边缘设备以及它们之间的一切，并帮助解决世界上最艰巨的问题和挑战。如需了解更多信息，请访问英特尔中国新闻中心 newsroom.intel.cn 以及官方网站 intel.cn。

MEGA MINI Gaming G1是业内最小水冷游戏迷你PC，重新定义标准

全球创新科技品牌TECNO再次参加2024年巴塞罗那世界移动通信大会(MWC24 Barcelona)，发布了两款迷你PC产品——"全球首款"最小水冷游戏迷你电脑MEGA MINI Gaming G1和袖珍桌面解决方案MEGA MINI M1，荣获权威科技媒体评选的"BEST OF MWC"奖。配合TECNO最新发布的AR眼镜使用，这两款迷你PC可实现更大的屏幕，提升效果，带来更身临其境的游戏体验。

MEGA MINI Gaming G1 (right) and MEGA MINI M1 (left), present with TECNO AR glass

TECNO用世界首款最小的水冷MEGA MINI Gaming G1彻底革新了游戏迷你PC

TECNO推出了MEGA MINI Gaming G1——全球首款配备独立显卡的最小水冷游戏迷你PC。MEGA MINI Gaming G1集成最新一代游戏CPU和强大的独立GPU，拥有先进的硬件和冷却系统设计。它采用可视化水冷系统，可以有效降低热量并优化性能。该产品搭载Intel®Core™超级处理器，并且可选择第13代I9-13900H高性能游戏处理器，睿频频率高达5.4GHz，搭配32GB DDR5 RAM和1TB SSD存储，同时支持双SO-DIMM扩展。它同时还支持WiFi6E无线网络和Thunderbolt 4高速连接。它还包括一个Oculink接口，用于扩展外部显卡连接。机身配有迷你显示屏，可以实时监控实时加载信息。MEGA MINI Gaming G1还设计有金属机身，搭配炫彩灯光，非常吸引游戏用户。

TECNO MEGA MINI M1：袖珍型桌面解决方案

TECNO MEGA MINI M1是一款小巧而功能强大的立方体，体积仅有0.38L，重量仅为445克，采用轻量级优质铝金属全机身，让您的办公桌简单而高效。搭载Intel®Core™第13代处理器，拥有高达45W的超强性能释放，让您的工作更快完成。支持Intel@lris Xe显卡，可创建视觉效果出众的图像，同时解码多个4K视频流。它拥有16GB DDR4内存，支持双SO-DIMM扩展至最大32GB，从而显著提升性能。它还提供了13个端口，可无限扩展多种场景，并支持扩展多个外部设备，极大地增强了产品的多功能性。

稿源：美通社