All Node List by Editor

NPU专为Al设计，与其他处理器共同加速生成式AI体验

2024年3月6日

作者：

马德嘉 高通技术公司高级副总裁兼技术规划和边缘解决方案业务总经理

Pat Lawlor 高通技术公司技术市场总监

生成式AI变革已经到来。随着生成式AI用例需求在有着多样化要求和计算需求的垂直领域不断增加，我们显然需要专为AI定制设计的全新计算架构。这首先需要一个面向生成式AI全新设计的神经网络处理器(NPU)，同时要利用异构处理器组合，比如中央处理器(CPU)和图形处理器(GPU)。通过结合NPU使用合适的处理器，异构计算能够实现最佳应用性能、能效和电池续航，赋能全新增强的生成式AI体验。

图1：正如在工具箱中选择合适的工具一样，选择合适的处理器取决于诸多因素，

将增强生成式AI体验。

异构计算的重要性

生成式AI的多样化要求和计算需求需要不同的处理器来满足。支持处理多样性的异构计算架构能够发挥每个处理器的优势，例如以AI为中心定制设计的NPU，以及CPU和GPU。每个处理器擅长不同的任务：CPU擅长顺序控制和即时性，GPU适合并行数据流处理，NPU擅长标量、向量和张量数学运算，可用于核心AI工作负载。

异构计算能够实现最佳应用性能、能效和电池续航，以最大化发挥生成式AI终端用户体验。

图2：NPU随着不断变化的AI用例和模型持续演进，实现高性能低功耗。

什么是神经网络处理器NPU（Neural Processing Unit）？

NPU专为实现以低功耗加速AI推理而全新打造，其架构随着新AI算法、模型和用例的发展不断演进。Al工作负载主要包括由标量、向量和张量数学组成的神经网络层计算以及非线性激活函数。优秀的NPU设计能够为处理这些AI工作负载做出正确的设计选择，与AI行业方向保持高度一致。

图3：高通AI引擎包括高通Hexagon NPU、高通Adreno GPU、高通Kryo或高通Oryon CPU、高通传感器中枢和内存子系统。

高通领先的NPU和异构计算解决方案

高通正在助力让智能计算无处不在。业界领先的高通Hexagon NPU面向以低功耗实现持续稳定的高性能AI推理而设计。高通NPU的差异化优势在于系统级解决方案、定制设计和快速创新。通过定制设计NPU并控制指令集架构(ISA)，高通能够快速进行设计演进和扩展，以解决瓶颈问题并优化性能。

Hexagon NPU是高通业界领先的异构计算架构——高通AI引擎中的关键处理器，高通AI引擎还包括高通Adreno GPU、高通Kryo或高通Oryon CPU、高通传感器中枢和内存子系统。这些处理器为实现协同工作而设计，能够在终端侧快速且高效地运行AI应用。

我们在AI基准测试和实际生成式AI应用方面的行业领先性能表现就是例证。请阅读白皮书，深入了解高通NPU、我们的其他异构处理器，以及在第三代骁龙8和骁龙X Elite上业界领先的Al性能。

图4：高通AI软件栈旨在帮助开发者一次编写，即可实现随时随地运行和规模化扩展。

赋能开发者加速生成式Al应用

我们专注于在全球搭载高通和骁龙平台的数十亿终端设备上实现便捷开发和部署，赋能开发者。利用高通AI软件栈（Qualcomm AI Stack），开发者可在高通硬件上创建、优化和部署AI应用，一次编写即可实现在不同产品和细分领域采用高通芯片组解决方案进行部署。

通过将技术领导力、定制芯片设计、全栈AI优化和生态系统赋能充分结合，高通技术公司在推动终端侧生成式AI开发和应用方面独树一帜。高通技术公司正在赋能终端侧生成式AI的规模化扩展。

下载白皮书：《通过NPU和异构计算开启终端侧生成式AI》

查阅《混合Al是AI的未来》白皮书第一部分和第二部分

欢迎订阅《未来AI和计算技术》简讯

该环境物联网研究报告预测了物联网的发展演变和市场增长趋势

负责监管蓝牙技术的行业协会蓝牙技术联盟（SIG）近日发布了中文版市场研究报告《环境物联网：一种新型蓝牙物联网设备》，深入分析了这种新型物联网设备。

环境物联网——物联网设备的全新发展

环境物联网是指一类新型物联网设备，它们利用无线电波、光、位移和热等环境能源作为主要动力源。环境物联网通过“能量采集”减少维护，解决了阻碍物联网发展和普及的供电限制问题。环境物联网能够大规模地部署在具有挑战性的安装地点，为行业带来新的发展机遇。

图1：环境物联网的定义属性、物联网硬件发展和应用（来源：ABI Research）

低功耗蓝牙——一项高度适配环境物联网的协议

由于环境物联网依赖从环境源获取的微量能源，因此低功耗对环境物联网至关重要。作为物联网协议中功耗最低的标准之一，低功耗蓝牙（Bluetooth LE）非常适合依赖环境能源的环境物联网设备。

环境物联网拥有巨大的市场潜力，为各种全新用例奠定了基础，改变了企业、消费者和周围环境之间的互动。有关环境物联网及其影响的更多详情，欢迎至官方网站下载中文版报告《环境物联网：一种新型蓝牙物联网设备》。

关于蓝牙技术

蓝牙（Bluetooth^®）技术是一项简单、安全的全球通用无线通信和定位标准，采用它的产品年出货量已超过50亿。自1998年问世以来，蓝牙技术创造的连接开拓了新的市场、塑造了文化，并丰富了人们的生活。蓝牙技术最初只是一项简单的线缆替代技术，而如今它已成为一条使人们生活更加安全、高效和幸福的无形纽带。

关于蓝牙技术联盟

蓝牙技术联盟（Bluetooth SIG）成立于1998年，是一个非营利会员组织，负责监管蓝牙技术——全球应用最广泛的无线标准之一。蓝牙技术联盟是国际标准制定组织、产品认证机构、专利和商标许可管理机构，以及行业贸易协会的独特结合体。该组织通过与40,000多家会员企业合作，不断改进技术，重新定义无线通信应用的可能性。

了解更多关于蓝牙技术和蓝牙技术联盟的信息，敬请访问https://www.bluetooth.com/zh-cn/，或关注蓝牙技术联盟官方新浪微博、微信（搜索蓝牙技术联盟）。

稿源：美通社

• SDVerse软件市场将成为嵌入式汽车软件买卖双方的"配对"平台

• 相较于专属的软件开发，更专注于汽车软件买卖双方之间的匹配工作

• 该数字平台提升了软件开发及采购的效率与透明度

• Ampere*、FEV、佛瑞亚、HL Mando、恩智浦半导体、TTTech Auto和法雷奥作为首批合作伙伴，支持SDVerse软件市场

• Prashant Gulati已被任命为SDVerse这家新公司的首席执行官，自2024年3月5日起任职生效

通用汽车 (GM)、跨国汽车供应商麦格纳和领先的技术咨询公司Wipro联合开发了买卖汽车软件的B2B 交易平台SDVerse，旨在为嵌入式汽车软件的买卖双方提供配对平台，从而彻底改变汽车软件的采购流程。

与传统的专属软件开发方式不同，SDVerse平台专注于通过透明而高效的数字平台，联接汽车软件的买卖双方。卖方可以列出其软件的功能和属性，而买方可以通过综合目录，轻松搜索和寻找可用的软件产品。 

软件的销售和购买均可在平台上直接进行，所有参与者均可获得轻松流畅的体验。SDVerse目前正处于开发阶段，预计将包含数百种汽车软件产品，汽车产业链的上下游均可加入。除了创始成员之外，由Ampere*、FEV、佛瑞亚、HL Mando、恩智浦半导体、TTTech Auto和法雷奥所组成的"首发合作伙伴"小组也已就位。

Prashant Gulati被任命为SDVerse的首席执行官，自2024年3月5日起任职生效。Prashant有着二十多年的汽车行业领导和管理经验，是软件技术领域的思想领袖，在汽车行业中极大地推动着新兴技术（例如AI）的运用。

Wipro公司的全球前沿工程负责人Harmeet Chauhan表示："汽车软件的市场规模预计十年内将翻番，可能会超过软件开发人才库的增长速度。如果既要保证盈利能力，又要满足汽车行业对‘软件定义汽车'的渴求，当前的软件采购模式很可能将无法应对这一缺口。SDVerse 软件市场解决了这些痛点，让全行业为之大大受益。"

"汽车软件开发正在快速迭代，我们都需要不断反思如何更快地为客户提供独特的、差异化的功能。其中一部分工作就是识别共享的通用基础代码，从而为我们的终端用户提高质量并降低成本。" 通用汽车战略技术倡议副总裁Dan Nicholson表示："这个首创的软件市场为嵌入式系统软件提供了一个独立的、由行业驱动的一站式采购平台，大大拓宽了创新技术获取的通道，有助于降低成本，并能让像通用汽车这样的公司更快地实施关键软件技术。"

SDVerse的订阅用户可能会在以下几个关键方面受益：

• 降低成本、时间和复杂度，通过消除重复开发，实现已开发软件的再利用，通过多客户捆绑软件订单来提升规模经济效益 

• 提升软件质量 - 汽车软件已历经多重测试和验证周期。此外，通过竞争购买的自由市场方式，有助于提升客户的车辆质量

• 改进资源分配，使汽车制造商和供应商能够最大限度地减少"重复劳动"，从而配置更多的工程资源用于创新项目和独特驾乘体验上

• 提高卖家的收入，通过扩大的客户群和更多商业机会，增加现有知识产权（IP）的盈利能力

• 全新软件采购模式，可实现软件与硬件分开采购，给汽车制造商的内部软件开发提供了一个极具吸引力的替代方案

麦格纳全球研发高级副总裁约尔格•格罗滕多斯特（Joerg Grotendorfst）表示："麦格纳之所以参与SDVerse项目，是因为我们始终致力于促进合作，推动汽车行业向前发展。通过该创新平台，我们旨在打造一个更加互联的生态系统，鼓励汽车制造商、供应商和专业软件开发商协同合作，共创前沿解决方案。SDVerse是一个变革性的产品，将彻底改变软件开发、销售和采购流程，加速行业向‘软件定义汽车'方向转型。"

通用汽车、麦格纳和威普罗共同设计和开发了SDVerse，该平台将由创始成员共同管理。自该项目启动以来，战略管理咨询公司罗兰贝格任该项目的战略顾问。

罗兰贝格的合伙人Konstantin Shirokinskiy 表示："SDVerse为汽车制造商和供应商绘制了一幅蓝图，可以更有效地满足其嵌入式软件的需求。它释放了为推出新的差异化软件功能所需的稀缺软件工程资源，可以重新规划开发时间表，更快地开发更好的软件定义的汽车，确保软件价值得以真正体现。公司还可以简化运营，从而更为专注、高效和盈利。"

4月4日（星期四），通用汽车、麦格纳和Wipro的高层将参加直播讨论，对SDVerse进行深入探讨，发表洞见。注册参加任一会议并了解SDVerse的更多信息，请访问SDVerse.auto 。

*Ampere是雷诺集团旗下的电动车和软件公司

关于通用汽车：

通用汽车公司（纽交所代码：GM）致力于在全球范围内推动纯电动汽车的普及与普惠。Ultium奥特能平台作为公司电气化战略的核心将覆盖从大众化到高性能车型的各类细分市场。通用汽车及其子公司与合资企业在全球范围内销售凯迪拉克、别克、雪佛兰、GMC、宝骏及五菱等品牌的汽车产品。通用汽车还拥有全球车载信息与安全服务领导品牌安吉星。欲知更多有关通用汽车及其旗下品牌的信息，可登陆通用汽车官方网站。

关于麦格纳：

麦格纳在汽车领域是全球最大的供应商之一，更是一家出行科技公司。我们拥有17.9万名开拓创新的员工，分布在全球各地。我们的分支遍布全球，在28个国家设有342家制造工厂和104个产品开发、工程和销售中心。超过65年的技术积淀和成长，我们的互联产品生态系统与我们完整的车辆专业知识相结合，让我们在这个快速迭代的行业里不断驱动出行科技的发展。
关于麦格纳（NYSE:MGA；TSX:MG）的更多信息，请访问公司官网：www.magna.com 或在微信（@麦格纳汽车）和微博上关注我们。

关于Wipro：

Wipro Limited（NYSE：WIT，BSE：507685，NSE：WIPRO）是一家领先的技术服务和咨询公司，专注于构建创新解决方案，以满足客户高度复杂的数字化转型需求。我们利用咨询、设计、工程和运营等方面的整合能力，助力客户实现其勃勃雄心，并塑造面向未来的可持续业务。我们在65个国家/地区拥有超过240,000名员工和业务合作伙伴，并致力于兑现帮助客户、员工和社区在瞬息万变的世界中蓬勃发展之承诺。如需了解更多信息，请访问我们的网站： www.wipro.com

关于罗兰贝格：

罗兰贝格是一家全球管理咨询公司，在各大国际市场设有分支机构。在创业之基（entrepreneurship）、卓越之范（excellence）和共赢之道（empathy）的价值观推动下，罗兰贝格相信世界需要一种新的可持续模式，将整个价值循环周期考虑在内。作为一家由合伙人拥有的独立公司，罗兰贝格的3,000名员工组成了跨行业和业务职能的跨能力团队，提供分析方法和专业知识，帮助客户应对挑战，直面全球严峻考验。获悉更多资讯，请访问www.rolandberger.com。

稿源：美通社