All Node List by Editor

搭载 Tensor Core 的 NVIDIA RTX GPU 正在加速生成式 AI 模型的开发与部署；即将推出的 Max-Q 低功耗 AI 推理将提高能效比。

生成式 AI 正在迅速开创一个计算的新时代，为生产力、内容创作、游戏等多领域带来了变革。NVIDIA NeMo 和 DLSS 3 帧生成技术、Meta LLaMa、ChatGPT、Adobe Firefly、Stable Diffusion 等生成式 AI 模型和应用能够使用神经网络来识别现有数据中的模式和结构，以此生成新的原创内容。

专为 GeForce RTX 和 NVIDIA RTX GPU 优化的生成式 AI 模型具有高达 1,400 Tensor TFLOP 的 AI 推理性能，运行速度比同类其他设备快 5 倍。这要得益于 RTX GPU 中用于加速 AI 计算的专用硬件 Tensor Cores，以及常规的软件改进。上周在 Microsoft Build 大会上发布的增强功能等软件方面的改进使得像 Stable Diffusion 这样充分利用新的 DirectML 优化功能的生成式 AI 模型性能翻倍。

随着越来越多的 AI 推理在本地设备上运行，PC将需要强大而高效的硬件以支持这些复杂的任务。为了满足这一需求，RTX GPU 将添加用于 AI 工作负载的 Max-Q 低功耗推理。在执行轻量级的推理任务时，GPU 将以极低的功耗运行，而在运行繁重负载如生成式 AI 工作时，则可升至极高的性能水平。

为了创建新的 AI 应用，在 Windows 11上运行的整个 RTX 加速 AI 开发堆栈现已向开发者开放，使 AI 模型的开发、训练和部署变得更容易。开发者首先会通过Windows Subsystem for Linux（WSL）上经过优化的深度学习框架开发和微调模型。

然后开发者可以无缝上云并在各个主要云服务商（CSP）提供的相同 NVIDIA AI 堆栈上进行训练。接下来，开发者使用全新 Microsoft Olive 等工具优化训练好的模型以实现快速推理，最后面向专为 AI 优化的系统的 1 亿多 RTX PC 和工作站部署AI 应用和功能。

微软 Windows 芯片和系统集成副总裁 Pavan Davuluri 表示：“未来几年，AI 将成为推动 Windows 客户创新的最大驱动力。我们正在与 NVIDIA 开展软硬件优化方面的合作，以此为开发者提供变革性的、高性能的、易于部署的体验。”

迄今为止，超过 400 款已发布的应用和游戏由 RTX AI 提供加速，该阵容还在持续壮大中。

在拉开了Computex 2023 序幕的主题演讲中，NVIDIA 创始人兼首席执行官黄仁勋介绍了用于游戏开发的新生成式 AI——NVIDIA ACE 游戏开发版（NVIDIA Avatar Cloud Engine (ACE) for Games）。

通过 AI 驱动的自然语言互动，这项自定义 AI 模型代工服务使游戏中的非玩家角色（NPC）更加智能，从而彻底改变游戏体验。中间件、工具和游戏开发者可以使用 “ACE 游戏开发版（ACE for Games）” 在他们的软件和游戏中建立并部署定制化的语音、对话和动画 AI 模型。

在 RTX 上运行的生成式 AI 无处不在

从服务器到云，再到设备，在 RTX GPU 上运行的生成式 AI 无处不在。NVIDIA 的加速 AI 计算具有低时延、全栈式的特点。多年来，我们一直在优化 AI 软硬件架构的各个部分，包括 RTX GPU 上的专用 AI 硬件——第四代 Tensor Core。

通过对驱动的定期优化，能够确保峰值性能。最新 NVIDIA 驱动在与经 Olive 优化的模型和 DirectML 更新结合后，能够在Windows 11上大幅提升开发者的速度。例如在 Stable Diffusion 中，使用 DirectML 优化路径的开发者将干扰时间缩短了两倍。

借助基于 NVIDIA Ada Lovelace 架构打造的最新一代 RTX 笔记本电脑和移动工作站，用户可以在任何地方运行生成式 AI。新一代移动平台的外形尺寸只有 14 英寸，重量仅为 3 磅左右，将性能和便携性提升至新高。戴尔、惠普、联想、华硕等制造商正在 RTX GPU 和 Tensor Cores 的支持下，推动生成式 AI 时代的发展。

●“随着各个行业继续部署 AI，预计到 2030 年，AI需求的年增长率将超过 37%，企业和消费者将越来越需要合适的技术以实现 AI 的开发和落地，比如生成式 AI 等。多年来，联想一直致力于开发适用于 AI 工作负载的产品和解决方案，进而助力扩展生成式 AI 的应用范围——从设备到服务器、再到云。联想 ThinkPad、ThinkStation、ThinkBook、Yoga、Legion 和 LOQ 等搭载 NVIDIA RTX GPU 的 PC 正在推动生成式 AI 的变革浪潮，在节省时间、创作内容、完成工作和游戏等方面提供更好的用户体验。”

——联想副总裁兼 PC 业务和智能设备首席技术官 Daryl Cromer

●“生成式 AI 是一项革命性的技术，同时也是促进各个行业未来创新的催化剂。惠普与 NVIDIA 共同为开发者提供卓越的性能、移动性以及运行当前加速 AI 模型所需的可靠性，推动全新生成式 AI 时代的发展。”

——惠普高级副总裁兼 Z 系列总经理 Jim Nottingham

●“我们近期与 NVIDIA 围绕 Project Helix 的合作重点是助力企业更轻松地在本地构建和部署值得信赖的生成式 AI。在这个历史性时刻，我们进一步将生成式 AI 引入 PC 。想象一下，应用开发者能够在完善神经网络算法的同时，在本地控制训练数据和 IP。正是为了实现这个目标，我们设计了搭载 NVIDIA RTX GPU 的强大、可扩展 Precision 工作站。作为工作站领域的全球领导者，戴尔在帮助用户安全加速从边缘到数据中心的 AI 应用方面具有独特的优势。”

——戴尔科技客户产品部总裁 Ed Ward

●“生成式 AI 的时代正在到来，因此需要强大的处理能力和经过全面优化的软硬件。借助 NVIDIA AI 平台，包括现在已经预装到我们许多产品上的 NVIDIA Omniverse，我们十分高兴能看到 AI 的变革在华硕和 ROG 笔记本电脑上持续不断地推动着。”

——华硕全球消费业务市场总监 Galip Fu

很快，搭载 RTX GPU 的笔记本电脑和移动工作站就将做到“两全其美”。纯 AI 推理工作负载将根据 Tensor Core 的性能进行优化，同时尽可能降低 GPU 的功耗，延长电池续航时间，并保持系统拥有出色的散热和降噪表现。 GPU 还可根据工作负载的需要，动态提升至最高 AI 性能。

开发者可以访问面向加速应用开发者的 NVIDIA AI 网页，了解如何对应用进行端到端优化，以充分利用 GPU 加速。

关于 NVIDIA自1993年成立以来，NVIDIA (NASDAQ: NVDA) 一直是加速计算领域的先驱。NVIDIA 1999年发明的GPU驱动了PC游戏市场的增长，并重新定义了现代计算机图形，开启了现代AI时代，正在推动工业元宇宙的创造。NVIDIA现在是一家全栈计算公司，其数据中心规模的产品正在重塑整个行业。更多信息，请访问 https://nvidianews.nvidia.com/ 。

QCT和Supermicro率先使用这项支持100多种系统配置的服务器规范来加速AI、HPC、元宇宙工作负载

COMPUTEX——2023年5月29日——为了满足全球数据中心多样化的加速计算需求，NVIDIA今天在COMPUTEX发布了NVIDIA MGX™服务器规范。该规范为系统制造商提供了一个模块化参考架构，以快速、经济高效地制造100多种服务器机型，适用于广泛的AI、高性能计算和元宇宙应用。

ASRock Rack、ASUS、GIGABYTE、Pegatron、QCT和Supermicro将采用MGX，它可将开发成本削减四分之三，并将开发时间缩短三分之二至仅6个月。

NVIDIA GPU产品副总裁Kaustubh Sanghani表示：“在构建满足特定业务和应用需求的数据中心时，企业正在寻求更多的加速计算选项。我们设计MGX是为了帮助各个机构可以自行开发企业AI，同时节省他们大量时间和金钱。”

通过MGX，制造商以一个为加速计算优化的服务器机箱作为基础系统架构入手，然后选择适合自己的GPU、DPU和CPU。不同的设计可以满足特定的工作负载，如HPC、数据科学、大型语言模型、边缘计算、图形和视频、企业AI以及设计与模拟。AI训练和5G等多种任务可以在一台机器上处理，而且可以轻松地升级到未来多代硬件。MGX还可以轻松集成到云和企业数据中心。

与行业领导厂商合作

QCT和Supermicro将率先在8月份上市采用MGX设计的机型。Supermicro今天发布的ARS-221GL-NR系统将采用NVIDIA Grace™ CPU超级芯片，而QCT今天宣布的S74G-2U系统将采用NVIDIA  GH200 Grace Hopper超级芯片。

此外，SoftBank Corp计划在日本各地推出多个超大规模数据中心，并使用MGX在生成式AI和5G应用之间动态分配GPU资源。

SoftBank Corp总裁兼首席执行官Junichi Miyakawa表示：“随着生成式AI日益进入商业和消费者的生活方式中，以合适的成本构建合适的基础设施是网络运营商面临的最大挑战之一。我们期待NVIDIA MGX能够应对这些挑战，以满足多用途AI、5G以及更多依赖实时工作负载的需求。”

不同的设计满足不同的需求

数据中心越来越需要满足不断增长的算力需求并降低碳排放，以应对气候变化，同时还要降低成本。

由NVIDIA加速计算加速的服务器长期以来一直提供卓越的计算性能和能效。现在，MGX模块化的设计使系统制造商能够更有效地满足每个客户独特的预算、供电、散热设计和机械要求。

多种规格尺寸提供最大的灵活性

MGX提供不同的规格尺寸，并兼容当前和未来多代NVIDIA硬件，包括：

• 机箱：1U、2U、4U（风冷或液冷）

• GPU： 完整的NVIDIA GPU产品组合，包括最新的H100、L40、L4

• CPU：NVIDIA Grace CPU超级芯片、GH200 Grace Hopper超级芯片、X86 CPU

• 网络产品：NVIDIA BlueField®-3 DPU、ConnectX®-7网卡

MGX与NVIDIA HGX™的不同之处在于，它能够灵活地兼容多代NVIDIA产品，确保系统制造商能够重新利用现有设计，并轻松地采用下一代产品，而无需代价高昂的重新设计。相比之下，HGX基于一个通过NVLink® 连接的多GPU基板，为打造极致的AI和HPC系统而量身定制。

软件进一步驱动加速

除硬件外，MGX还得到NVIDIA完整软件栈的支持，使开发人员和企业能够开发并加速AI、HPC和其他应用。其中包括NVIDIA AI Enterprise，即NVIDIA AI平台的软件层，它涵盖100多个框架、预训练模型和开发工具，可为AI和数据科学加速，从而全面支持企业AI的开发和部署。

MGX兼容开放计算项目（Open Compute Project）和电子工业联盟（Electronic Industries Alliance）的服务器机架，可快速集成到企业和云数据中心。

观看NVIDIA创始人兼首席执行官黄仁勋在2023年COMPUTEX主题演讲中介绍MGX服务器规范。

关于 NVIDIA自1993年成立以来，NVIDIA (NASDAQ: NVDA) 一直是加速计算领域的先驱。NVIDIA 1999年发明的GPU驱动了PC游戏市场的增长，并重新定义了现代计算机图形，开启了现代AI时代，正在推动工业元宇宙的创造。NVIDIA现在是一家全栈计算公司，其数据中心规模的产品正在重塑整个行业。更多信息，请访问 https://nvidianews.nvidia.com/ 。

稿源：美通社

近日，Gartner发布全球服务器市场指南《Market Guide for Servers》，从市场定义、市场方向、市场规模等角度对全球服务器厂商进行全面评估与研究，并甄选出代表性厂商，是全球用户进行服务器选型的重要参考和依据。浪潮信息入围全球服务器标杆厂商，在液冷、开放计算等多方面能力获得高度认可。浪潮信息一直深度参与着全球企业的数字化、智慧化转型，参与全球数字经济的发展与数字社会的构建，为建设一个可持续发展的未来贡献计算力量。

开放 推动计算产业持续发展

随着云计算、大数据、AI等应用的普及，数据中心产业呈现出规模化、集中化，如今10万台、50万台服务器规模的数据中心越来越常见，特别是一些CSP，其数据中心大型化趋势非常明显。大型、超大型数据中心的发展推动服务器架构设计的进一步演进，灵活性、集成度、可管理性等不断提高，更适合大型数据中心部署。

Gartner指出，超大规模服务提供商是服务器技术和体系结构创新的主要驱动力之一。超大规模企业需要更加敏捷的创新产品及服务，以降低数据中心的能耗和运营成本，并针对特定的工作负载进行更多优化。以OCP为代表的开放计算项目，创造出一种全新的、全球化的协作模式，通过消除技术壁垒，使得硬件创新的速度远超过去，加速技术创新迭代。

作为开放计算项目先行者、OCP中国社区牵头方，浪潮信息始终坚持开放、开源的技术路线，持续推动开放计算产业化，加速开源技术普惠。目前，浪潮信息积极参与面向AI、边缘等标准规范的建立，参与OCP Hardware Management Module 项目组DC-SCM2.0规范的制定与完善，并牵头OAM规范、天蝎标准、边缘OTII规范等；同时推动技术标准产品化，率先向社区贡献了多款产品，以供全球厂商借鉴。

过去十年，数据中心计算呈现指数级增长，未来的挑战在于，如何建立一个可扩展且可持续的基础设施从而满足不断增长的计算需求，低功耗但高效的计算将会成为一个崭新的主导因素。

液冷全链条打造 助力数据中心绿色发展

Gartner全球服务器市场指南指出，服务器是数据中心中最大的能源用户之一，它推动了大部分IT的总体碳足迹以及大多数企业的废物产生。随着全球数字业务的快速发展，对计算的需求不断增长，越来越多的CEO将可持续发展作为关键的业务驱动力，许多客户正在优先考虑服务器的环境可持续性管理。

在"碳达峰"、"碳中和"的关键期，浪潮信息探索绿色数据中心解决之道，为经济社会发展打造"低碳" 数字底座，秉承全线支持液冷的策略，通用服务器、高密度服务器、整机柜服务器、AI服务器等全产品线支持冷板式液冷。为更好的推动液冷规模化、产业化，浪潮信息建成亚洲最大的液冷数据中心研发生产基地，构筑了从研发、测试、生产、 交付的全链条液冷智造能力，年交付能力超过 10 万台，为不同类型的数据中心提供液冷系列产品、改造和部署方案，整体 PUE 降至 1.1 以下。

可持续性不仅限于服务器全生命周期的能效，也包括服务器是如何制造的，在其生命周期内将使用多少能源，以及它是被重复使用的、回收的还是会被丢弃。浪潮信息坚持产品全生命周期的绿色管理。2021年，开展工业产品绿色企业国家认证，参与国家绿色制造项目和国家标准的编制，减少塑胶等材料使用，产品包装使用循环可再生材料，减少 350 吨包装材料使用量。同时，全面贯彻绿色生产，生产单个产品用电量同比降低 26.38%，75 个产品获得中国节能认证。在最新一代的服务器平台，从产品内部材料到外部包装，均实现了绿色可持续，其内部电子材料满足ROHS标准（不含铅、镉等6类有害金属），包装材料使用100%可回收材料，塑胶材料用量减少30%，若应用到全球服务器，可减塑超94000吨。

稿源：美通社