All Node List by Editor

即将推出的公测版优化了前处理和后处理，以四分之一的成本和能耗获得更高的吞吐量。

微软、腾讯和百度正在采用 NVIDIA CV-CUDA 开发计算机视觉 AI。

NVIDIA创始人兼首席执行官黄仁勋近日在宣布 NVIDIA CV-CUDA 公测版时强调了该开源项目在内容理解、视觉搜索和深度学习方面的成果。CV-CUDA 是一个云计算级别的计算机视觉开源 GPU 加速库。

黄仁勋在 NVIDIA GTC 大会主题演讲中表示：“80% 的互联网流量来自于视频，用户生成的视频内容正在推动流量大幅增长并消耗大量能源。我们应该加速所有视频处理并重新降低能耗。”

CV-CUDA 致力于帮助世界各地的公司在 GPU 上建立和扩展端到端的、基于 AI 的计算机视觉和图像处理流程。

使用AI 优化互联网规模的视觉计算

大部分的互联网流量来自于视频和图像数据，这推动了内容创作、视觉搜索、推荐以及地图等应用的惊人规模。

这些应用使用一套专门的、反复被使用的计算机视觉和图像处理算法，在神经网络处理图像和视频数据之前和之后对这些数据进行处理。

微软必应的视觉搜索引擎使用 AI 计算机视觉在互联网图片中搜索图片（例如狗粮）

虽然神经网络通常由 GPU 加速，但支持神经网络的计算机视觉和图像处理算法往往是当今 AI 应用中的 CPU 瓶颈。

CV-CUDA 通过将前处理和后处理步骤从 CPU 转移到 GPU，帮助在单个 GPU 上处理4倍的串流。因此，CV-CUDA能够以四分之一的云计算成本处理同样的工作负载。

CV-CUDA 库为开发者提供30多种高性能的计算机视觉算法，包含原生 Python API 和与 PyTorch、TensorFlow2、ONNX 与TensorRT机器学习框架的零拷贝集成。

其结果是为云 AI 业务提供了更高的吞吐量，同时降低计算成本并减少了碳足迹。

全球对计算机视觉AI的应用情况

全球行业领导者的采用体现了CV-CUDA 为越来越多大规模视觉应用所带来的益处以及多样的支持。拥有大规模图像处理工作负载的企业可以节省数千万乃至数亿美元的费用。

微软正将 CV-CUDA 整合到必应视觉搜索中，以支持用户使用图像而非文本来搜索，寻找类似的图像、产品或网页。

2019年，微软在 GTC 上分享了他们如何利用 NVIDIA 技术将语音识别、智能回答、文字-语音转换技术和物体检测无缝、实时地结合起来。

腾讯已部署 CV-CUDA 来加速其广告创作和内容理解流程，该流程每天处理30多万个视频。

相比之前经过 GPU 优化的工作流，在使用CV-CUDA后，这家总部位于深圳的多媒体集团在图像处理方面的能耗和成本均降低了20%。

而总部位于北京的搜索巨头百度正在将 CV-CUDA 整合到 FastDeploy中。FastDeploy 是百度飞浆深度学习框架的开源部署工具包之一，可以为开源社区的开发者提供无缝的计算机视觉加速。

从内容创建到汽车用例

CV-CUDA 的应用正在不断增加。在Alpha版本发布后的几个月内，就有500多家公司提出了100多个用例。

内容创作和电子商务中的图像会使用前处理和后处理算子来帮助推荐引擎识别、定位和策划内容。

在测绘领域，来自测绘车辆的视频需要预处理和后处理算子来训练云端神经网络，从而识别基础设施和道路特征。

在自动驾驶模拟和验证软件的基础设施应用中，CV-CUDA 使 GPU能够加速在车辆上发生的算法，例如颜色转换、失真校正、卷积和双边过滤等。

未来，生成式 AI 将改变视频内容创作和管理，使创作者能够接触到全球受众。

位于纽约的初创企业 Runway 已通过集成 CV-CUDA，缓解了其视频对象分割模型中的一个关键的高分辨率视频预处理瓶颈。

在部署 CV-CUDA 后，其速度提高了3.6倍，支持Runway 优化其创作工具套件中的实时内容点击响应速度。

Runway 联合创始人兼首席执行官 Cristóbal Valenzuela表示：“对于创作者来说，将一个想法变为现实过程中的每一秒都很宝贵。CV-CUDA 为数百万使用我们工具的创作者带来了积极且重要的变化。”

如需使用 CV-CUDA，请访问CV-CUDA GitHub。

或者在 GTC CV-CUDA 专题分会上了解更多信息。点击链接观看GTC 2023 主题演讲回看。

• 克服AI影像和计算机视觉流程中的前处理和后处理瓶颈 [S51182]

• 为自动驾驶汽车创建基于AI的高清地图 [SE50001]

• 与专家沟通：使用NVIDIA库实现GPU加速的数据处理 [CWES52014]

• 使用NVIDIA DeepStream的自定义GPU驱动插件推进AI应用[S51612]

NVIDIA生成式AI推理平台将集成至谷歌云Vertex AI中；谷歌云成为首家提供NVIDIA L4 GPU实例的云服务商

加利福尼亚州圣克拉拉 – GTC – 太平洋时间2023年3月21日 – NVIDIA今日宣布正与谷歌云合作，以帮助企业加速创建数量急剧增加的生成式AI应用。

谷歌云宣布从即日起提供 G2 虚拟机的非公开预览，成为首家提供NVIDIA L4 Tensor Core GPU的云服务商。此外，L4 GPU将在Vertex AI上提供优化支持，该平台现在支持构建、调整和部署大型生成式AI模型。

开发人员可以访问最先进的技术，帮助他们快速、经济地启动和运行新应用。L4 GPU是一款适用于几乎所有工作负载的通用GPU，具有更加强大的AI视频功能，可提供比CPU高120倍的AI视频性能，同时能效提高了99%。

NVIDIA创始人兼首席执行官黄仁勋表示：“生成式AI的大热激发了一轮公司转向云计算来支持自身业务模式的热潮。我们正在与谷歌云一起帮助他们以更容易的方式获取所需要的功能并创造出超凡的新工具和应用。”

谷歌云系统和服务基础设施副总裁Amin Vahdat表示：“生成式AI代表着一个新计算时代的到来，而这个时代正需要我们在谷歌云上提供的速度、可扩展性和可靠性。我们的客户已开始探索生成式AI的可能性，我们十分高兴能够将NVIDIA新的L4 GPU创新作为谷歌工作负载优化的Compute Engine产品组合的一部分供他们使用。”

帮助实现新一代生成式AI 应用

谷歌云为各种提供生成式AI应用的企业机构提供基础设施，其中许多基础设施的设计初衷就是为了帮助专业人士更好、更快地完成工作。而快速的推理正是成功运行他们这些应用的关键。

生成式AI也在推动许多新应用的发展，帮助人们建立联系、获得乐趣。WOMBO提供的一款名为Dream 的应用程序是一款AI驱动的文字-数字艺术转换应用。该公司是谷歌云上NVIDIA L4推理平台的早期用户之一。

WOMBO首席执行官Ben-Zion Benkhin表示：“WOMBO借助最新的AI技术，使人们能够根据用户的提示，创造出沉浸式的数字艺术作品，让其仅凭一个想法就能创造出任何风格、高质量、逼真的艺术作品。NVIDIA的L4推理平台将使我们能够为希望创造和分享独特艺术作品的用户提供更完善、更高效的图像生成体验。”

Descript提供基于AI的编辑功能，创作者只需要点击几下就能删除填充词、添加标题并进行社交媒体内容剪辑。他们也可以使用Descript的生成式AI语音克隆功能，只需通过输入就能修复音频错误，甚至创建整个配音的音轨。

Descript首席执行官Andrew Mason表示：“Descript使用NVIDIA TensorRT来优化模型，加快了AI推理速度。用户能够替换视频背景并增强语音，从而无需进入录音室就能制作出堪比录音室品质的内容。”

供应情况

NVIDIA L4 GPU现已在谷歌云上提供非公开预览，欢迎申请访问。

观看黄仁勋在GTC主题演讲中与NVIDIA的生成式AI推理平台集成到谷歌云相关的内容。

关于 NVIDIA

自1993年成立以来，NVIDIA (NASDAQ: NVDA) 一直是加速计算领域的先驱。NVIDIA 1999年发明的GPU驱动了PC游戏市场的增长，并重新定义了现代计算机图形，开启了现代AI时代，推动了元宇宙的创建。NVIDIA现在是一家全栈计算公司，其数据中心规模的产品正在重塑整个行业。更多信息，请访问 https://nvidianews.nvidia.com/。

电信巨头AT&T采用NVIDIA AI来提高数据处理效率，优化服务车辆路线规划并创建数字孪生和虚拟形象

加利福尼亚州圣克拉拉 – GTC – 太平洋时间2023年3月21日 - AT&T和NVIDIA于今日宣布了一项合作，AT&T将通过使用NVIDIA 驱动的AI来处理数据、优化服务车队路线规划并创建用于员工支持与培训的数字虚拟形象，以持续转变运营方式和增强可持续性。

AT&T是首个探索使用全套NVIDIA AI平台的电信运营商。 这些产品包括使用NVIDIA AI Enterprise 软件套件来提升其数据处理能力，这一套件包含NVIDIA RAPIDS Accelerator for Apache Spark；通过NVIDIA cuOpt，实现实时车辆路线规划和优化；通过NVIDIA Omniverse Avatar Cloud Engine和NVIDIA Tokkio，打造数字虚拟形象；以及通过NVIDIA Riva更好地利用对话式AI。

AT&T首席数据官Andy Markus表示：“为了在运营中实现净零排放，我们每天都在努力提供极为高效的全球网络。我们与NVIDIA一起推动了AI解决方案在我们业务中的应用，以此提升员工和客户的体验。”

NVIDIA企业计算副总裁Manuvir Das表示：“各个行业正在迎来一个新的时代，聊天机器人、推荐引擎和用于数据优化的加速库将有助于催生AI驱动的创新。此次合作将帮助AT&T更好地挖掘自身数据的价值，推动这家AI赋能的电信公司开发出新的服务和解决方案。”

破解数据困境

AT&T承诺在2035年前实现碳中和，并为此制定了广泛的措施以提高运营效率。该公司所面临的一个主要挑战是如何在优化能耗的同时，提供能够高速传输数据的网络基础设施。

AT&T平均每天处理超过590 PB的数据，相当于约650万部4K电影，比美国国会图书馆所有馆藏内容数字化后的数据量多出8倍以上。

以减少能耗为目标的电信公司在实际运营中会面临着种种挑战。根据移动行业协会 GSMA的数据，无线接入网络（RAN）占到网络内部能耗的73%，而核心网服务、数据中心和运维分别占13%、9%和5%。

为了在其AI和数据科学流程中充分利用节能型GPU，AT&T首先采用NVIDIA RAPIDS Accelerator for Apache Spark。无论是训练AI模型、维护网络质量和优化，还是减少客户流失和提高欺诈检测率，此举都帮助提高了公司的运营效率。

在使用Spark-RAPIDS的数据和AI流程中，AT&T节省了约一半的云计算支出，提高了性能，同时能够减少碳足迹。

改进现场调度服务

AT&T拥有一支大型现场调度团队为客户提供服务，该公司目前正在测试NVIDIA cuOpt软件，希望以此加强自身的现场调度能力，来应对更复杂的技术人员路线规划和优化挑战。

路线规划需要进行数万亿次计算，才能将从交通和天气条件、到客户的计划变更或技术人员的技能水平等各种因素考虑在内，而任何一项复杂的工作都可能会导致行程的增加。

在早期试用阶段，cuOpt在10秒内就提供了解决方案，而在x86 CPU上进行同样的计算需要花费1000秒。这使云成本降低了40%，并让技术人员每天能够完成更多的服务请求。NVIDIA cuOpt通过将NVIDIA RAPIDS与局部搜索启发式算法以及Tabu搜索等元启发式算法相结合，使AT&T能够运行近似近乎连续的调度优化软件。

通过高速网络提升客户满意度

为了提高公司15万多名员工生产力，AT&T正准备采用NVIDIA Omniverse ACE和NVIDIA Tokkio、云原生AI微服务、工作流以及应用框架， 使开发者能够轻松构建、定制和部署拥有视觉和感知能力、可进行智能交谈并提供建议的交互式虚拟形象，进而提升客户服务体验。

这家运营商还使用了NVIDIA Riva软件开发套件构建对话式AI，并且正在研究其他使用数字孪生和生成式AI的客户服务与运维用例。

AT&T还发挥5G及其光纤网络的高速优势，以移动端每秒120帧和家庭端每秒240帧提供NVIDIA GeForce NOW™云游戏服务。

关于 NVIDIA

自1993年成立以来，NVIDIA (NASDAQ: NVDA) 一直是加速计算领域的先驱。NVIDIA 1999年发明的GPU驱动了PC游戏市场的增长，并重新定义了现代计算机图形，开启了现代AI时代，推动了元宇宙的创建。NVIDIA现在是一家全栈计算公司，其数据中心规模的产品正在重塑整个行业。更多信息，请访问 https://nvidianews.nvidia.com/。

近日，GPT-4的震撼发布点燃了产业对AI的想象力，微软把GPT-4模型装进Office套件推出的Microsoft 365 Copilot则让大众对内容生产力的革新有了更直观地认识，AIGC带来颠覆性变革的愿景正逐步迈向现实。在以生成式AI为代表的AI2.0时代，企业数字化转型步伐将加速迈进。

作为数字化转型的实践者和赋能者，软通动力近年来始终坚持以全栈式数字技术给客户创造价值，经过多年探索，已将AI技术应用到企业数字化转型智能管理、财务、智能制造多种业务场景。通过第一时间与微软合作接入GPT-4，软通动力打造iPSA Copilot，将面向多行业领域的数字化转型提供知识图谱服务。

iPSA Copilot已发布内测版本，其具备聊天、问答以及文本生成、图片生成、自动文摘、语言翻译等功能。iPSA Copilot还通过fine-tune高阶功能，用软通动力自身数据对模型微调，训练出定制模型，为内部员工提供服务。这将是在数字化专业服务领域发挥GPT-4多模态能力的一次关键探索，软通动力希望通过深度结合AI能力，释放多年来在数字化服务领域的深厚积累，成为企业数字化转型的首选伙伴和首席顾问。

以在工业元宇宙方面的应用为例，通过接入iPSA Copilot，可以实现对任意空间场景的图像进行语义分割，自动生成建筑、室内、产线的场景模型，生产3D空间模型的数字资产，从而实现快速、高效、精准的企业元宇宙场景构建，助力智能制造高质量发展。

生成式AI赛道浪潮已起，但远未到达巅峰，软通动力将持续加大在AIGC领域的投入，iPSA Copilot会继续接入文心一言以及其他领先模型。随着完善程度逐步加深，iPSA Copilot将不断提升软通动力智能客服、工业元宇宙、业务智能化、数据智能等的服务能力，同时，结合iPSA Copilot、行业特性以及软通动力的服务优势，通过联合创新的方式，加速开拓在法律服务、财务服务、营销服务和客户服务方面的业务，助力企业降本增效，为客户提供数字化转型的新价值。

稿源：美通社