Habana Gaudi处理器为亚马逊 EC2客户带来低成本的人工智能训练体验

winniewei 提交于 周三, 12/09/2020
Habana Gaudi处理器为亚马逊 EC2客户带来低成本的人工智能训练体验

在近日举行的re:Invent 2020 CEO主题大会上,AWS 宣布了采用多8个Habana® Gaudi®加速器的EC2实例比目前GPU的EC2实例机器学习性价比上提升40%1基于Gaudi®的EC2实例计划于2021年上半年提供使用

在主题大会上,AWS首席执行官Andy Jassy强调了各行业对高性能、更实惠的人工智能工作的巨大需求随着公司计划引入以Gaudi为特色的新EC2实例进行深度学习训练,AWS将进一步降低AI数据集的训练成本,并降低希望利用AI提供业务分析、改善效率和增强用户体验的客户的运营总成本。

8卡的Gaudi 解决方案可以在TensorFlow上每秒处理12000张图像训练ResNet-50模型。每个Gaudi处理器集成了32GB的HBM2内存,并集成了用于服务器内部处理器互联的RoCE功能。凭借AWS弹性架构适配器(EFA)的技术可以跨服务器扩展,从而允许AWS及其客户无缝地扩展使用多个基于Gaudi的系统以实现高效和可扩展的分布式训练。

Habana的SynapseAI软件套件专为在Habana Gaudi处理器上提供高性能的深度学习训练SynapseAI与TensorFlow和Pythorch等流行的深度学习框架集成,对Gaudi进行了优化开发人员将可以获取开放的Gaudi软件、参考模型和文档参考模型将在Habana的GitHub知识库中公开发布,并将包括各种流行的模型,如图像分类、对象检测、自然语言处理和推荐系统。SynapseAI软件套件包括Habana的图形编译器和实时Tensor Processor Core (TPC)内核库、固件和驱动程序,以及用于定制内核开发的TPC SDK和SynapseAI Profiler等开发工具。有关在Gaudi上使用新的AWS EC2实例的更多信息,请参阅我们的白皮书

Habana将在目前Gaudi效能基础上,推出下一代TSMC 7nm 的Gaudi2®,让AI训练应用和服务广大客户、数据科学家和研究人员。

了解更多Gaudi AI训练的优势,欢迎访问EC2实例网页,以及Habana® AI训练介绍

1性价比由AWS根据AWS内部测试给出。 Habana® Labs不控制或审核第三方数据;您的成本结果可能会有所不同。

Gaudi®性能基于8个Gaudi®处理器的服务器,HLS—1和0.11版本的SynapseAI软件套件。

关于英特尔

英特尔(NASDAQ: INTC)作为行业引领者,创造改变世界的技术,推动全球进步并让生活丰富多彩。在摩尔定律的启迪下,我们不断致力于推进半导体设计与制造,帮助我们的客户应对最重大的挑战。通过将智能融入云、网络、边缘和各种计算设备,我们释放数据潜能,助力商业和社会变得更美好。如需了解英特尔创新的更多信息,请访问英特尔中国新闻中心newsroom.intel.cn 以及官方网站 intel.cn

相关文章

Digi-Key