157 TOPS 算力!AIO-OrinNX 主板助力边缘 AI 应用

Firefly 最新推出 NVIDlA Jetson Orin 主板,搭载 Jetson Orin 系列核心模组,算力最高可达 157 TOPS,支持大模型私有化部署,为边缘 AI 应用的开发与部署提供强劲的算力支持。

1.png

高性能边缘计算模组

搭载 NVIDIA Jetson OrinNX 边缘计算模组(16GB版),配置八核 ARM CPU 和 32 个 Tensor Core 的 1024 核 NVIDIA Ampere 架构 GPU,能够运行多个并发的 AI 应用程序管道,提供强大的 AI 性能。

2.png

高达 157 TOPS 算力

AIO-OrinNX 和 AIO-OrinNano 分别具有 157 TOPS 和 67 TOPS 的算力,能够运行当前主流的 AI 模型,实现更大型、更复杂的深度神经网络,具有物体识别、目标检测追踪、语音识别、及其他视觉开发等功能,适配多种 AI 应用场景。

3.png

全面的大模型私有化部署

支持现代主流 AI 模型私有化部署,如 LLaMa2、ChatGLM、Qwen 等大型语言模型、ViT、Grounding DINO、SAM 等视觉大模型、支持 AIGC 领域的 Stable Diffusion V1.5 图像生成模型等。

4.png

最高支持 8K 视频解码

AIO-OrinNX 支持 18 路 1080p30 H.265 视频解码,最高可支持 1x8K30(H.265)、2x4K60(H.265)、4x4K30(H.265)、9x1080p60(H.265)、18x1080p30(H.265)视频解码,满足各类 AI 应用场景的需求。

5.jpg

边缘生成式 AI

NVIDIA Jetson Orin 系列可提供强大的 AI 计算能力、大容量统一内存和全面的软件堆栈,能够以超高能效驱动最新的生成式 AI 应用。它能够使任何由 Transformer 架构提供支持的生成式 AI 模型进行快速推理,在 MLPerf 上实现卓越的边缘性能。

AI 软件堆栈和生态系统

通过全面的 AI 软件堆栈和生态系统,在边缘生成式 AI 以及 NVIDIA Metropolis 和 Isaac 平台的支持下,使边缘 AI 和机器人开发实现大众化。借助 NVIDIA JetPack、Isaac ROS 和参考 AI 工作流程,无需依赖内部 AI 资源,即可将先进的技术集成到产品中。

6.png

广泛的应用场景

广泛适用于企业安防、交通管理、公共安全、环境保护、智慧城市、家庭安防等类型产品和领域。

规格参数

7.png

来源:Firefly开源团队