边缘AI这几年很热。但如果站在工程师的角度看,一个模型能够在开发板上跑起来,距离真正做成产品,其实还差得远。
摄像头采集的数据怎么处理?不同AI模型怎么衔接?推理任务哪些交给CPU,哪些放到FPGA?实时结果怎么输出?设备是不是必须依赖云端?这些问题一个个看起来都不大,真正组合起来,却很容易把一个AI Demo变成一个复杂的工程项目。
所以,边缘AI正在进入一个很有意思的阶段:过去大家关注的是“能不能跑AI”,现在更需要解决的是“能不能把完整AI流程跑起来”。
MakarenaLabs的MuseBox与瑞苏盈科(Enclustra) Mercury+ MP1的组合,正是在这个方向上给出了一个比较典型的思路。它不是简单把一个AI模型放进FPGA,而是试图把Linux处理、FPGA硬件加速、AI模型以及整个推理流程组织到同一个边缘平台中。

一块SoM,为什么还要把CPU和FPGA放在一起?
这套方案的硬件基础是瑞苏盈科(Enclustra)的Mercury+ MP1,核心采用Microchip PolarFire SoC。它的一个关键特点,就是没有把CPU和FPGA割裂开来。Linux运行在SoC的处理系统上,而需要硬件加速的AI任务,则可以通过VectorBlox以及自定义FPGA IP来实现加速。

这套架构其实非常符合边缘设备的现实需求,因为边缘AI不是只有“算”。系统启动、设备管理、网络通信、数据调度、应用逻辑,这些工作依然需要处理器完成;而对于实时性要求更高、数据吞吐更大或者适合并行处理的任务,FPGA则可以提供另一条路径。
简单来说:CPU负责灵活,FPGA负责加速。
这句话听起来有点老,但放到今天的边缘AI里,依然很实用。尤其是当设备面对不同传感器、不同数据流和不同AI模型时,硬件可定制能力就不只是一个“加分项”,而可能直接影响产品能不能落地。
真正让方案发生变化的,是MuseBox
如果只有Mercury+ MP1,那么它本质上仍然是一套具备CPU+FPGA能力的SoC硬件平台。MuseBox加入之后,事情就变了。资料中对MuseBox的定位非常明确——它负责AI流程的编排,可以把完整AI Pipeline放在本地运行,从实时输入一直到推理和输出,不强制依赖云端。
这个变化其实很关键,因为真正的边缘AI应用,很少是一个模型从头跑到尾。实际系统往往是多个处理环节串起来的。比如视觉场景中,前端可能首先获取视频流,然后进行图像处理,再进入目标检测、深度估计或者人脸分析等AI任务,最后把结果交给应用层。
如果这些事情全部靠工程师自己拼起来,开发难度自然不低。MuseBox做的事情,可以理解为给底层硬件和上层AI应用之间搭了一层“编排层”。它让硬件加速能力不再只是孤立存在,而是成为完整AI处理流程的一部分。这也是这个方案比较值得关注的地方。
从“单个模型”到“AI Pipeline”
MuseBox目前展示的AI能力包括人脸检测、识别与分析、目标检测、深度估计,以及人脸和手部关键点检测、手掌检测等。单独看这些功能,其实并没有什么神秘之处。真正值得看的,是这些能力被放到了一个统一的边缘AI平台里。

换句话说,它关注的不是:“我能不能运行一个模型?”,而是:“多个AI任务能不能在设备本地形成一条连续的处理链?”这两个问题看起来只差几个字,背后的工程复杂度却完全不同。
当AI应用从单一识别功能走向多模型协同,模型本身反而不再是唯一核心。数据如何流动、模型如何调度、硬件如何加速、结果如何交互,这些都会变成系统设计的一部分。因此,“AI Orchestration”这个概念开始有了实际意义,它不是单纯管理几个模型,而是把数据、模型、计算资源和应用流程组织起来。
FPGA的价值,也正在发生变化
过去很多人理解FPGA,首先想到的是高速接口、数字信号处理、视频处理或者通信。AI起来以后,FPGA当然也可以承担推理加速。但如果只把FPGA理解成“另一个AI加速器”,其实还是低估了它。
Mercury+ MP1这套架构真正有意思的地方,在于FPGA不是孤立工作的。它和Linux处理系统结合在一起,同时又可以通过VectorBlox或者自定义IP进行硬件加速。这意味着开发者面对的并不是一块只有固定AI能力的芯片,当应用发生变化,需要重新设计数据通路或者加入特定硬件功能时,FPGA仍然留有调整空间。
这恰恰是边缘设备比较看重的一点,毕竟工业视觉、机器人、智能终端等应用,往往不会像云端服务器那样拥有充足的算力和功耗空间。设备端真正需要的是:在有限资源下,把最关键的任务处理得足够快,而且还得稳定。FPGA在这里提供的,除了算力,还有一定程度的硬件自由度。
为什么“本地运行”越来越重要?
这套方案还有一个容易被忽略的关键词:Local。
MuseBox可以让完整AI流程在边缘侧运行,不强制依赖云端。这并不意味着云端AI没有价值,恰恰相反,云端仍然适合大规模模型训练、集中式数据处理以及复杂计算。但到了设备端,很多任务并不需要把原始数据全部送到云端。
实时视觉就是典型例子。摄像头的数据持续进入,如果每一帧都经过网络传输再等待云端返回结果,系统的实时性和稳定性都会受到影响。而在本地完成采集、处理、推理和输出,整个系统的响应链路可以更短。这也是边缘AI真正的价值之一:不是为了“脱离云”,而是让需要实时完成的事情,就地完成。
从硬件平台走向“可用的AI平台”
这套方案还有一个比较现实的设计:MuseBox支持WebSocket集成,并提供可选的No-Code GUI。这两个能力看起来不像FPGA参数那么“硬核”,但对于产品开发反而很重要。
因为硬件厂商最终面对的客户,不一定都是FPGA工程师。如果每一个应用都要求客户深入理解SoC架构、FPGA IP、AI模型部署和底层数据通路,那么硬件平台本身再强,推广起来也会比较吃力。
所以真正成熟的边缘AI平台,最终一定会出现一种趋势:底层越来越复杂,上层反而越来越简单。
复杂性留在平台里面。客户看到的,则应该是一个可以配置、调用和部署的AI能力。MuseBox的No-Code GUI和WebSocket接口,本质上就是在做这种“降低应用门槛”的事情。
对FPGA产业来说,这可能才是更值得关注的变化
如果把Mercury+ MP1和MuseBox单纯当成一个AI Demo来看,其实没有必要过度解读。但如果把它放到整个边缘计算产业里看,就能发现一个趋势越来越清楚:未来的边缘AI竞争,不只是芯片算力竞争。
硬件架构、AI加速能力、软件工具链、模型部署以及应用编排,正在逐渐变成一个整体。这也是为什么SoM越来越适合这种应用。
资料中的完整平台由MakarenaLabs MuseBox AI Server、瑞苏盈科(Enclustra) Mercury+ MP1 SoM与ST1基板、Microchip PolarFire SoC,以及VectorBlox/自定义FPGA加速组成,每一层负责不同的事情:
SoM解决硬件集成问题;
PolarFire SoC提供处理与FPGA资源;
VectorBlox和自定义IP承担硬件加速;
MuseBox则负责把这些能力组织成完整AI流程。
这样一来,AI就不再只是“芯片上的一个模型”,它开始真正成为设备的一部分。
从Demo到产品,中间差的就是这一层
其实现在做一个AI Demo并不算特别难。真正困难的是把它变成一个长期运行、实时响应、能够与设备系统协同工作的产品。
这也是MuseBox与Mercury+ MP1组合给出的一个比较有价值的启示:边缘AI的下一阶段,不应该只追求“把模型跑起来”,而应该关注“把整个AI Pipeline跑起来”。
从输入,到预处理;
从CPU,到FPGA;
从模型推理,到结果输出;
再到应用接口和系统协同。
只有这些环节真正连起来,边缘AI才算完成了从技术演示到产品能力的跨越。
对于FPGA而言,这同样意味着新的角色。它不再只是传统意义上的逻辑资源或者硬件加速器,而有机会成为边缘AI系统里的可编程计算底座。
而PolarFire SoC与Mercury+ MP1提供的是这块底座,MuseBox做的,则是把底层能力真正“组织起来”。
所以,“能跑AI”只是起点。真正值得期待的,是让AI在设备里持续、实时、稳定地跑完整个流程。
这或许才是边缘AI走向规模化落地之后,FPGA真正值得抓住的机会。
长按下方二维码关注我们,获取更多有趣demo及最新资讯。

瑞苏盈科官方微信公众号
来源:Enclustra