如何让边缘AI变得更迅速?

AI应用的快速升级让感知AI与生成式AI不再是唯一主角,通过AI智能体对一项复杂工作从感知、生成到实践成为了新的可能。但诸如机械臂、机器人等对现实世界进行物理干预的AI智能体显然不可能每一条指令都依靠远方的AI服务器提供算力支持,如果端侧获得毫米级响应决策,并能很好的控制数据安全、优化成本、降低对网络依赖,对于AI应用普及无疑可以更进一步。这时候,边缘AI自然变得愈发重要。

边缘AI可以看成云端AI的补充。事实上,未来AI运算将呈现出训练与迭代在云端,推理与内容生产梯度分布在云、雾、边缘的格局。复杂的模型训练仍在云端进行,但实时的推理决策则下沉到边缘。特别是近期诸如Panther Lake等SoC大幅度提升AI TOPS算力,优秀的低功耗表现让其不再限制应用于笔记本电脑中,边缘AI在现实世界中的推广到了蓄势待发的节点。

AI智能体则可以看成边缘AI应用中一个重要的赋能,在延迟、隐私和成本得到解决的同时,也大幅降低了使用门槛。比如近端时间时常被提到的AI智能手机、AI机器人都正在向着这个方向发展,用户只需要提出最终的目的,收集信息、整理素材、最终操作都会交给AI智能体完成。

举个简单的例子,当用户希望在明天以优惠的价格和最短的时间前往某个目的地,AI智能体可以做到整理机票、酒店等相关信息,总结出合理的解决方案,然后最终订票的操作也由AI智能体完成。

1.jpg

正如开头所言。如果仅依靠AI服务器的算力,是没有办法做到许多本地工作的毫秒级响应和数据安全。通过边缘AI硬件的解决方案,即使在弱网的状态下,AI智能体也能很好的完成工作,甚至通过对本地信息的整理,获得定制化的AI,即保护了数据安全,也能给用户量身定制出效率更高的解决方案,让AI具备持续学习以适应环境变化的能力。

这并非天方夜谭的想象。以家庭网络存储为例,当NAS运算性能不断提升,融入了高性能NPU、GPU处理单元,AI NAS的概念随之诞生,通过本地数据重力,帮助家庭内多个AI终端设备就有了资源协同可能性。同样的概念可以应用到5G网络、工业物联网中,将生产数据、检测模型和操作记录整合到本地小型化的AI存储管理作为数据中转,向不同的AI智能体分享结论,让AI机械臂、AI机器人自动提升效率也同样变成了可能。

无论边缘AI是以什么样的形态运行,本地构建大容量、高并发、高可靠的数据存储也愈发重要。例如AI边缘服务器已经开始承担起关键角色,行业合作伙伴从M.2 SSD扩展至U.2甚至EDSFF SSD,通过高效存储寻找边缘AI的更多可能性。

其中铠侠CD9P系列最大容量可达61.44TB,每瓦功耗的性能表现出众,顺序读取提升约60%,顺序写入提升约45%,随机读取提升约55%,随机写入提升约100%,也给本地化的边缘AI存储方案提供了另一种全新的可能。

2.jpg

另外,拥有245.76TB容量的铠侠LC9系列SSD也提供了更多可能,凭借着行业最高的容量,让单个存储服务器仅利用4块LC9 SSD就能实现PB级存储,为AI高速缓存、训练温数据提供源源不断的空间。

在未来,随着AI智能体等AI应用的不断升级,未来边缘AI还将展现出更多可能。铠侠将与合作伙伴一起共同努力,提供高效、稳定、节能的存储方案,创造AI解决方案的更多可能性。