在边缘运算设备上，推动低功耗和低延迟深度的学习模型、计算器硬件以及人工智能推理系统这些项目的发展，持续创造令人兴奋的新机遇。业界相关产业对于应用在深度学习的硬件和软件解决方案（也称为Edge AI，边缘运算）的开发产生了前所未有的兴趣。边缘运算已经开始在某些指标性的应用中取得进展，例如音频信号分类(audio classification)中的关键词搜寻(keyword spotting)、异常检测(anomaly detection)以及计算机视觉应用中的人物辨识(person detection)。具体来说，tinyML是专为超低功耗系统量身订作的机器学习分支，具有远大的前景。这个提案中之解决方案的效率极高（功耗为毫瓦(mW)，甚至只有微瓦(μW)），加上其可广泛地部署到此类边缘运算在现实环境中设备的适用性，预计在未来5年内，将应用在超过1000亿个IoT传感器和设备[1]。蓄势待发之深度学习科技的未来，将通过比以往更加可负担、具有友善生态系、以及更容易使用的智能科技，提供客户及终端使用者更显着的便利。
晶心科技和Deeplite很高兴地宣布两家公司最新合作成果—通过使用Deeplite独特的优化软件和晶心科技低功耗RISC-V CPU核心研发出具有人工智能运算能力的应用程序(AI-powered applications)。这项合作关系着重于压缩(compressing)并加速(accelerating)著名的视觉唤醒词(Visual Wake Words (VWW))应用程序。微型相机可以利用此类程序，进行人物图像侦测。Deeplite及晶心科技共同获得了领先业界的结果，从利用浮点运算的Mobilenet-v1-0.25x模型中，产出各式优化的INT8模型。本次发表的第一组研发结果侧重于提高精确性，以精度为主的INT8模型优化提高了2.7％的精度，缩小了1.7倍(172 KB)的档案大小以及提高了9%的执行速度。第二组结果主要着重于最大化压缩(maximizing compression)。与TensorFlow Lite Micro提供的INT8 模型相比，本组专注于模型档案尺寸最小化的模块，成功做到缩小2.3倍(127KB)的档案大小，更高的精度(0.7％)和提高了15％的执行速度。(表1)
表1 参考模型和优化模型的模型之档案尺寸，精确性和运行时间之间的参数
「我们决心为低功耗设备提供最高效，最精确的解决方案，尤其是随着边缘计算类型之AI越来越多地在应用在智能助理、安全监控和智能制造应用中。」 晶心科技技术长兼总经理苏泓萌博士表示。「Deeplite的尖端软件为AI模型优化提供了一种有效的方法，可以增强目前架构的性能。Deeplite支持我们的AndeStar™ V5架构，并已于第一个具有RISC-V P 扩充指令 (DSP SIMD) 的CPU核心D25F上高效率的执行；客户能将之应用在选定的AI模型上。」
「Andes™ RISC-V CPU核心是非常理想的硬件的范例，替Deeplite的模型展示了优化的优点，为低成本、使用电池作为供电的设备，提供了以往无法达成的复杂智能功能。」Deeplite首席执行官Nick Romano说：「随着我们持续在业界最大的挑战上（如视觉唤醒词Visual Wake Words和语音关键词查询keyword spotting）取得领先成果，我们预计由Deeplite软件提供支持的边缘运算AI应用将出现大幅度的成长。」
领先业界的优化Deeplite软件结合晶心科技最新之RISC-V CPU核心，共同应用于tinyML上，可以解锁边缘AI运算之应用，例如语音识别或人物辨识，以满足微控制器等级之内存及计算要求。设备代工厂和应用程序开发人员现在可以为用户提供将其数据保存在终端设备上的优点，并同时提供日常生活中AI所需的实时且无缝式回应。
要了解技术白皮书和优化结果之详细内容，请联系Deeplite营销经理Anastasia Hamel anastasia@deeplite.ai。
关于晶心科技
晶心科技股份有限公司于2005年成立于新竹科学园区，2017年于台湾证交所上市(TWSE: 6533)。晶心是RISC-V国际协会(RISC-V International)的创始首席会员，也是第一家采用RISC-V作为其第五代架构AndeStar™基础的主流CPU供货商。为了满足当今电子设备的苛刻要求，晶心提供了可配置性高的32/64位高效CPU核心，包含DSP、FPU、Vector、超纯量(Superscalar)及多核心系列，可应用于各式SoC与应用场景。晶心并提供功能齐全的整合开发环境和全面的软/硬件解决方案，可帮助客户在短时间内创新其SoC设计。2020年Andes-Embedded™ SoC的年出货量突破20亿颗，而截至2020年，嵌入AndesCore™的SoC累积出货量已超过60亿颗。
关于晶心RISC-V AndesCore™系列
晶心科技全面的RISC-V CPU系列涵盖了入门级32位N22、中阶32位N25F/D25F/A25/A27和64位NX25F/AX25/AX27以及高阶多核A(X)25MP和向量处理器NX27V，以及近期则推出的最新超纯量的45系列。
关于更多晶心科技的信息，欢迎参阅晶心科技官网：http://www.andestech.com/
关于Deeplite
Deeplite成立于2018年，总部位于加拿大蒙特利尔，是一家致力实现深度学习于日常使用设备中的AI软件公司。Deeplite专有的AI软件平台，可自动调整其他AI模型，生成更快速、更精巧、更节能并且高度压缩、高性能的深度神经网络，可用于部署在摄影机，传感器，无人机，手机及车用等边缘运算设备上。自2018年成立以来，Deeplite的核心技术已可让全球最具创新能力的公司能够推动更高效的云端AI运算，并且让以往无法进行深度学习的嵌入式及低功耗设备，也迈入AI运算的领域。Deeplite被列入2020 CB Insights AI 100 非公开发行公司前一百强AI公司的名单，并被Gartner、福布斯及ARM AI选为Edge AI的主要创新者。欲了解更多信息，请至www.deeplite.ai
