图片50
面对物联网、大流量等场景,为了满足更广泛的连接、更低时延、更好的控制等需求,边缘计算网关正在向更全局化、分布式节点组合的形式进阶,边缘计算成为其向边缘侧分布式扩展的新触角。
举例来说,物联网设备生成大量数据,上载到云进行处理,会给云带来很大压力,为了分担云上的压力,边缘计算节点负责范围内的数据计算。
与此同时,处理过的数据从边缘节点汇集到中心云,云计算做了大规模数据分析挖掘,数据共享,同时进行算法模型的训练与升级,将升级后的算法推送到边缘,使边缘设备得以更新与升级,从而实现自主学习闭环。
整体上对边缘AI的需求主要是高性能、低成本和高灵活性。它的技术发展趋势可以概括如下:程序设计、通用化;可扩展性,相同的模式支持不同的场景。功率小,适应环境和电力需求较多的边缘场景。深入的软件和硬件。高效率的分布式互连和协作运算。
在云数据中心,算法执行框架更多地执行模型培训任务。在培训过程中,需要接收大规模、批量的信息数据,更加注重培训的迭代速度和收敛率。在边缘设备上,更多的是执行预测任务,输入一般是实时的小规模数据,在大多数情况下执行预测任务,因此更关注预测算法的执行速度和端或边缘的资源支出。
这些边缘人工智能执行框架通过优化移动应用程序内核、预激活和量化内核来减少执行预测任务的延迟和内存占用。
此外,边缘计算在人工智能训练加速、安全信息预处理、边云集成人工智能算法方面仍处于起步阶段。设计面向轻量级,高效可扩展的边缘计算AI框架是实现边缘智能,大大拓展更多边缘AI场景落地的重要一步。
人工智能和边缘计算得到了国内外学术界和工业界的广泛关注和认可,并在许多商业场景中发挥了作用。将AI应用部署到边缘已成为提升智能服务的有效途径。
虽然边缘智能仍处于发展初期,但笔者认为边缘智能可以产生很大的促进作用,成为各行各业的粘合剂和智能产业发展的催化剂,促进多个产业的升级转型。