边缘人工智能和云计算的演进

作者：Dan Clement 

2019 年之前，大多数物联网系统由超低功耗无线传感器节点组成，通常由电池供电，提供传感能力。

他们的主要目的是将遥测数据发送到云端进行大数据处理。随着物联网成为新的流行语和市场趋势，几乎每家公司都在这样做以实现概念验证 （PoC）。云服务提供商有漂亮的仪表板，以有吸引力的图表呈现数据，以帮助支持 PoC。PoC 的主要原因是说服利益相关者投资物联网并证明投资回报，以便为更大的项目提供资金。

随着这个生态系统的扩大，很明显有可能通过云来回发送太多数据。这可能会阻塞带宽管道，并使数据难以足够快地进出云。这也会产生至少令人讨厌的延迟，并且在极端情况下可能会破坏需要保证吞吐量的应用程序。

尽管 5G 和 Wi-Fi 6E 等标准承诺在带宽和传输速度方面有重大改进，但与云通信的大量物联网节点已经爆炸式增长。除了设备数量庞大之外，成本也在增加。早期的物联网基础设施和平台投资需要货币化，随着更多节点的添加，基础设施需要具有可扩展性和盈利能力。

大约在 2019 年，边缘计算的想法成为一种流行的解决方案。边缘计算在本地传感器网络中实现更高级的处理。这最大限度地减少了需要通过网关到达云并返回的数据量。这直接降低了成本，并在需要时为其他节点释放带宽。每个节点传输的数据更少，也有可能减少收集数据并将数据传输到云所需的网关数量。

增强边缘计算的另一个技术趋势是人工智能 （AI）。早期的人工智能服务主要是基于云的。随着创新和算法变得更加高效，人工智能已经非常迅速地转移到终端节点，并且它的使用正在成为标准实践。一个值得注意的例子是亚马逊 Alexa 语音助手。听到触发词“Alexa”后的检测和唤醒是边缘 AI 的常见用法。在这种情况下，触发字检测在系统的微控制器（MCU） 中本地完成。成功触发后，命令的其余部分通过 Wi-Fi 网络进入云端，在云端完成最苛刻的 AI 处理。这样，唤醒延迟最小化，以获得最佳的用户体验。

除了解决带宽和成本问题外，边缘 AI 处理还为应用程序带来了额外的好处。例如，在预测性维护中，可以将小型传感器添加到电动机中以测量温度和振动。训练有素的 AI 模型可以非常有效地预测电机何时出现或将出现轴承损坏或过载情况。获得此早期警告对于在电机完全失效之前对其进行维修至关重要。这种预测性维护大大减少了生产线停机时间，因为设备在完全故障之前得到了主动维修。这提供了巨大的成本节约和最小的效率损失。正如本杰明富兰克林所说，“一盎司的预防胜过一磅的治疗”。

随着更多传感器的添加，网关也可能被来自本地传感器网络的遥测数据淹没。在这种情况下，有两种选择可以缓解这种数据和网络拥塞。可以添加更多网关，或者可以将更多边缘处理推送到端节点。

将更多处理推向终端节点（通常是传感器）的想法正在进行中并迅速获得动力。终端节点通常以 mW 范围内的功率运行，并且大部分时间以 µW 范围内的功率休眠。由于端节点的低功耗和成本要求，它们的处理能力也有限。换句话说，它们的资源非常有限。

例如，一个典型的传感器节点可以由一个 MCU 控制，该 MCU 就像一个具有 64 kB 闪存和 8 kB RAM 且时钟速度约为 20 MHz 的 8 位处理器一样简单。或者，MCU 可能与具有 2 MB 闪存和 512 kB RAM 且时钟速度约为 200 MHz 的 Arm Cortex-M4F 处理器一样复杂。

向资源受限的终端节点设备添加边缘处理非常具有挑战性，需要在硬件和软件层面进行创新和优化。尽管如此，由于终端节点无论如何都会在系统中，因此增加尽可能多的边缘处理能力是经济的。

作为边缘处理演进的总结，很明显，终端节点将继续变得更加智能，但它们也必须继续尊重其对成本和功耗的低资源要求。边缘处理将继续流行，云处理也将如此。具有将功能分配到正确位置的选项允许系统针对每个应用程序进行优化，并确保最佳性能和最低成本。有效地分配硬件和软件资源是平衡竞争性能和成本目标的关键。适当的平衡可以最大限度地减少向云的数据传输，最大限度地减少网关的数量，并尽可能多地为传感器或终端节点增加功能。

超低功耗边缘传感器节点示例

由 ON Semiconductor 开发的 RSL10 智能拍摄相机通过可按原样使用或轻松添加到应用程序的设计解决了这些各种挑战。事件触发、AI 就绪的成像平台使用安森美半导体和生态系统合作伙伴开发的许多关键组件，为工程团队提供一种以低功耗格式访问支持 AI 的对象检测和识别功能的简单方法。

采用的技术是使用小巧但功能强大的 ARX3A0 CMOS 图像传感器来捕获单个图像帧，然后将其上传到云服务进行处理。在发送之前，图像由凌阳创新科技的图像传感器处理器（ISP） 进行处理和压缩。应用 JPEG 压缩后，图像数据通过低功耗蓝牙 （BLE）通信网络传输到网关或手机的速度要快得多（也可以使用配套应用程序）。ISP 是本地（端节点）边缘处理的一个很好的例子。图像在本地进行压缩，通过空中向云端发送的数据更少，从而通过减少通话时间显着节省电力和网络成本。

ISP 专为超低功耗运行而设计，工作时功耗仅为 3.2 mW。它还可以配置为提供一些可以进一步降低有功功率的传感器上预处理，例如设置感兴趣区域。这允许传感器保持在低功率模式，直到在感兴趣区域中检测到物体或移动。

进一步的处理和 BLE 通信由同样来自安森美半导体的完全认证的 RSL10 系统级封装 （RSL10 SIP） 提供。该器件提供行业领先的低功耗运行和较短的上市时间。

（图 1. RSL10 Smart Shot Camera 包含可快速部署的边缘处理节点所需的所有组件。）

如图 1 所示，该板包括多个用于触发活动的传感器。其中包括运动传感器、加速度计和环境传感器。一旦触发，该板可以通过 BLE 将图像发送到智能手机，然后配套应用程序可以将其上传到云服务，例如 Amazon Rekognition 服务。云服务实现深度学习机器视觉算法。对于 RSL10 Smart Shot Camera，云服务设置为进行对象检测。处理完图像后，智能手机应用程序将使用算法检测到的内容及其成功概率进行更新。这些类型的基于云的服务非常准确，因为它们实际上有数十亿张图像来训练机器视觉算法。

结论

如前所述，物联网正在发生变化并变得更加优化，以实现大规模且具有成本效益的扩展。不断开发新的连接技术以帮助解决功率、带宽和容量问题。人工智能不断发展，变得更有能力和效率，使其能够移动到边缘甚至终端节点。物联网正在增长和适应以反映持续增长并为未来增长做准备。