- AI
- Clea
超越部署:如何让 Edge AI 模型在现场持续学习
Edge AI 实现了真正具有变革意义的实时决策能力。然而,只有当模型能够随着时间推移不断学习和改进时,Edge AI 的全部潜力才能得到发挥。

AI 模型的持续改进对于适应动态环境、应对模型漂移和错误,以及实现新服务、新功能和更深层次的个性化至关重要。这种持续学习可确保 AI 解决方案在部署很久之后依然保持相关性和有效性。
边缘环境的难题
部署后训练在边缘端面临独特的挑战,原因有多个,其中资源是首要限制。模型训练向来是资源消耗极大的任务,却必须在嵌入式系统上执行,同时又不能影响性能。其固有的难点在于,由于尺寸限制,嵌入式硬件的算力、功耗和内存往往十分有限。
除资源限制之外,数据隐私和安全也构成重大障碍。如果将未经妥善匿名化或加密的数据用于训练,可能引发法律和监管方面的重重风险,尤其是在涉及敏感信息或个人身份信息时。
此外,边缘环境的带宽并不总是可靠。如果模型的训练依赖互联网,任何连接中断都可能影响其功能。
这些挑战在技术上虽然复杂,但只要采用合适的学习方法、训练技术和技术栈,就能够克服。
Edge AI 如何学习
概括而言,边缘端的部署后训练通过三种方式之一完成:在设备本身上进行、在云端进行,或通过共享学习生态系统进行。将这些方法与合适的模型适配技术相结合,企业可以确保其 AI 在部署后继续不断学习。
设备端学习(On-Device Learning)——采用设备端学习时,AI 模型直接在边缘硬件上训练或更新。模型使用来自自身传感器或用户交互的数据进行微调,并对这些数据进行预处理和摄取。
这种方法非常适合动态、实时的个性化场景,并且由于不传输或共享数据,可保护用户隐私。但其主要缺点是存在过拟合的风险:由于本地数据集较小,模型可能会“死记硬背”数据,而不是学习通用模式,导致无法泛化到新数据。
联邦学习(Federated Learning)——作为纯设备端学习的替代方案,联邦学习引入一台中央服务器,来协调多台设备之间的训练。在这一模式下,中央服务器将 AI 模型分发给一批边缘设备。每台设备随后在其本地数据集上训练该模型,并将训练结果(而非原始数据)回传给服务器。服务器汇总这些结果,并向所有设备发布整合后的模型更新。
由于只传输模型更新,这种方法既节省带宽又安全。不过,其中的一个关键挑战是,要在各类不同的边缘设备之间同步这些更新,通常需要专门的软件。
基于云的再训练(Cloud-Based Retraining)——第三种方法是基于云的再训练,与传统的模型训练最为相似。这种方法由云平台收集来自边缘设备的数据,并将其传输到云端,以重新训练集中式 AI 模型。训练完成后,更新后的模型会被传回每台设备。
这种方法虽然可以支持更复杂的再训练任务和全面的模型更新,但严重依赖连接,并可能受到延迟的影响。此外,传输原始数据会引发隐私问题,因为如果没有适当的加密,敏感信息可能会泄露。
现场模型适配的实用技术
为应对边缘环境的特定局限,可以将若干适配技术与上述学习方法搭配使用。
- 增量学习(Incremental Learning):在增量学习中,模型随新信息的到来不断吸收。这些数据主要用于微调模型、管理漂移并适应新的数据模式,同时模型仍专注于其原有功能。一个常见的例子是可穿戴健身追踪器根据佩戴者的新数据进行更新。
- 迁移学习(Transfer Learning):增量学习是对模型进行微调,而迁移学习则是让模型“改作他用”。使用这种技术,一个在大型通用数据集上预训练的模型,只需借助小得多的本地数据集,即可适配到特定任务。这大幅降低了模型训练所需的算力、内存和能耗,从而使更复杂的 AI 能够部署在边缘端。例如,自动驾驶系统可以利用迁移学习,针对新环境训练其目标检测模型。
- 持续学习(Continual Learning):持续学习将适配更进一步,使模型能够随时间学习全新的功能。在这里,模型摄取源源不断的数据,以帮助其学习新任务或适应新能力。与专注于原始任务的增量学习不同,持续学习会扩展模型的作用领域,使其能够更好地适应所处生态系统中的重大变化。例如,智能恒温器可以利用持续学习,与新安装的智能空调实现联动。
在实践中,采用混合方法往往最为有效,即综合运用多种技术,例如将设备端训练与持续学习以及定期的云端再训练相结合。
选择合适 AI 技术栈的重要性
这些先进的学习和适配技术功能强大,但它们依赖于经过周密设计的硬件和软件技术栈,才能确保模型更新真正得以实现。这首先需要能够满足模型资源需求的硬件,以及能够以最少人工干预管理、协调、调度并保护训练更新的软件。
至关重要的是,硬件和软件必须作为一个统一的整体运行,而不是各自独立的组件。如果没有合适的集成基础设施,模型在部署后就无法有效学习,并可能遇到关键瓶颈,从资源短缺到彻底的硬件故障不一而足。
为解决这一问题,SECO 提供完整的集成硬件、软件和工具栈,专为最复杂的 edge AI 部署而设计。我们的许多边缘设备配备专用的神经网络处理单元(NPU)和 AI 加速器来处理高要求的工作负载,并支持 Axelera 基于硬件的人工智能处理单元(AIPU)加速器等第三方方案。
将这些强大硬件连接在一起的是我们的模块化软件框架 Clea,它为部署后学习提供完整的生态系统。我们提供您所需的一切:先通过拖放式的 Clea AI Studio 开发 AI 模型,将其部署到一台或多台边缘设备,然后确保模型无论运行在哪种边缘设备上都能持续学习。
结语
部署后学习对任何成功的 edge AI 实施都至关重要,因为它使模型能够提供更好的个性化体验、适应动态环境,并随着您的业务和客户需求不断演进。虽然选择合适的学习技术对于保持模型的准确性和有效性至关重要,但底层的解决方案技术栈同样重要。SECO 提供您取得成功所需的集成技术栈。
欢迎联系我们,了解我们如何帮助您构建自适应、动态的 edge AI。
订阅 SECO 新闻通讯。
在 seco.com 上用您的电子邮件地址订阅。



