Aunque la inteligencia artificial a menudo se asocia con la computación en la nube, cada vez más cargas de trabajo de IA están migrando a dispositivos locales, un fenómeno conocido como edge AI. Este artículo explora las ventajas del edge AI y cómo la integración de Clea permite su implementación
Si bien la inteligencia artificial a menudo se asocia con la computación en la nube, cada vez más cargas de trabajo de IA están migrando a dispositivos locales, un fenómeno conocido como IA en el borde. Gracias a la aparición de procesadores integrados habilitados para IA de bajo costo y modelos de IA ligeros, ahora se puede encontrar IA funcionando en maquinaria en el piso de la fábrica, dentro de equipos médicos y en muchas otras aplicaciones de borde.
Las ventajas de la implementación de IA en el borde son sustanciales. El mayor beneficio es la reducción de la latencia. En lugar de esperar una respuesta de un centro de datos lejano e incurrir en tiempos de comunicación de red no determinísticos, los datos pueden procesarse en tiempo real. Mantener los datos sensibles en el dispositivo local también mejora la seguridad, reduciendo drásticamente las oportunidades de interferencia con la toma de decisiones guiada por IA. Estos factores permiten que la IA impulse operaciones confiables en tiempo real, una característica clave para casos de uso críticos en tiempo como vehículos autónomos y robótica que pueden no ser factibles dentro de un paradigma de IA basado en la nube.
La IA en el borde también reduce el consumo de energía al eliminar la necesidad de transferencias de datos constantes a la nube, una característica crucial para dispositivos de borde que funcionan con energía limitada. Las empresas también ahorran dinero procesando datos localmente en lugar de pagar por un ancho de banda continuo en la nube.
Quizás lo más importante es que los sistemas de IA en el borde continúan funcionando incluso cuando fallan las conexiones a Internet, proporcionando una fiabilidad que los sistemas dependientes de la nube no pueden igualar.
Necesidad de Inteligencia Multicapa
Aunque la IA en el borde tiene muchas ventajas, también tiene sus limitaciones. Muchos sistemas necesitan inteligencia multicapa que combine computación en el borde, en la nube y en la niebla para equilibrar eficiencia, velocidad y escalabilidad. Para entender por qué, consideremos un sistema típico de vigilancia por video:
- La IA en el borde procesa datos directamente en el dispositivo final, por ejemplo, dentro de una cámara de vigilancia inteligente.
- La computación en la niebla agrega una capa entre el borde y la nube que puede manejar datos de múltiples fuentes. Por ejemplo, un sistema de grabadora de video en red (NVR) local conectado a varias cámaras puede rastrear objetos que se mueven entre diferentes vistas de cámara y comunicar los resultados derivados a la nube según sea necesario.
- La computación en la nube agrega y procesa grandes cantidades de datos en centros de datos. Esto funciona bien para el almacenamiento a largo plazo, el entrenamiento de modelos de IA y el análisis de datos a lo largo del tiempo, como el seguimiento de tendencias de seguridad en toda una ciudad.
Al combinar estos enfoques, un sistema de borde a nube o un sistema de borde a niebla a nube puede ofrecer un mayor valor que una solución puntual independiente.
Clea Cubre Todos los Componentes de la Cadena de Valor
Reconociendo la importancia de un enfoque holístico, SECO proporciona soluciones tanto de hardware como de software que abarcan IA en el borde, en la niebla y en la nube.
Las soluciones de hardware de IA en el borde abarcan una amplia variedad de módulos de computación de factor de forma estándar y computadoras de placa única. La generación actual de procesadores integrados de empresas como NXP, Qualcomm, MediaTek e Intel ofrece aceleradores de IA integrales y bibliotecas asociadas. Por ejemplo, el módulo SOM-SMARC-Genio700 del tamaño de una tarjeta de crédito utiliza el procesador Genio 700 de MediaTek, que combina ocho núcleos Arm (2x Cortex-A78 + 6x Cortex-A55) con un Acelerador de Aprendizaje Profundo que ofrece 4 billones de operaciones por segundo (TOPS) de rendimiento de IA. Esto permite que la IA compleja funcione en dispositivos pequeños, sin ventilador e incluso en sistemas alimentados por batería.
Para la computación en la niebla, las computadoras industriales de gama alta ofrecen mayor potencia de procesamiento, conectividad y coprocesamiento de IA dedicado. Por ejemplo, la computadora sin ventilador Titan 300 TGL-UP3 AI combina un procesador Intel Tiger Lake UP3 con un Chip AI de Axelera para ofrecer 120 TOPS a través de su Metis AIPU. Esto proporciona un procesamiento de IA potente a nivel local.
En el lado del software, la suite de software Clea para internet de las cosas (IoT) conecta el borde, la niebla y la nube para sistemas avanzados de IA. Comienza con Clea OS, una plataforma completa de Linux basada en Yocto que funciona en el hardware de borde y niebla de SECO, compatible con procesadores x86 y Arm. Clea OS facilita el despliegue de IA distribuida al proporcionar herramientas de desarrollo estandarizadas y características de DevOps de back-end para integración y despliegue continuos.
El ecosistema Clea es independiente de la nube e incluye varias herramientas clave:
- Para nodos de IA en el borde y en la niebla, Clea Edgehog ofrece capacidades robustas de monitoreo de dispositivos y gestión de flotas, lo que facilita el mantenimiento y la actualización de dispositivos a escala.
- A nivel de la nube, Clea Astarte proporciona una orquestación de datos sofisticada, recopilando, enrutando y gestionando datos de dispositivos a través de una flota de dispositivos IoT. Astarte permite la recopilación, procesamiento y análisis de grandes cantidades de datos, respaldado por Kubernetes para escalabilidad y ScyllaDB para un crecimiento empresarial sin problemas.
- Clea Portal proporciona un front-end basado en la nube para gestionar y monetizar la flota de IA en el borde, con todo, desde visualización de datos hasta control de dispositivos.
- Clea AI Studio es un entorno de programación visual que crea flujos de servicio basados en herramientas de IA del proveedor del procesador para desplegar aplicaciones impulsadas por IA en dispositivos de borde.
Los desarrolladores pueden usar la suite de software Clea para construir soluciones completas de IoT de extremo a extremo y facilitar el despliegue y operación de capacidades de IA, ya sea que el algoritmo específico de IA opere en el borde, en la niebla o en la nube. La suite maneja todo, desde la recopilación de datos hasta la creación de interfaces de usuario, agilizando el proceso de despliegue de IA en el borde.
Conclusión
Si bien la IA en el borde presenta ventajas convincentes sobre los enfoques tradicionales de computación en la nube o en la niebla, la implementación exitosa requiere una consideración cuidadosa de los requisitos de hardware y software.
La pila de soluciones integral de SECO permite a las organizaciones optimizar sus despliegues de IA en el borde según sus necesidades específicas, proporcionando la flexibilidad y escalabilidad requeridas en el panorama tecnológico en rápida evolución de hoy.
¿Listo para comenzar tu diseño de IA en el borde? Contáctanos hoy.