Optimizando MLOps con Herramientas OSS en Amazon ECS y AWS Fargate

Elena Digital López

En el vertiginoso y cambiante panorama del marketing digital, Zeta Global se destaca con sus avances innovadores en inteligencia artificial (IA). La compañía, líder en tecnología de marketing basada en la nube y orientada por datos, ha transformado la manera en que las marcas se conectan con sus audiencias a través de soluciones no solo innovadoras, sino también extremadamente efectivas.

En los últimos años, Zeta Global ha desarrollado 30 patentes, tanto pendientes como emitidas, relacionadas principalmente con la aplicación del aprendizaje profundo y la inteligencia generativa en la tecnología de marketing. Desde su adopción temprana de la tecnología de modelos de lenguaje grande (LLM), Zeta lanzó la Generación de Líneas de Asunto de Correo Electrónico en 2021, una herramienta que permite a los comercializadores crear líneas de asunto atrayentes que aumentan significativamente las tasas de apertura y el compromiso, adaptándose perfectamente a las preferencias y comportamientos del público.

Otra innovación destacada es el desarrollo de AI Lookalikes, una tecnología que permite a las empresas identificar y dirigirse a nuevos clientes que se asemejan mucho a sus mejores clientes existentes, optimizando así los esfuerzos de marketing y mejorando el retorno sobre la inversión (ROI). La columna vertebral de estos avances es ZOE, el Motor de Optimización de Zeta, una aplicación multiagente de LLM que integra múltiples fuentes de datos para proporcionar una vista unificada del cliente, simplificar las consultas analíticas y facilitar la creación de campañas de marketing.

Además, Zeta Global ha aprovechado el Amazon Elastic Container Service (Amazon ECS) junto con AWS Fargate para desplegar de manera eficiente una multitud de modelos más pequeños. Este enfoque permite a la empresa gestionar las operaciones de aprendizaje automático (MLOps) de manera eficiente y escalable desde la ingesta de datos hasta el despliegue de modelos, integrando herramientas clave como Airflow, Feast, dbt y MLflow en su plataforma.

La arquitectura MLOps de Zeta está diseñada para automatizar y monitorear todas las etapas del ciclo de vida del aprendizaje automático. Utiliza Airflow para la orquestación de flujos de trabajo, Feast para la gestión de características, dbt para la transformación de datos y MLflow para el seguimiento de experimentos y la gestión de modelos. Estas componentes funcionan en un entorno Amazon ECS, proporcionando una plataforma escalable y sin servidores donde los flujos de trabajo de ML se ejecutan en contenedores usando Fargate.

El uso de Amazon ECS con Fargate ha permitido a Zeta eliminar la necesidad de gestionar infraestructuras subyacentes, facilitando el despliegue de aplicaciones y optimizando la utilización de recursos. Esto agrega ventajas en términos de escalabilidad, eficiencia de costos y seguridad, promoviendo una operación sin sobresaltos y alineada con la demanda del mercado.

En 2023, Zeta Global introdujo un cambio estructural en sus equipos de machine learning, pasando de equipos verticales tradicionales a una estructura horizontal más dinámica centrada en pods con habilidades diversas. Este cambio buscó acelerar la entrega de proyectos fomentando la colaboración y la sinergia entre equipos con distintas especialidades.

Con el continuo aumento de aplicaciones de IA y ML a través de diferentes equipos, la necesidad de una plataforma centralizada MLOps se hizo evidente. Para enfrentar estos desafíos, Zeta desarrolló una plataforma MLOps basada en herramientas de código abierto clave como Airflow, Feast, dbt y MLflow, alojadas en Amazon ECS con tareas ejecutándose en Fargate. Esta plataforma simplifica el flujo de trabajo de ML, desde la ingesta de datos hasta la implementación de modelos, facilitando una gestión más eficiente y escalable de los proyectos de ML.

La estrategia a futuro de Zeta incluye la expansión de capacidades BYOM (Bring Your Own Model) para clientes externos y la reducción de la curva de aprendizaje para los científicos de datos. Esto implica desarrollar APIs estandarizadas para la integración de modelos externos, crear una interfaz unificada para simplificar las interacciones con herramientas especializadas y proporcionar formación integral y recursos de apoyo.

En resumen, la integración de herramientas como Airflow, Feast, dbt y MLflow en una plataforma MLOps alojada en Amazon ECS con AWS Fargate se presenta como una solución robusta para gestionar el ciclo de vida del ML en Zeta Global. Esta configuración no solo agiliza las operaciones, sino que también mejora la escalabilidad y la eficiencia, permitiendo a los equipos de ciencia de datos centrarse en la innovación en lugar de en la gestión de infraestructuras.

Suscríbete al boletín SysAdmin

Este es tu recurso para las últimas noticias y consejos sobre administración de sistemas, Linux, Windows, cloud computing, seguridad de la nube, etc. Lo enviamos 2 días a la semana.

Scroll al inicio
×