Las organizaciones contemporáneas se enfrentan al desafío de procesar extensos volúmenes de datos de audio, tales como llamadas de clientes, grabaciones de reuniones, podcasts y mensajes de voz para extraer información valiosa. El Reconocimiento Automático de Habla (ASR, por sus siglas en inglés) es clave en este proceso, al transformar la voz en texto para su posterior análisis. Sin embargo, aplicar esta tecnología a gran escala requiere recursos computacionales significativos y puede resultar costoso. En este contexto, la inferencia asíncrona en Amazon SageMaker AI se convierte en una solución relevante.
La implementación de modelos de ASR avanzados, como Parakeet de NVIDIA en SageMaker AI, permite el manejo eficiente de archivos de audio grandes y cargas de trabajo por lotes. La inferencia asíncrona procesa solicitudes prolongadas en segundo plano, lo que permite la entrega de resultados en otro momento. Además, la capacidad de escalado automático puede ajustarse a cero cuando no hay trabajo, gestionando eficazmente los picos de demanda sin afectar otras tareas.
La tecnología de inteligencia artificial de voz de NVIDIA combina modelos de alto rendimiento con soluciones de implementación eficientes. El modelo Parakeet ASR destaca por su alta precisión y bajos índices de error por palabra. Además, utiliza un codificador Fast Conformer que procesa la información 2.4 veces más rápido que las tecnologías estándar, manteniendo la precisión.
El NIM de NVIDIA, al ser un conjunto de microservicios acelerados por GPU, ofrece la posibilidad de construir aplicaciones de AI de voz personalizables. Con soporte para más de 36 idiomas, estos modelos son óptimos para servicios de atención al cliente, centros de contacto y flujos de trabajo empresariales globales.
La implementación de esta tecnología permite una arquitectura de inferencia asíncrona adaptada para tareas de ASR y resumen de contenido. El sistema incluye componentes clave como la ingestión de datos a través de Amazon S3, el procesamiento de eventos con notificaciones de éxito y error mediante Amazon SNS, y el seguimiento en tiempo real del estado de trabajo con Amazon DynamoDB.
El flujo de trabajo impulsado por eventos activa funciones de Lambda al cargar archivos de audio, analizando metadatos y creando registros de invocación. Una vez transcritos, los contenidos se envían a modelos de lenguaje de Amazon Bedrock para generar resúmenes, mientras que el sistema gestiona errores y puede reiniciar el proceso en caso de fallos temporales.
Esta tecnología encuentra aplicaciones prácticas en múltiples sectores, como el análisis de servicios al cliente, la transcripción y resumen de reuniones, y la creación de documentación legal y normativa. La infraestructura de NVIDIA junto con los servicios de AWS ofrece un sistema automatizado y escalable para procesar contenido de audio, permitiendo a las organizaciones centrarse en generar valor empresarial sin complicarse con la infraestructura subyacente.
