Amazon ha lanzado una solución innovadora para la clasificación automática de textos, aprovechando las capacidades de inferencia por lotes de Amazon Bedrock y el modelo Claude Haiku de Anthropic. Esta herramienta es especialmente relevante para organizaciones que gestionan grandes volúmenes de datos, como las conversaciones en los centros de atención al cliente de agencias de viajes. La inferencia por lotes de Amazon Bedrock ofrece un descuento del 50% respecto a los precios bajo demanda, permitiendo realizar esta tarea de manera más eficiente y económica.
La necesidad de clasificaciones precisas y rápidas es crucial en diversas industrias, desde agencias de viajes hasta departamentos financieros. Empresas que necesitan clasificar consultas de clientes, analizar oportunidades de venta perdidas o gestionar facturas pueden beneficiarse significativamente de la automatización. Sin embargo, la adopción de estos sistemas automatizados enfrenta desafíos como el manejo eficiente de grandes volúmenes de datos textuales y garantizar resultados precisos.
Para afrontar este reto, se utilizó un conjunto de datos sintéticos de conversaciones de atención al cliente generados con el modelo Claude 3.7 Sonnet. Estas conversaciones abordan temas como reservas de vuelos, cambios en reservas y solicitudes de cancelación, proporcionando un marco estructurado y preservando la privacidad del usuario.
La solución presentada es escalable y se basa en un diseño sin servidor, orientado a eventos. Al recibir nuevas solicitudes de clasificación en un bucket de Amazon S3, el sistema utiliza Amazon Bedrock para procesar y clasificar grandes cantidades de contenido, reduciendo la necesidad de supervisión manual. El proceso incluye desde la preparación de datos hasta la inferencia por lotes, organizando los resultados en formatos accesibles como CSV, JSON o XLSX.
En pruebas realizadas con 1.190 conversaciones sintéticas, se alcanzaron tiempos de procesamiento consistentes de 11 a 12 minutos por lote, con una precisión del 100%. Estos resultados demuestran la efectividad de la solución, diseñada con buenas prácticas de seguridad y control de costos.
A pesar de su éxito, se identificaron algunas limitaciones, como la necesidad de un tamaño mínimo de lote de 100 clasificaciones y posibles variaciones en los tiempos de procesamiento según la carga de trabajo. También se subraya la importancia de limpiar los recursos de AWS utilizados para evitar costos adicionales.
Esta evolución tecnológica permitirá a empresas de múltiples sectores reducir el tiempo dedicado a tareas manuales y obtener información valiosa a partir de los datos, mejorando así el servicio al cliente y optimizando sus operaciones.
