Amazon ha dado un paso importante en la optimización de sus procesos financieros a través de la inteligencia artificial. La compañía ha introducido un asistente de chat basado en IA generativa en su plataforma Amazon Bedrock, diseñado para acelerar la respuesta a consultas de clientes en sus operaciones financieras. Anteriormente, los analistas de las áreas de Cuentas por Pagar y Cuentas por Cobrar debían realizar un trabajo exhaustivo que incluía contactar a expertos y revisar numerosos documentos de políticas, un proceso que a menudo se prolongaba por horas o días, especialmente para aquellos analistas menos experimentados.
Con la implementación del nuevo asistente de chat, Amazon ha logrado reducir significativamente el tiempo de respuesta a las consultas de los clientes. Este asistente, respaldado por un modelo de lenguaje grande (LLM), permite a los analistas responder de forma más ágil y precisa, gracias a su capacidad para manejar solicitudes dentro del mismo hilo de comunicación.
La infraestructura del asistente se basa en un pipeline de generación aumentada por recuperación (RAG) que utiliza Amazon Bedrock. Este sistema recupera documentos relevantes de una base de conocimientos y proporciona respuestas basadas en el contenido recuperado, garantizando que la información sea precisa y segura. Elementos cruciales del sistema incluyen una base de conocimientos gestionada por Amazon OpenSearch Service y un motor de validación que asegura la corrección de las respuestas, evitando errores o «alucinaciones» en las respuestas generadas.
La eficacia del asistente se mide por la precisión de sus respuestas, un aspecto vital para Amazon. Inicialmente, solo el 49% de las respuestas eran correctas según los expertos. A través de mejoras como la segmentación semántica de documentos y la ingeniería de prompts, la precisión se incrementó al 86%.
Este desarrollo refleja la manera en que Amazon está aprovechando las tecnologías de IA para mejorar sus operaciones internas, reduciendo los tiempos de respuesta y mejorando la eficiencia operativa. Estas innovaciones posicionan a Amazon como un líder en la aplicación de inteligencia artificial en el ámbito financiero.