Recientemente, la introducción de los «agentic workflows» ha aportado una nueva perspectiva al diseño y gestión de flujos de trabajo complejos basados en casos de uso empresarial. Estos flujos de trabajo emplean grandes modelos de lenguaje (LLMs) como motor de razonamiento, descomponiendo las consultas en lenguaje natural en pasos accionables con la ayuda de herramientas y APIs. Esto permite proporcionar retroalimentación iterativa y autorreflexión para obtener un resultado final más preciso. Sin embargo, surge la necesidad urgente de medir y evaluar la robustez de estos flujos de trabajo, especialmente aquellos que puedan ser adversos o dañinos.
Amazon ha implementado una solución innovadora conocida como Amazon Bedrock Agents. Esta herramienta tiene la capacidad de desglosar conversaciones de lenguaje natural en tareas y llamadas a API mediante técnicas de «ReAct» y «chain-of-thought» (CoT). Al ofrecer flexibilidad y reducir costos de desarrollo, Amazon Bedrock Agents permite la personalización y adaptación de aplicaciones específicas, protegiendo al mismo tiempo los datos privados y asegurando las aplicaciones. Operando en una infraestructura gestionada por AWS, minimiza la carga de gestión y, aunque incluye mecanismos para evitar contenido dañino en general, también permite añadir salvaguardas personalizables con Amazon Bedrock Guardrails. Esta funcionalidad es esencial para mejorar la protección contra contenido nocivo y filtrar respuestas indeseadas en procesos como la generación de resúmenes.
En un estudio de caso, se examinó cómo un chatbot minorista en línea procesa flujos de trabajo dinámicos para consultas relativas a productos, como zapatos, utilizando Amazon Bedrock Agents. Sin embargo, cuando se le presentaron preguntas financieras no relacionadas, el bot no pudo rechazar estos inputs adecuadamente sin la intervención de Amazon Bedrock Guardrails. Estos salvaguardas personalizables son fundamentales para filtrar información sensible o incorrecta, evitando consejos fiduciarios inapropiados y controlando la generación de información personal. De esta manera, se garantiza que el bot opere dentro del alcance definido.
La integración de Amazon Bedrock Guardrails demostró ser una solución efectiva para este desafío. Al incorporar estos elementos, el sistema pudo evitar responder a consultas inapropiadas, protegiendo la información del usuario y fortaleciendo la confianza del cliente en la aplicación.
La importancia de estos desarrollos radica en la capacidad de los agentes basados en LLM para transformar las interacciones en línea. Permiten la automatización de tareas con altos niveles de personalización y fiabilidad. Herramientas como Amazon Bedrock Agents y Guardrails facilitan una interacción más segura y eficiente en el contexto digital, enfatizando la protección de datos y la integridad de las respuestas generadas.
