El despliegue de agentes de inteligencia artificial en industrias reguladas enfrenta desafíos importantes debido al manejo de datos sensibles y posibles riesgos de seguridad. Estos agentes son capaces de tomar decisiones autónomas para lograr objetivos, lo cual plantea preocupaciones sobre su acceso y efectividad. Para mitigar estos riesgos, Amazon ha desarrollado una política específica para limitar sus capacidades sin frenar la innovación.
La clave de este enfoque radica en la implementación de paredes de seguridad que determinan el acceso y las interacciones de los agentes con datos y sistemas externos. Sin una delimitación clara, los agentes podrían realizar acciones no deseadas, como el envío de correos electrónicos no autorizados o la ejecución de transacciones financieras riesgosas.
Amazon ha introducido Bedrock AgentCore, una capa de seguridad que aplica reglas deterministas al tráfico manejado por los agentes. Esto se ha probado en un agente de programación de citas en el sector salud, manejando datos sensibles de pacientes y cumpliendo con normas de acceso estrictas. Este sistema asegura que los agentes operen de manera segura y conforme a las políticas establecidas.
El lenguaje Cedar, utilizado en Amazon Bedrock AgentCore, permite crear políticas de autorización claras y eficaces. Estas especifican quién puede hacer qué y bajo qué condiciones, asegurando que las capacidades de los agentes no comprometan la seguridad. Al aplicar estas políticas en un agente del sector salud, se asegura que los pacientes solo accedan a sus propios datos, bloqueando intentos de acceso no autorizados. Además, se implementan controles para evitar operaciones en horarios no permitidos.
Amazon Bedrock AgentCore no solo facilita la implementación de políticas de seguridad, sino que también valida su efectividad antes de afectar el tráfico real, garantizando decisiones de acceso coherentes y seguras. Este enfoque refuerza la confianza en los sistemas de inteligencia artificial, asegurando su despliegue seguro en entornos regulados.
