Amazon ha anunciado el lanzamiento de Amazon Bedrock Guardrails, una innovadora herramienta diseñada para establecer salvaguardias configurables que promueven la construcción de aplicaciones de inteligencia artificial generativa de manera confiable y a gran escala. Este avance integra estrictas medidas de seguridad y privacidad que trabajan con diversos modelos, tanto los disponibles en Amazon Bedrock como aquellos alojados fuera de su plataforma. Mediante una API independiente llamada ApplyGuardrail, las empresas pueden aplicar políticas de IA responsable de manera rápida y eficiente.
Los Bedrock Guardrails presentan seis salvaguardias esenciales: filtros de contenido, temas prohibidos, filtros de palabras, filtros de información sensible, controles de contextualización y los Checks de Razonamiento Automatizado, que evitan contenido no deseado y alinean las interacciones de IA con políticas responsables de las empresas.
Uno de los retos actuales para las organizaciones es equilibrar los controles de seguridad con las diversas necesidades de rendimiento y lenguaje que varían entre aplicaciones. Amazon ha abordado esto implementando un sistema de niveles de salvaguardia que permite escoger las medidas más adecuadas según las necesidades específicas. Por ejemplo, una empresa de servicios financieros puede optar por una protección completa y multilingüe para asistentes de IA para clientes y utilizar salvaguardias más específicas y rápidas para análisis internos.
Los niveles de salvaguardia se dividen en dos categorías: el «nivel clásico», que mantiene el funcionamiento actual de Guardrails de Amazon Bedrock, y el «nivel estándar», que ofrece soporte multilingüe para más de 60 idiomas y mejoras en la detección de contenido potencialmente dañino.
La implementación de estos niveles busca optimizar la protección basada en el contexto de uso, permitiendo a las empresas elegir configuraciones mixtas para políticas de control específicas, como filtros de contenido y temas prohibidos, adaptándose más a cada aplicación.
Para evaluar la eficacia de las guardrails, se sugiere crear conjuntos de datos de prueba con ejemplos seguros, dañinos y casos límite. La API ApplyGuardrail facilita verificar el comportamiento de las guardrails sin incurrir en costos asociados a la respuesta de modelos de lenguaje de gran tamaño.
Con la adopción creciente de la inteligencia artificial, la introducción de estos niveles de Amazon Bedrock Guardrails representa un notable progreso. Equipan a las empresas con herramientas necesarias para desarrollar aplicaciones innovadoras, éticas y seguras, alineadas con sus valores y regulaciones, asegurando así la confianza del usuario.
