Amazon ha dado un paso significativo hacia un uso más seguro y responsable de la inteligencia artificial con el lanzamiento de sus nuevos filtros de contenido de imagen en Amazon Bedrock Guardrails. Esta herramienta, ahora disponible para el público general, proporciona un sistema de moderación tanto para el texto como para las imágenes utilizadas en aplicaciones de inteligencia artificial generativa, ampliando así las capacidades de control de contenido ofrecidas anteriormente, que se limitaban únicamente a texto.
Tero Hottinen, vicepresidente de Alianzas Estratégicas en la empresa KONE, ha compartido su entusiasmo por esta nueva funcionalidad, subrayando su potencial para proteger aplicaciones de inteligencia artificial generativa al verificar la relevancia y el contexto del contenido. KONE tiene planes de integrar sus diagramas de diseño de productos y manuales en aplicaciones apoyadas por estas medidas de seguridad avanzadas, lo que permitirá mejorar tanto el diagnóstico como el análisis de contenido multimodal.
Los usuarios de Amazon Bedrock Guardrails ahora pueden configurar una serie de salvaguardias para bloquear entradas y salidas perjudiciales a través de seis políticas distintas. Estas incluyen desde filtros de contenido hasta detectar alucinaciones del modelo, lo cual podría eliminar hasta el 88% del contenido multimodal dañino. Esta flexibilidad permite a los desarrolladores combinar la moderación de texto e imágenes, personalizando los umbrales de contenido según sea necesario.
La utilidad de esta nueva característica se extiende a varias regiones de AWS, incluidas US East, US West, Europa y Asia-Pacífico. Esta capacidad es especialmente valiosa para organizaciones en sectores como la salud, la manufactura, los servicios financieros, los medios de comunicación y la educación, que podrán asegurar mejor su marca sin necesidad de crear salvaguardias personalizadas o llevar a cabo evaluaciones manuales, evitando así posibles errores.
Para utilizar estos filtros de contenido de imagen, los usuarios deben crear un guardrail en la consola de gestión de AWS y seleccionar los filtros que consideren apropiados. Además, existe la posibilidad de emplear el API independiente ApplyGuardrail, que permite validar contenido en cualquier flujo de aplicación.
Este avance representa un esfuerzo considerable por parte de Amazon hacia la construcción de aplicaciones que cumplan con las políticas de inteligencia artificial responsable de las empresas, promoviendo un entorno digital más seguro y confiable.
