Amazon ha lanzado Mantle, su nuevo motor de inferencia de próxima generación, diseñado específicamente para el servicio Amazon Bedrock. Este avance responde a la creciente demanda de cargas de trabajo de inteligencia artificial generativa que requieren optimización continua en términos de rendimiento y seguridad. La organización destaca que su enfoque en discusiones honestas y transparentes sobre el crecimiento permite una inversión constante en innovación para mejorar el valor ofrecido a sus clientes.
La seguridad y privacidad de los datos son prioridades clave en el desarrollo de Mantle. Amazon Bedrock ya opera bajo los estrictos estándares de seguridad de AWS, incluyendo un modelo de «menor privilegio», que limita el acceso de los operadores solo a los sistemas necesarios. Además, se asegura de que ningún dato del cliente se use para entrenar modelos, y los proveedores de modelos no tienen acceso a la información del cliente, lo cual es crucial para proteger datos sensibles.
Mantle eleva estas medidas de seguridad mediante la adopción de un diseño de acceso cero para operadores (ZOA, por sus siglas en inglés). Esto significa que cualquier medio técnico que permita el acceso de los operadores de AWS a los datos de los clientes ha sido excluido intencionalmente. La administración de sistemas y servicios se realiza a través de automatización y APIs seguras, lo que garantiza la protección de los datos confidenciales. Se han implementado controles rigurosos para evitar el acceso de los operadores a los sistemas subyacentes donde se manejan los datos de inferencia.
También se ha introducido la capacidad de atestación de instancias EC2 en Mantle, creando un entorno de computación seguro y consistente para el procesamiento de datos del cliente. Este sistema se complementa con medidas de atestación firmadas criptográficamente, que aseguran la integridad de las operaciones realizadas sobre los datos del cliente.
En cuanto a la transmisión de datos, cuando un cliente utiliza un punto final de Mantle, la información se cifra desde el entorno del cliente hasta el servicio de Mantle, que opera bajo el modelo ZOA. Durante todo este proceso, ningún operador, ya sea de AWS, del cliente o del proveedor de modelos, puede acceder a la información del cliente.
Con el lanzamiento de Mantle, Amazon reafirma su compromiso a largo plazo con la seguridad y privacidad de los datos de sus clientes. La compañía está decidida a seguir invirtiendo en mejorar la seguridad de los datos y en ofrecer mayor transparencia acerca de sus esfuerzos en este ámbito. La plataforma Amazon EC2 ya permite a los clientes acceder a las capacidades de computación confidencial que Amazon utiliza internamente, como es el caso de NitroTPM Attestation.