Amazon ha lanzado un nuevo servicio gestionado completamente, denominado Amazon Bedrock, que ofrece una selección de modelos fundamentales de alto rendimiento de diversas empresas líderes en inteligencia artificial, como AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI y Amazon, a través de una única API. Este servicio está diseñado para proporcionar una plataforma robusta para la construcción de aplicaciones de inteligencia artificial generativa, con un enfoque en la seguridad, la privacidad y las prácticas responsables de IA.
Aunque algunos de estos modelos están disponibles públicamente y permiten personalizaciones para casos de uso específicos, el proceso de implementar modelos personalizados para soportar aplicaciones de IA generativa de manera segura y escalable es complejo. La gestión y alojamiento de modelos grandes presenta desafíos significativos en cuanto a la selección de instancias y parámetros de implementación.
En respuesta a este reto, AWS ha anunciado la vista previa del nuevo Amazon Bedrock Custom Model Import. Esta característica permite a los usuarios importar modelos personalizados que han sido creados en plataformas como Amazon SageMaker, Amazon EC2 o en instalaciones locales a la infraestructura de Amazon Bedrock. Así, se simplifica el proceso de implementación mediante APIs fáciles de usar para la implementación e invocación de modelos.
La posibilidad de personalizar modelos fundamentales (FMs) representa un avance significativo, ya que permite adaptar sus capacidades a dominios o tareas específicas. Recientemente, se ha demostrado el proceso de ajuste fino del modelo Meta Llama 3 8B en SageMaker para especializarlo en la generación de consultas SQL. Meta Llama 3 8B, un modelo relativamente pequeño, ofrece un equilibrio entre rendimiento y eficiencia de recursos.
Clientes de AWS interesados en la generación de consultas SQL, particularmente con dialectos no estándar de SQL, han explorado el ajuste fino de Meta Llama 3 8B. Gracias a la nueva función de importación personalizada de Amazon Bedrock, estos clientes ahora pueden beneficiarse de una infraestructura gestionada y segura al implementar sus modelos ajustados.
El proceso de personalización comprende varios pasos: primero, se invoca un trabajo de entrenamiento en SageMaker para ajustar el modelo utilizando la técnica QLoRA y se almacenan los pesos en Amazon S3. Después de completar el ajuste fino, el usuario puede ejecutar el trabajo de importación de modelos mediante la consola de Amazon Bedrock. Este servicio gestiona la importación en una cuenta de implementación operada por AWS, copiando los artefactos del modelo del usuario a un bucket S3 administrado por AWS. Una vez finalizado el trabajo de importación, el modelo ajustado estará disponible para su invocación.
Todos los datos permanecen dentro de la región seleccionada de AWS, se utiliza un punto final VPC y es posible cifrar los datos del modelo con claves del Amazon Key Management Service (AWS KMS). Los scripts para el ajuste fino y la evaluación están accesibles en el repositorio de GitHub de Amazon Bedrock.
La importación del modelo ajustado en Amazon Bedrock se completa configurando varias opciones en su consola, importando los datos almacenados en S3 y asegurando que el modelo cumple con los parámetros soportados. La evaluación del modelo ajustado ha mostrado un rendimiento superior, generando consultas SQL correctas en la mayoría de los casos.
Esta nueva capacidad de Amazon Bedrock proporciona una herramienta poderosa para científicos de datos y desarrolladores de aplicaciones, permitiéndoles implementar modelos de IA generativa a escala con operaciones más eficientes y seguras. Explorando las mejores prácticas y metodologías proporcionadas, los usuarios pueden maximizar el potencial de modelos ajustados para tareas específicas como la generación de código SQL.
