En un avance importante para el ámbito de la inteligencia artificial, Inception Labs ha lanzado los modelos de fundación Mercury y Mercury Coder a través de Amazon Bedrock Marketplace y Amazon SageMaker JumpStart. Esta iniciativa ofrece a los desarrolladores la posibilidad de implementar estos modelos para construir, experimentar y escalar aplicaciones de IA generativa utilizando la infraestructura de Amazon Web Services (AWS).
Los modelos Mercury son pioneros en el uso de la difusión a escala comercial, destacando por su rapidez en la generación de texto y la alta calidad de sus resultados. A diferencia de los modelos tradicionales, que generan texto de manera secuencial, los modelos Mercury permiten generar múltiples tokens en paralelo, alcanzando velocidades de hasta 1,100 tokens por segundo en GPUs NVIDIA H100.
Los modelos Mercury Coder sobresalen por su capacidad para generar código de alta calidad en diversos lenguajes de programación, como Python, Java y JavaScript. Además, ofrecen un sólido rendimiento en tareas de completado y edición de código, con soporte para longitudes de contexto de hasta 32,768 tokens, ampliables hasta 128,000 tokens mediante técnicas de extensión de contexto.
Amazon Bedrock Marketplace es fundamental para democratizar el acceso a estas capacidades avanzadas de IA, brindando una variedad de modelos y una experiencia segura y unificada para la integración. Esta plataforma permite a las organizaciones escalar de manera eficaz, gracias a configuraciones de escalabilidad a través de endpoints gestionados.
Acceder a los modelos Mercury en Amazon Bedrock es sencillo, requiriendo solo que los usuarios entren al catálogo, elijan el modelo y se suscriban para probar sus capacidades en el entorno de Amazon Bedrock. Por otro lado, SageMaker JumpStart ofrece un servicio totalmente gestionado que facilita la implementación rápida de aplicaciones de machine learning. Usando SageMaker Studio, los desarrolladores pueden descubrir y desplegar los modelos Mercury de manera eficiente.
La llegada de estos modelos promete transformar cómo las empresas aprovechan la inteligencia artificial, mejorando tanto la velocidad como la calidad de las aplicaciones generativas que desarrollan. Con la introducción de Mercury, el panorama de la IA generativa en la nube se fortalece, proporcionando herramientas potentes para una variedad de necesidades industriales.
