Hoy se han anunciado los nuevos modelos de razonamiento de NVIDIA: Llama 3.3 Nemotron Super 49B V1 y Llama 3.1 Nemotron Nano 8B V1, ahora disponibles mediante el Amazon Bedrock Marketplace y Amazon SageMaker JumpStart. Estas herramientas innovadoras están diseñadas para ayudar a las organizaciones a desarrollar, probar y ampliar sus proyectos de inteligencia artificial generativa de manera eficaz a través de la plataforma AWS.
La integración con los microservicios de inferencia NVIDIA NIM simplifica el despliegue de modelos de IA generativa, aprovechando los servicios gestionados de AWS. Estas soluciones permiten a los desarrolladores incorporar IA generativa en sus aplicaciones con facilidad, a través de comandos directos o con pocas líneas de código.
El Llama 3.3 Nemotron Super 49B V1 se destaca por su eficiencia, utilizando un enfoque de Búsqueda de Arquitectura Neuronal (NAS) que optimiza la memoria y aumenta la eficacia. Este modelo soporta contextos de hasta 128,000 tokens, facilitando tareas como la generación de datos y la integración de herramientas. Por otro lado, el Llama 3.1 Nemotron Nano 8B V1, más compacto, ofrece capacidades avanzadas y es ideal para uso local.
Amazon Bedrock Marketplace proporciona un entorno seguro y unificado para acceder a modelos de IA que se adecúan a diversas necesidades, desde la creación de contenido hasta la clasificación de datos. El proceso de utilización de estos modelos es sencillo: los usuarios pueden suscribirse en Amazon Bedrock y seguir los pasos indicados para desplegarlos, realizando inferencias directamente en la consola de Bedrock o utilizando el SDK de SageMaker.
La introducción de los modelos Llama 3.3 y Llama 3.1 marca un importante avance en la implementación de soluciones avanzadas de AI para las empresas. Gracias a la infraestructura escalable de AWS, es posible desplegar estos modelos de forma rápida y eficiente, mejorando significativamente las aplicaciones de inteligencia artificial con tecnología de última generación.
