NVIDIA ha dado un paso más en el campo de la inteligencia artificial al lanzar su nuevo modelo, el Nemotron 3 Nano 30B. Este innovador modelo, que cuenta con 3 mil millones de parámetros activos, ya está disponible en el catálogo de Amazon SageMaker JumpStart. Diseñado para impulsar la innovación y ofrecer valor tangible a las empresas, el modelo permite a los desarrolladores integrar aplicaciones de inteligencia artificial generativa sin complicaciones en el despliegue.
El Nemotron 3 Nano destaca por su alta eficiencia computacional y precisión, facilitando la ejecución de tareas especializadas a gran escala. Su arquitectura se basa en un modelo de mezcla de expertos (MoE), que integra la estructura Transformer-Mamba y optimiza la generación de razonamientos. Además, NVIDIA ha abierto completamente sus pesos, conjuntos de datos y recetas, permitiendo a los desarrolladores personalizar y desplegar el modelo en su propia infraestructura, cumpliendo con los necesarios estándares de privacidad y seguridad.
Entre las características más notables del Nemotron 3 Nano se encuentran su desempeño excepcional en tareas de codificación, razonamiento científico y resolución de problemas matemáticos. El modelo se ha posicionado como líder en benchmarks de referencia como LiveCodeBench y GPQA Diamond, contando también con una capacidad de ventana contextual de hasta un millón de tokens. Es un modelo textual, utilizando texto tanto como entrada como salida.
Para utilizar el Nemotron 3 Nano, los usuarios deben contar con un dominio de Amazon SageMaker Studio provisionado, desde donde podrán buscar, desplegar y probar el modelo. Esto se puede hacer a través de la interfaz de línea de comandos de AWS o con el SageMaker SDK utilizando código Python.
Disponibilizado de forma totalmente administrada en SageMaker JumpStart, la implementación y uso del modelo son ahora más accesibles. Los interesados pueden verificar la disponibilidad del paquete por región y consultar documentación y ejemplos de código en el repositorio de GitHub de NVIDIA. Con este lanzamiento, NVIDIA pretende simplificar la adopción de modelos de inteligencia artificial generativa, permitiendo que más empresas se beneficien de estas avanzadas soluciones tecnológicas.
