Los modelos de fundación abiertos se han posicionado como elementos esenciales en la evolución de la inteligencia artificial generativa, permitiendo que las organizaciones desarrollen y personalicen aplicaciones de IA mientras mantienen el control sobre sus costos y estrategias de implementación. Este contexto ha propiciado un rápido intercambio de conocimientos y soluciones accesibles gracias a la disponibilidad de modelos de alta calidad. Una de las compañías líderes en este campo es DeepSeek AI, que ha emergido como un contribuyente significativo en el ámbito de la investigación en inteligencia artificial. Los modelos de lenguaje profundo de esta empresa, conocidos como DeepSeek-R1, se han desarrollado para abordar diversas tareas, desde la generación de código hasta el razonamiento general, ofreciendo un rendimiento y eficiencia competitivos.
Una herramienta que se destaca en este entorno es Amazon Bedrock Custom Model Import, que facilita la importación y utilización de modelos personalizados junto a modelos de fundación ya existentes por medio de una única API unificada, sin necesidad de servidores. Esto permite acceder a modelos personalizados bajo demanda, eliminando la gestión de infraestructura subyacente. La colaboración de DeepSeek-R1 y Amazon Bedrock brinda a las organizaciones la posibilidad de explotar capacidades avanzadas de IA dentro de una infraestructura segura y escalable.
DeepSeek AI ha introducido versiones destiladas de sus modelos DeepSeek-R1, basándose en arquitecturas de Meta, Llama y Qwen, que van desde 1.5 a 70 mil millones de parámetros. Este proceso de destilación entrena modelos más pequeños y eficientes para que imiten el comportamiento de los modelos más grandes, transfiriendo su conocimiento a arquitecturas compactas. Ejemplos de estos modelos destilados, como el DeepSeek-R1-Distill-Llama-8B y el DeepSeek-R1-Distill-Llama-70B, ofrecen un equilibrio entre rendimiento y recursos, permitiendo un procesamiento rápido y reduciendo significativamente los costos computacionales.
La implementación de estos modelos destilados a través de Amazon Bedrock Custom Model Import resulta directa. Los usuarios pueden importarlos desde Amazon Simple Storage Service (S3) o un repositorio de modelos de Amazon SageMaker, y desplegarlos en un entorno completamente administrado. Este enfoque elimina la gestión de infraestructura, mientras ofrece escalabilidad y seguridad de nivel empresarial.
Para llevar a cabo esta implementación, es crucial preparar adecuadamente el paquete de modelo, incluyendo la descarga de artefactos de modelo y su subida a un bucket S3 en la región deseada de AWS, para luego importar el modelo a través de la consola de Amazon Bedrock. La prueba de modelos importados se efectúa con facilidad en Amazon Bedrock Playground, donde los usuarios pueden ajustar parámetros de inferencia y realizar pruebas. La facturación no considera tarifas por importación, sino el número de copias de modelo activas y su tiempo de actividad.
DeepSeek ha publicado evaluaciones que comparan sus modelos destilados con el modelo original DeepSeek-R1 y modelos base de Llama, demostrando que las versiones destiladas conservan entre un 80-90 % de las capacidades de razonamiento del modelo original. Es fundamental que las organizaciones evalúen sus necesidades específicas, ya que los modelos más grandes proporcionan un mejor rendimiento, mientras que los modelos más pequeños pueden ser suficientes a un costo más bajo.
Por último, Amazon Bedrock Custom Model Import facilita que las organizaciones elijan modelos abiertos y personalizados, brindando flexibilidad para personalizar y optimizar las implementaciones de IA, adaptándose a sus necesidades específicas en un entorno dinámico y en evolución constante.
