El avance en los modelos de lenguaje amplios (LLMs) ha revolucionado la integración de la inteligencia artificial en aplicaciones mediante el uso de API. Sin embargo, muchas empresas prefieren alojar sus propios modelos para asegurar la soberanía de los datos y personalizar los modelos según sus necesidades específicas. Esta decisión, aunque compleja y costosa debido a la gestión de infraestructuras