¿Quién Define el Modelo de IA Adecuado para Cada Tarea en las Empresas?

La creciente adopción de la inteligencia artificial generativa en las empresas está planteando una cuestión esencial sobre la gestión de modelos de lenguaje. En particular, surge la interrogante de quién es responsable de decidir cuál modelo debe responder a cada solicitud. Tradicionalmente, esta decisión ha dependido de un servicio externo, cuyos criterios y procesos suelen ser opacos para los clientes, o simplemente se opta por utilizar el modelo más reciente sin más consideraciones. En respuesta a esta problemática, TIMIA, una empresa especializada en inteligencia artificial y analítica avanzada, ha dado un paso innovador al presentar RouterKit. Este framework permite a las empresas desarrollar y entrenar su propio sistema de enrutamiento de modelos, ajustado a sus tareas específicas, el catálogo de modelos existentes y las prioridades que establezcan.

RouterKit constituye una solución eficiente que promete reducir significativamente los costos asociados al uso de la inteligencia artificial generativa, al mismo tiempo que mantiene la calidad de los modelos más avanzados. TIMIA ha revelado su intención de liberar el código de RouterKit bajo la licencia Apache 2.0, lo cual facilitará su uso, modificación y distribución, permitiendo incluso su aplicación en proyectos comerciales.

Este producto actúa como una capa de decisión en lugar de ser un competidor directo de los grandes modelos de lenguaje. Al recibir una solicitud, RouterKit analiza sus características sin resolverla inicialmente. Posteriormente, estima qué modelos tienen más probabilidades de ofrecer una respuesta adecuada. La selección se efectúa de acuerdo con los criterios establecidos por la organización, que pueden considerar factores como la calidad, el tiempo de respuesta o el coste. Si la respuesta inicial no cumple con los estándares fijados, el sistema tiene la capacidad de redirigir la solicitud a otro modelo, con un número configurable de intentos.

La propuesta de TIMIA se diferencia de otros servicios comerciales de enrutamiento, que muchas veces operan como cajas negras. Con RouterKit, cada decisión es explicable y auditable, permitiendo que el sistema se reentrene cuando los modelos cambian o cuando las necesidades del negocio evolucionan. Sandro Calzada, director de Innovación de TIMIA, comenta: «La pregunta ya no es qué modelo utilizar, sino quién decide qué modelo resuelve cada tarea y con qué criterio. Queremos que cada organización tenga el control, utilizando sus propios datos y de una manera comprensible».

Para validar el sistema, TIMIA utilizó 1.135 tareas de programación en Python del repositorio público BigCodeBench. Compararon siete modelos, accesibles ya sea a través de API o alojados en infraestructura propia, registrando sus resultados en diferentes ejecuciones para evaluar tanto la tasa de resolución como la variabilidad de las respuestas. A partir de estos datos, entrenaron un modelo predictivo que estimó las alternativas más efectivas para resolver cada tarea. Como resultado, RouterKit alcanzó una tasa de resolución del 68 %, superior al 66,6 % del mejor modelo individual evaluado.

La evaluación inicial se ha centrado en el ámbito de la programación, donde las pruebas automáticas, como los tests unitarios, permiten una verificación objetiva de las soluciones. TIMIA planea en el futuro expandir las aplicaciones de RouterKit a otros usos, como consultas a bases de datos, extracción de información y procesos con agentes de inteligencia artificial. Estas expansiones requerirán la definición de nuevos mecanismos de evaluación. Además, están considerando incorporar el tiempo de respuesta como un criterio de optimización y simplificar la integración de nuevos modelos.

Con la publicación del código de RouterKit, TIMIA espera que otras organizaciones adopten este framework, lo adapten a sus procesos particulares y contribuyan a su desarrollo, promoviendo así una mayor transparencia y control en el uso de la inteligencia artificial generativa.

Suscríbete al boletín SysAdmin

Este es tu recurso para las últimas noticias y consejos sobre administración de sistemas, Linux, Windows, cloud computing, seguridad de la nube, etc. Lo enviamos 2 días a la semana. Recuerda revisar tu email para confirmar la suscripción.

Scroll al inicio
×