Las reuniones son una herramienta esencial en las empresas para la toma de decisiones y la coordinación de proyectos. No obstante, la captura eficaz de los puntos clave de estas discusiones ha sido un desafío constante debido al esfuerzo manual que implica resumir o extraer acciones importantes, lo que a menudo lleva a errores y malinterpretaciones.
La introducción de modelos de lenguaje de gran tamaño (LLMs, por sus siglas en inglés) ha revolucionado este proceso, permitiendo transformar transcripciones no estructuradas en resúmenes y listas de acciones organizadas. Estos modelos son especialmente útiles en sectores como la gestión de proyectos, atención al cliente, ventas, asuntos legales y gestión del conocimiento empresarial.
Amazon Nova, presentada en AWS re:Invent en diciembre de 2024, es una de las innovaciones más recientes en este campo. Evaluada a través de Amazon Bedrock, esta familia de modelos ofrece una solución eficiente para elegir el modelo más adecuado en tareas de resumen de reuniones. Los LLM modernos, como Amazon Nova, destacan en la comprensión del contexto y la generación de salidas estructuradas, lo cual es crucial para la resumisión y extracción de acciones.
La ingeniería de prompts ha surgido como una técnica más eficiente y escalable que la afinación tradicional de modelos. Este enfoque permite personalizar rápidamente el comportamiento del modelo a través de consultas específicas, evitando la necesidad de reentrenamientos intensivos.
Los modelos de Amazon Nova están diseñados para ofrecer rendimiento líder en la industria a costos asequibles, y se dividen en cuatro niveles: Nova Micro, Lite, Pro y Premier. Su enfoque se centra en dos resultados clave: la creación de resúmenes abtractos de reuniones y la extracción de tareas estructuradas derivadas de las conversaciones.
Para evaluar el rendimiento de Amazon Nova, se utilizaron muestras del conjunto de datos público QMSum, logrando el modelo Nova Premier la puntuación más alta en fidelidad, mientras que otros modelos ofrecieron resultados competitivos con tiempos de procesamiento más rápidos.
La evaluación de la calidad de los outputs es un reto, ya que las métricas tradicionales no siempre capturan la corrección fáctica y coherencia. Para ello, se ha implementado un LLM como juez que evalúa automáticamente las salidas basándose en criterios bien definidos.
Los resultados muestran un claro patrón entre rendimiento y latencia en los modelos de Amazon Nova, destacando su velocidad y eficacia. Esto hace que sean una opción atractiva para empresas que manejan grandes volúmenes de datos de reuniones.
En resumen, las técnicas de ingeniería de prompts junto con los modelos de Amazon Nova permiten generar resúmenes de reuniones y listas de acciones de manera eficiente, optimizando la latencia, el coste y la precisión. Amazon Nova se presenta como una solución viable para mejorar la gestión de reuniones a gran escala.
