En el ámbito empresarial, la precisión en la recuperación de información mediante asistentes impulsados por inteligencia artificial generativa se destaca como un uso esencial de esta tecnología. Para reducir las alucinaciones y elevar la precisión general, el método de Generación Aumentada por Recuperación (RAG) se ha consolidado como la técnica preferida para obtener respuestas fiables empleando datos específicos de la empresa al responder preguntas de los usuarios. Este enfoque se utiliza en asistentes de IA, búsqueda de información y provisión de insights en tiempo real, mejorando así la calidad de los contenidos generados.
Amazon ha presentado las Bases de Conocimiento de Amazon Bedrock, un servicio que simplifica la implementación de RAG. Esta herramienta gestiona tareas complejas como la ingesta de datos, el fragmentado de la información, el embebido de datos y la coincidencia de consultas, facilitando la creación expedita de soluciones de RAG. No obstante, en entornos empresariales con numerosos documentos, las respuestas finales suelen depender de una selección limitada de resultados, lo que puede comprometer la precisión si los resultados más pertinentes no están entre los primeros.
Para abordar este reto, Nippon Life India Asset Management Limited ha desarrollado una solución que mejora la exactitud de las respuestas en comparación con el enfoque RAG convencional. Esta nueva estrategia implica la reutilización y reordenación de las respuestas, utilizando métodos RAG avanzados para lograr mayor exactitud. Las limitaciones del método RAG tradicional incluyen la disminución de exactitud con el aumento del volumen de documentos, la dificultad en procesar estructuras complejas y problemas en responder preguntas multifacéticas.
Los desarrolladores han implementado diversas estrategias para superar estas dificultades, como el uso de servicios adicionales para extraer información, la reformulación programática de preguntas complejas y la creación de fragmentos personalizados de documentos. Nippon adoptó un enfoque avanzado que utiliza un ciclo de trabajo RAG abarcando la ingesta de datos y la generación de texto, basado en fragmentos almacenados en una base de datos vectorial para una búsqueda más eficiente y relevante.
A través de Amazon Bedrock, la empresa ha optimizado su método de RAG implementando técnicas como el reordenamiento de resultados y análisis semántico, lo que ha mejorado significativamente la calidad de las respuestas, logrando una precisión superior al 95% y una reducción de alucinaciones del 90-95%. Además, la tecnología ha acortado el tiempo necesario para generar informes de dos días a solo diez minutos.
La evolución continua de estos métodos apunta a un futuro en el que empresas como Nippon maximicen aún más las capacidades de RAG, explorando nuevas innovaciones como GraphRAG y la filtración de metadatos. La voz del avance tecnológico resuena, prometiendo aplicaciones más sofisticadas que transformarán la interacción con la información y optimizarán la toma de decisiones en entornos empresariales.
