Los desarrolladores de inteligencia artificial enfrentan el desafío de convertir datos no estructurados en formatos estructurados, una tarea esencial para la comunicación entre máquinas. Ante esta necesidad, Amazon ha lanzado una nueva técnica con su modelo Nova, enfocada en mejorar la precisión de las salidas estructuradas mediante la decodificación restringida.
La decodificación restringida es una innovación que permite a los modelos de base de Amazon Nova extraer datos siguiendo esquemas complejos, reduciendo errores en más del 95%. Este avance es crucial para aplicaciones que requieren información precisa y estructurada, como la extracción de datos de documentos, el desarrollo de asistentes que interactúan con APIs, y la creación de agentes automatizados.
Dos enfoques se presentan como opciones para implementar salidas estructuradas: modificar el aviso del sistema o utilizar la llamada a herramientas. En el primero, se pide al modelo generar respuestas en formatos específicos, como JSON, ajustando el aviso del sistema para incluir la estructura esperada. En el segundo enfoque, se proporciona al modelo un esquema de solicitud que incluye API, funciones de código o esquemas específicos que el modelo debe seguir.
Aunque ambos métodos son efectivos, hay margen para errores debido a la naturaleza no determinística de las salidas. La complejidad del esquema puede afectar la precisión, un problema que se ha abordado con la decodificación restringida, la cual utiliza una gramática para limitar los tokens que el modelo puede generar en cada paso.
Para que los modelos Amazon Nova generen salidas estructuradas de manera eficaz, es fundamental crear una configuración de herramienta que defina claramente el esquema de salida esperado. Esta configuración se integra con la API Conversar, acompañada por una receta específica que se incluye en el aviso del usuario, permitiendo al modelo generar un esquema completo y detallado.
Esta evolución en la tecnología de Amazon representa un paso significativo para los desarrolladores, quienes ahora pueden construir sistemas de inteligencia artificial más precisos y eficientes. La capacidad de generar salidas altamente estructuradas y confiables es una herramienta valiosa en el desarrollo de aplicaciones avanzadas de IA.
