En los últimos años, ha surgido un desafío significativo para las empresas que buscan priorizar proyectos de inteligencia artificial generativa. Con la creciente diversidad de casos de uso, el reto no reside en la falta de opciones, sino en evaluar adecuadamente el valor comercial frente al costo y el esfuerzo requerido. Este desafío se amplifica por cuestiones propias de la inteligencia artificial generativa, como las «alucinaciones» donde las decisiones incorrectas pueden tener consecuencias adversas, y un entorno regulatorio en constante cambio. Para abordar sistemáticamente estas preocupaciones, se propone la incorporación de prácticas de IA responsable en los métodos de priorización de proyectos.
El marco de trabajo bien estructurado de AWS define la IA responsable como un enfoque para diseñar, desarrollar y utilizar tecnología de inteligencia artificial que maximice beneficios y minimice riesgos. Este marco introduce ocho dimensiones de la IA responsable: equidad, explicabilidad, privacidad y seguridad, seguridad, controlabilidad, veracidad y robustez, gobernanza y transparencia. Durante el ciclo de vida del desarrollo, un equipo debe considerar los daños potenciales y riesgos en cada dimensión, implementar medidas de mitigación y supervisar continuamente los riesgos.
Este enfoque es especialmente relevante para los proyectos de IA generativa, donde los riesgos son nuevos y las mitigaciones pueden no estar completamente comprendidas. Incorporar la IA responsable desde el inicio proporciona una visión más precisa del riesgo y evita rehacer trabajos costosos si los riesgos se identifican en etapas posteriores.
Aunque muchas empresas ya tienen métodos de priorización, la metodología WSJF (Weighted Shortest Job First) del sistema Escaled Agile ofrece una herramienta demostrativa. Este método calcula la prioridad mediante la fórmula: Prioridad = (costo del retraso) / (tamaño del trabajo). El costo del retraso mide el valor comercial que incluye el valor directo, la urgencia y las oportunidades adyacentes, mientras que el tamaño del trabajo contempla el esfuerzo necesario, incluidos costos de desarrollo e infraestructura.
Como ejercicio práctico, se pueden comparar dos proyectos de IA generativa: uno que utiliza un modelo de lenguaje grande para generar descripciones de productos y otro que emplea un modelo de texto a imagen para crear visuales publicitarios. Sin considerar la IA responsable, el proyecto de campañas publicitarias parece más atractivo por su urgencia. Sin embargo, al aplicar una evaluación de riesgos que incluya las dimensiones de la IA responsable, el proyecto de descripciones de productos muestra menor complejidad y costos de mitigación, lo que sugiere que puede ser más adecuado para iniciar.
Es crucial que las empresas desarrollen políticas de IA responsable y adopten prácticas adecuadas para los proyectos de IA generativa, ya que estas consideraciones no solo evitan costos adicionales, sino que también fomentan la confianza de los clientes y aseguran el cumplimiento regulatorio cada vez más estricto.
