En 2023, la inteligencia artificial (IA) experimentó una revolución con la introducción de ChatGPT 3.5, impulsando su adopción masiva en múltiples sectores. Un estudio de McKinsey revela que el 72% de las organizaciones integran alguna forma de IA en sus operaciones, con un impacto económico global estimado en 4.4 billones de dólares. La banca y el comercio minorista lideran esta transformación, proyectando efectos económicos de 340 mil millones y 660 mil millones de dólares, respectivamente.
No obstante, este avance vertiginoso también trae consigo ciertos desafíos. Varias empresas han integrado IA de manera apresurada y sin preparación adecuada, como lo ilustra el incidente de Air Canada, donde un chatbot proporcionó información errónea sobre políticas de reembolso. Esta y otras situaciones, como las denominadas «alucinaciones» en los modelos y los riesgos de seguridad, subrayan problemas que pueden minar rápidamente la confianza de los clientes.
La confianza se erige como un factor crucial para el éxito de la IA. La percepción de seguridad y fiabilidad es fundamental, y los elementos como la protección de datos, la verificación de respuestas y la prevención de contenidos tóxicos son ahora indispensables. Las empresas que adoptan políticas de «IA responsable» no solo actúan de manera ética, sino que también pueden lograr mejores retornos de inversión.
En este contexto, la observabilidad en IA surge como un pilar esencial. Permite monitorizar y comprender el funcionamiento de los sistemas, contribuyendo a cimentar la confianza. Dan Brock, vicepresidente de éxito del cliente en Fiddler AI, destaca que la adopción de IA debe estar acompañada de un compromiso con la transparencia y la seguridad, asegurando una integración eficaz y beneficiosa en todos los niveles.
