En una era donde la inteligencia artificial está transformándose en un pilar fundamental para las empresas, muchas organizaciones se enfrentan a la dualidad de adoptar esta tecnología sin comprometer la seguridad y el cumplimiento normativo. Esta situación se ha convertido en un desafío particularmente relevante a medida que los empleados empiezan a utilizar herramientas de IA no oficiales para acelerar sus tareas diarias, a menudo operando fuera de los sistemas aprobados por la empresa.
Muchas compañías no logran ver un retorno claro sobre la inversión (ROI) en IA, sienten nerviosismo respecto a la seguridad o se sienten perdidas a la hora de determinar qué problemas empresariales abordar primero. Sin embargo, como se discutió en una reciente cumbre en Boston, la raíz del problema a menudo recae en la falta de infraestructuras y sistemas de gobernanza adecuados para asimilar los sistemas inteligentes.
Para enfrentar este dilema, surge Barndoor AI, una empresa dirigida por Oren Michels que busca facilitar a las empresas la adopción de sistemas autónomos al tiempo que mantienen el control sobre aspectos críticos como la seguridad y la integridad operativa. Durante la Generative AI Summit en Boston, Michels y otros expertos, como Quentin Hardy de LGTM LLC, destacaron la necesidad de abordar la cuestión de «control, visibilidad y confianza» para evitar un progreso empresarial sin un valor duradero.
La conversación también abordó el fenómeno del «Shadow AI,» que surge cuando los empleados utilizan tecnologías de inteligencia artificial sin el consentimiento oficial de la empresa. Este fenómeno es análogo a las primeras adopciones de teléfonos inteligentes y servicios en la nube, donde los empleados usaban herramientas no autorizadas hasta que las empresas ajustaron sus políticas.
Los expertos advierten que, aunque la innovación a través de experiencias no oficiales puede ser beneficiosa, también genera un entorno de riesgo que podría conllevar problemas serios como la filtración de datos. Barndoor AI propone que las estructuras de gobernanza sean herramientas que permitan a las empresas experimentar de manera segura y gestionar el riesgo.
La meta es proporcionar un marco de control que permita a los agentes de IA operar con seguridad y eficacia, garantizando que la innovación no se vea sofocada por la burocracia, sino que se nutra con una gobernanza eficaz y una infraestructura confiable. De este modo, las empresas podrán realmente maximizar los beneficios de la inteligencia artificial en un entorno controlado y seguro.
