El avance de la inteligencia artificial (IA) está llevando a las máquinas a niveles de autonomía sin precedentes, lo que hace que la necesidad de transparencia y explicabilidad sea más urgente que nunca. En un reciente panel de expertos, destacados profesionales del sector discutieron las implicaciones de la confianza en los sistemas de IA autónomos, congregando a figuras como Keshavan Seshadri de Prudential Financial y Pankaj Agrawal de LinkedIn.
Saradha Nagarajan, ingeniera de datos en Agilent Technologies, destacó que la confianza es fundamental para la explicabilidad. Según ella, comprender el funcionamiento interno de los modelos de IA permite una mejor adaptabilidad y confianza en sus predicciones. También hizo hincapié en la necesidad de contar con pautas éticas claras y mecanismos de auditoría antes y después de la implementación.
Por su parte, Pankaj Agrawal subrayó que en sectores regulados la transparencia es esencial. Insistió en que los sistemas deben contar con supervisión para garantizar que las decisiones de la IA se alineen con un conjunto definido de normas éticas y operativas, algo especialmente crucial en aplicaciones de alto riesgo.
Dan Chernoff, científico de datos en Parallaxis, sugirió que la cuestión de la ética está más relacionada con el cumplimiento normativo que con consideraciones éticas per se. Resaltó la importancia de trazar las decisiones de una IA de vuelta a sus datos de entrada para evaluar posibles errores y sus causas.
Keshavan Seshadri analizó el impacto de regulaciones como la Ley de IA de la UE, sugiriendo que los diseñadores de sistemas de IA deben mapear las decisiones a niveles de riesgo definidos. Esto permite identificar sesgos y crear sistemas más robustos y seguros.
La discusión también abarcó la importancia de la colaboración interfuncional en el desarrollo de IA responsable. Se enfatizó que la construcción de IA responsable es una labor conjunta que requiere el aporte de líderes de producto, equipos de seguridad y otros colaboradores clave.
Finalmente, los expertos coincidieron en que el diseño específico del dominio es crucial. En sectores regulados, es necesario ajustar tanto las entradas como las salidas de los sistemas de IA para asegurar que reflejen las políticas y restricciones correspondientes. Este enfoque permitirá crear sistemas más confiables y seguros, alineados con las necesidades particulares de cada sector.
