El próximo 24 de abril de 2025, a las 12 p.m. hora estándar del este, tendrá lugar un evento en línea que se enfoca en un tema que gana cada vez más relevancia en el ámbito empresarial: la seguridad de las aplicaciones de inteligencia artificial generativa frente a los ataques de inyección de comandos. En un contexto donde las empresas están acelerando la integración de la inteligencia artificial generativa en sus operaciones, los adversarios han comenzado a idear métodos novedosos para explotar los modelos de lenguaje mediante estos ataques, con la intención de extraer datos sensibles y evadir las medidas de seguridad establecidas.
La sesión contará con la participación destacada de Rob Truesdell, Chief Product Officer de Pangea, quien examinará el panorama cambiante de las amenazas asociadas a la inyección de comandos y presentará las estrategias más novedosas para proteger las aplicaciones de IA generativa. Los asistentes tendrán la oportunidad de conocer cómo operan estos ataques, incluyendo ejemplos concretos que muestran tanto las técnicas de ataque directas como las indirectas empleadas por los ciberdelincuentes.
Un enfoque importante será el análisis de las acciones que los proveedores de modelos de lenguaje están poniendo en práctica para implementar defensas nativas que mitiguen los riesgos derivados de la inyección de comandos. Se discutirán las diferencias entre las amenazas que provienen del interior y del exterior de las organizaciones, explicando cómo se pueden manipular los modelos de IA generativa desde ambos frentes.
El evento no solo analizará las vulnerabilidades, sino que también se enfocará en las estrategias efectivas para mitigar riesgos, proponiendo las mejores prácticas de ingeniería y seguridad para prevenir, detectar y responder a intentos de inyección de comandos. Asimismo, se ofrecerán directrices para evaluar la efectividad de los mecanismos de detección frente a estos ataques.
Este evento virtual está dirigido principalmente a líderes de seguridad, ingenieros de inteligencia artificial y equipos de desarrollo de productos que requieren un entendimiento claro de los riesgos asociados con las aplicaciones de IA en un entorno cada vez más desafiante. Para aquellos interesados pero que no puedan participar en vivo, se ha dispuesto la opción de registrarse para recibir una grabación del evento directamente en su correo electrónico.
