Hoy se ha presentado la vista previa de «Acciones en Edge», una función innovadora del navegador que busca integrar modelos avanzados de agentes informáticos para realizar diversas tareas. Esta característica experimental invita a un selecto grupo de usuarios a descubrir las capacidades que ofrece, mientras se reconocen los riesgos potenciales.
La seguridad de los usuarios es una prioridad, y la empresa está colaborando estrechamente con la comunidad investigativa en inteligencia artificial y seguridad. El objetivo es desarrollar y probar nuevos enfoques para mitigar riesgos. Esto incluye implementar mecanismos de defensa contra posibles ataques, como las inyecciones de comandos, una preocupación desde la llegada de los asistentes de IA.
Los ataques de inyección de comandos intentan manipular las instrucciones de los modelos de IA, y representan un riesgo mayor con la sofisticación creciente de estas herramientas. La empresa ya ha revelado pruebas de concepto que muestran cómo estos ataques pueden permitir el robo de datos o la ejecución de transacciones no autorizadas.
Para enfrentar estos desafíos, se han propuesto varias estrategias de defensa. Entre ellas, limitar la entrada de datos no confiables y detectar desviaciones en las tareas solicitadas por los usuarios. En esta fase inicial, se ha bloqueado el acceso a ciertos sitios considerados peligrosos, utilizando protecciones como Microsoft Defender SmartScreen, que protege a millones de usuarios de fraudes y malware.
Además, se están testeando nuevas técnicas que permiten a «Acciones en Edge» monitorear su propio comportamiento, para detectar y contrarrestar desviaciones que puedan comprometer la seguridad. Incluye comprobaciones de relevancia y funciones que requieren la autorización del usuario cuando se maneja información sensible.
La iniciativa también restringe el acceso del sistema a datos y acciones potencialmente peligrosas, evitando interacciones con configuraciones avanzadas del navegador y el acceso a información sensible como contraseñas y datos de formularios.
Con esta vista previa, la empresa busca la retroalimentación de la comunidad para mejorar la seguridad y funcionalidad de «Acciones en Edge». Se ha habilitado un canal de Discord para que los usuarios compartan sus experiencias y sugerencias. La compañía es optimista respecto al potencial de esta tecnología, reafirmando su compromiso con la seguridad en el entorno digital.
