La inteligencia artificial generativa está causando un impacto profundo en el sector salud, promoviendo una transformación digital en áreas como la gestión del cuidado y el compromiso del paciente. Esta tecnología ha demostrado su capacidad para mejorar la atención médica, permitiendo a los profesionales de la salud ofrecer cuidados mejorados a través de sistemas automatizados y herramientas de apoyo diagnóstico que brindan sugerencias personalizadas y oportunas.
Un reciente estudio resaltó que los estudiantes de medicina que recibieron retroalimentación generada por modelos de lenguaje grande (LLM) en simulaciones clínicas mejoraron significativamente su toma de decisiones en comparación con aquellos que no recibieron dicha retroalimentación. Los modelos de lenguaje grande, esenciales para los sistemas de IA generativa, permiten conversaciones naturales y habilitan la creación de productos en áreas como facturación, diagnóstico, tratamiento e investigación. Sin embargo, el uso responsable de esta tecnología requiere una comprensión profunda de los riesgos asociados.
En la fase de diseño de aplicaciones de IA generativa en salud, resulta clave establecer políticas de sistema que definan insumos y resultados, construyendo un sistema de IA responsable. Es vital considerar los riesgos potenciales como la confabulación y el sesgo, que podrían acrecentar desigualdades entre diferentes grupos.
La transparencia y la responsabilidad son elementos esenciales en el desarrollo de IA generativa. Documentar fuentes de datos, decisiones de diseño y limitaciones a través de herramientas como «fichas de modelo» es fundamental para una evaluación adecuada del sistema y para permitir que los usuarios finales tomen decisiones informadas sobre su uso.
La integración de prácticas de seguridad en cada capa de aplicaciones de IA es crucial para proteger la privacidad de los pacientes y la seguridad de los datos. Estas aplicaciones son vulnerables a ataques adversariales, como la inyección de prompts, por lo que se recomienda realizar evaluaciones de riesgos y establecer salvaguardias.
La IA generativa tiene el potencial de mejorar significativamente la calidad del servicio, la experiencia del paciente y la seguridad clínica en el cuidado de la salud. Diseñar y operar aplicaciones de IA de manera responsable implica considerar sistemáticamente sus limitaciones y establecer un marco de gobernanza que garantice la seguridad y la confianza esperadas por los usuarios.
