ESET alerta por riesgos y privacidad al usar chatbots de IA para salud

Los chatbots de inteligencia artificial generativa (GenAI) ganan espacio en el ámbito de la salud a partir de servicios orientados al consumidor como Copilot Health, ChatGPT Health y Amazon’s HealthAI, diseñados para ayudar a interpretar historiales médicos y responder consultas sobre síntomas, resultados de laboratorio y opciones de tratamiento. En ese contexto, ESET Latinoamérica plantea que el uso de estas herramientas introduce riesgos asociados tanto a la calidad de las respuestas como a la privacidad y seguridad de los datos.

La advertencia apunta a que el problema no se limita a una recomendación equivocada. “El riesgo no es solo recibir un consejo incorrecto, sino también que los usuarios compartan información personal altamente sensible con sistemas cuyas protecciones de privacidad, prácticas de intercambio de datos y obligaciones legales pueden diferir de las de un médico o un hospital, así como que sus datos queden expuestos a entidades inesperadas”, dijo Mario Micucci, investigador de Seguridad Informática de ESET Latinoamérica.

La disponibilidad permanente de estos asistentes y el tono seguro de sus respuestas puede influir en la toma de decisiones. Según Microsoft, las personas hablan sobre su salud y la de sus seres queridos en dispositivos móviles más que de cualquier otro tema. En un escenario de sistemas nacionales de salud “cada vez más presionados”, ESET considera probable que parte de los usuarios recurra a la IA para auto diagnosticarse antes de definir si necesita atención médica.

Uno de los focos de preocupación es el fenómeno de las “alucinaciones”, es decir, respuestas que suenan plausibles pero resultan incorrectas o inconsistentes. Un estudio de la Universidad de Oxford de febrero, publicado en *Nature Medicine*, encontró que los usuarios a menudo no sabían qué información debían compartir y que recibían respuestas muy diferentes ante preguntas con variaciones mínimas. El trabajo también identificó que los modelos ofrecían consejos buenos y malos, con dificultad para distinguirlos. “A pesar de todo el entusiasmo, la IA simplemente no está lista para asumir el rol de médico”, advirtió la autora principal del estudio, la doctora Rebecca Payne.

En materia de privacidad, el ingreso de datos médicos en un chatbot público puede derivar en su uso para entrenar el modelo y en la reaparición de esa información en respuestas a otros usuarios. ESET menciona casos en los que modelos expusieron datos introducidos por sus usuarios. Incluso cuando un proveedor prometa no utilizar información de salud para entrenamiento, persiste la posibilidad de intercambio con terceros: agregadores de datos o intermediarios entre el proveedor del modelo y el prestador de salud, y también anunciantes, aunque usualmente con anonimización.

La circulación de datos sensibles por múltiples organizaciones incrementa el riesgo de exposición a ciberdelincuentes y estafadores. Legisladores estadounidenses afirmaron haber identificado pérdidas por valor de US$ 21.000 millones vinculadas a brechas en empresas de intermediación de datos. Micucci también advirtió que muchas herramientas de IA para salud no están reguladas por HIPAA por considerarse servicios para consumidores.

Para minimizar riesgos, ESET recomienda evitar bots de uso general y elegir los diseñados para salud, además de revisar cómo se gestionan los datos, si las interacciones se usan para entrenamiento, si se comparte información con terceros y si existe cobertura por HIPAA o un régimen equivalente. Entre las medidas prácticas, sugiere no subir documentos médicos ni resultados de laboratorio sin entender el tratamiento de esos datos, evitar identificadores personales, desactivar el historial y las funciones de entrenamiento, y limitarse a la información mínima necesaria.