El uso creciente de chatbots para obtener consejos médicos está generando preocupaciones sobre la posible emisión de información errónea y los riesgos asociados a la seguridad y la privacidad de los usuarios. Este fenómeno se ha intensificado con la llegada de herramientas de inteligencia artificial generativa (GenAI) al ámbito de la salud, donde empresas tecnológicas de renombre han lanzado servicios como Copilot Health de Microsoft, ChatGPT Health y Amazon HealthAI. Estas aplicaciones están diseñadas para ayudar a los usuarios a interpretar resultados de laboratorio, síntomas y opciones de tratamiento, pero existen riesgos significativos.
Los expertos advierten que confiar en estas herramientas puede llevar a que los pacientes reciban información incorrecta o inadecuada. Según un estudio de la Universidad de Oxford, muchos usuarios no son conscientes de qué información compartir con estos modelos de lenguaje, que a menudo ofrecen respuestas contradictorias a preguntas similares. Esto puede desembocar en diagnósticos erróneos, lo que resulta peligroso para los que buscan orientación médica. Dr. Rebecca Payne, líder del estudio, subraya que, a pesar del entusiasmo por la IA, estas tecnologías aún no están listas para reemplazar a los médicos.
Además de los riesgos de salud, compartir información personal sensible con chatbots puede poner a los usuarios en una situación vulnerable. Existe la posibilidad de que estos datos se utilicen para entrenar modelos y se compartan sin el consentimiento adecuado, lo que podría poner en peligro la privacidad del usuario. Aunque muchos bots prometen no usar datos para este propósito, las garantías sobre la compartición de datos con terceros varían, lo que suma otra capa de riesgo.
La proliferación de datos sensibles en múltiples entidades aumenta la posibilidad de que estos sean objeto de robos por parte de hackers. Los datos médicos son especialmente valiosos para el fraude debido a su naturaleza única e irremplazable. A pesar de que muchas herramientas de salud AI no están reguladas bajo leyes rigurosas como HIPAA en EE. UU., es esencial que los usuarios sean cautelosos acerca de dónde y cómo comparten su información.
Para protegerse, los especialistas sugieren evitar el uso de chatbots de propósito general para cuestiones de salud y optar por aquellos diseñados específicamente para brindar ese tipo de asesoramiento. Es recomendable revisar cómo se maneja la información, si se utiliza para entrenamiento del modelo y si se comparte con terceros. También es crucial no confiar ciegamente en la salida de los chatbots y consultar siempre a un profesional médico o fuentes oficiales.
En definitiva, aunque las herramientas de IA pueden ser útiles para generar preguntas sobre condiciones específicas o aclarar términos médicos, nunca deberían sustituir la consulta con un especialista. Ignorar síntomas urgentes basándose en una respuesta tranquilizadora de un chatbot puede tener consecuencias graves.
Fuente: WeLiveSecurity by eSet.
