Lo que debes saber antes de pedirle consejo médico a un chatbot de IA

La inteligencia artificial está transformando casi todas las industrias, y la salud no es la excepción. En los últimos meses, los principales gigantes tecnológicos han lanzado servicios especializados: Microsoft con Copilot Health, OpenAI con ChatGPT Health y Amazon con HealthAI. Todos prometen lo mismo: ayudarte a interpretar resultados médicos, entender síntomas y orientarte antes de ir al médico. La promesa suena atractiva, especialmente en países donde el acceso a especialistas puede ser limitado o costoso. Sin embargo, los riesgos son reales y vale la pena conocerlos antes de confiar tu salud a un algoritmo.

Uno de los problemas más documentados de los modelos de lenguaje es el fenómeno de las "alucinaciones": respuestas que parecen seguras y bien fundamentadas, pero que simplemente son incorrectas. En el ámbito médico, esto puede tener consecuencias graves. Un estudio reciente de la Universidad de Oxford encontró que los chatbots de IA ofrecen respuestas significativamente distintas ante preguntas ligeramente diferentes, y que los usuarios con frecuencia no saben qué nivel de detalle compartir para obtener una respuesta útil. La Dra. Rebecca Payne, especialista en ética médica, fue directa al respecto: "la IA simplemente no está lista para asumir el papel del médico".

Esto no significa que estas herramientas no tengan valor. Pueden ser útiles para entender terminología médica, organizar preguntas antes de una consulta o explorar información general sobre condiciones conocidas. El problema ocurre cuando se convierten en sustitutos de la atención profesional, especialmente en situaciones que requieren urgencia o criterio clínico especializado.

Desde el punto de vista de la privacidad, la situación es igualmente delicada. Los datos de salud son considerados entre los más sensibles que existen: tienen una larga vida útil, pueden usarse para discriminación en seguros y empleo, y son extremadamente valiosos en el mercado negro. Muchos chatbots de salud de uso general no están regulados bajo normativas específicas como HIPAA en Estados Unidos, y en Ecuador la Ley Orgánica de Protección de Datos Personales (LOPDP) exige consentimiento explícito para el tratamiento de datos sensibles. Sin embargo, pocas personas leen las políticas de uso antes de escribir sus síntomas en un chat.

Por eso, si decides usar estas herramientas, hay prácticas básicas que reducen el riesgo. Prioriza chatbots diseñados específicamente para salud, con respaldo clínico verificado, en lugar de modelos de propósito general. Evita compartir documentos médicos, números de cédula o información financiera. Desactiva el historial de conversaciones cuando sea posible. Y sobre todo, trata las respuestas del chatbot como un punto de partida para investigar, no como un diagnóstico definitivo.

En Cotedem acompañamos a empresas en la adopción responsable de tecnología. La IA es una herramienta poderosa, pero como cualquier herramienta, su valor depende de usarla con criterio. Conocer sus limitaciones no es pesimismo: es la base para aprovecharla bien.