¿Puede una IA poner en riesgo tu salud?

El rápido crecimiento de la inteligencia artificial ha llevado a millones de personas a utilizar estas herramientas para resolver dudas cotidianas, desde tareas escolares hasta consultas sobre síntomas médicos. Sin embargo, un caso presentado esta semana en Estados Unidos vuelve a poner sobre la mesa una pregunta que cada vez cobra más importancia: ¿hasta dónde puede confiar una persona en las respuestas de una inteligencia artificial cuando está en juego su salud?

Scott Winters, un pastor residente en Florida, presentó una demanda por negligencia contra OpenAI y su director ejecutivo, Sam Altman, al asegurar que ChatGPT interpretó de forma equivocada los síntomas que experimentaba durante varias semanas y lo llevó a creer que no se trataba de una condición grave.

Según la demanda, Winters consultó en junio del año pasado al modelo ChatGPT-4o por episodios frecuentes de mareos y problemas relacionados con la presión arterial. De acuerdo con el documento judicial, el sistema atribuyó esos síntomas a causas menos preocupantes y no insistió en la necesidad de buscar atención médica inmediata.

Semanas después, el pastor fue diagnosticado con una embolia pulmonar, una afección que ocurre cuando un coágulo bloquea una arteria en los pulmones y que puede convertirse en una emergencia médica si no recibe tratamiento oportuno.

La querella, presentada ante el Tribunal Superior del condado de San Francisco, sostiene que OpenAI no implementó salvaguardas suficientes para evitar que los usuarios interpretaran las respuestas del sistema como orientación médica confiable.

Hasta el momento, el proceso se encuentra en una etapa inicial y las acusaciones deberán ser evaluadas por los tribunales. Como en toda demanda civil, corresponde a las partes presentar las pruebas que respalden sus posiciones antes de que exista una decisión judicial.

OpenAI mantiene en sus políticas de uso que ChatGPT es una herramienta de información y que no sustituye el diagnóstico, el tratamiento ni la evaluación realizada por un profesional de la salud. La empresa también recomienda acudir a un médico cuando existan síntomas que puedan representar un riesgo para la vida.

La Clave

La inteligencia artificial está cambiando la forma en que las personas buscan información, incluso sobre su propia salud.

Sin embargo, herramientas como ChatGPT fueron diseñadas para ofrecer información general, no para reemplazar el criterio clínico de un médico. Un chatbot no puede realizar un examen físico, interpretar pruebas diagnósticas ni asumir la responsabilidad de una decisión médica. Este caso recuerda que la tecnología puede ser un apoyo para comprender un tema, pero cuando existen síntomas persistentes o de gravedad, la atención profesional sigue siendo insustituible.