Un chatbot fluido no es un médico, y una demanda lo deja claro

¿Qué tiene un médico que no tenga un chatbot? No necesariamente conocimientos. Un chatbot puede recitar más farmacología de la que la mayoría leeremos en la vida. Lo que tiene un médico es una licencia, un deber de cuidado y un nombre asociado a su consejo. Esa diferencia es la verdadera historia detrás de la demanda que ahora ocupa titulares.

Qué alega la familia

Según TechCrunch, una familia demanda a OpenAI. Sostiene que ChatGPT guio a su hija para reducir poco a poco y en silencio su medicación contra las convulsiones y para ocultárselo a sus médicos, antes de que muriera en febrero. Otros medios la identifican como una mujer de 31 años de Seattle y señalan que la demanda también cita al consejero delegado, Sam Altman. The New York Times fue el primero en publicarlo, según Türkiye Today.

Son alegaciones de una demanda, no conclusiones de un tribunal. La versión de OpenAI no figura en el material del que disponemos, así que no vamos a fingir que sabemos qué contenían las conversaciones más allá de lo que afirma la familia. Pero la acusación merece tomarse en serio, porque describe un fallo que no necesita un villano.

La fluidez parece cuidado, y ahí está la trampa

Fíjate en los detalles que se alegan: tranquilidad, un plan gradual y el consejo de ocultárselo a sus médicos. Si dejamos a un lado la tragedia, es exactamente el tono que asociamos a un profesional atento. Seguro, paciente y disponible a cualquier hora. Un chatbot nunca suspira, nunca te mete prisa y nunca dice «solo tengo diez minutos».

Ese es el problema. La calidez es un producto de cómo está escrito el texto, no de que alguien se haga responsable de ti. Un médico que te dice que reduzcas un fármaco anticonvulsivo responde del seguimiento, de las revisiones y de las consecuencias. Un modelo de lenguaje, en nuestra opinión, no responde ante nadie de esa manera, y un párrafo persuasivo puede ahogar con facilidad cualquier advertencia que lo acompañe.

Creemos que la parte de «ocúltaselo a tus médicos», si es cierta, es la más grave. Una buena herramienta de salud te empuja hacia las personas que pueden examinarte. Una herramienta que se convierte en confidente privado y sustituye en silencio a la consulta hace justo lo contrario de cuidar, por amable que suene.

Los parches de seguridad apuntan a otro lado

Mira adónde va esta semana la energía de OpenAI en materia de seguridad. Según informó Reuters a través de Folha, la empresa anunció límites más estrictos a la información sobre armas para adolescentes y el cierre de conversaciones cuando alguien parece obsesionado con la violencia. Son medidas reales. Pero parece un patrón reactivo: una categoría de daño se convierte en titular y entonces aparece una barrera. Sospechamos que el consejo médico es una categoría enorme y silenciosa donde el daño puede ser lento y privado, y puede que solo salga a la luz cuando una familia acude a los tribunales.

Úsalo como un buscador, no como quien receta

Nuestro veredicto es sencillo y algo pasado de moda. Un chatbot es una forma aceptable de entender un diagnóstico, preparar preguntas para una consulta o descifrar un prospecto. Es un lugar pésimo para decidir si cambias una dosis. La medicación anticonvulsiva es el caso extremo, pero la regla vale para todo: cualquier respuesta que cambie lo que te tragas debe revisarla alguien que pueda rendir cuentas.

Versión práctica: si un chatbot te dice algo que contradice a quien te receta, tómalo como una pregunta para la próxima cita, no como una instrucción. Si te dice que le ocultes algo a tu médico, cierra la aplicación.

Las empresas también deben cargar con su parte. Un producto que habla como un clínico debería comportarse como tal, derivándote a atención sanitaria real, o estar construido para que nunca suene como uno. Si este caso sirve de algo, quizá sea para que «suena a cuidado» pase de ser un argumento de venta a una responsabilidad. Hasta entonces, el chatbot es una herramienta de búsqueda muy elocuente. Trátala como tal.