Google retira discretamente algunos AI Overviews tras errores médicos graves
A principios de enero, una investigación de The Guardian reveló un problema serio: Google estaba difundiendo, a través de sus AI Overviews, información médica engañosa—e incluso peligrosa—en respuesta a preguntas de salud comunes.
Unas semanas después, estos resultados parecen haber sido parcialmente eliminados.
Google AI Overviews: Respuestas médicas consideradas “peligrosas”
La investigación de The Guardian citaba varios ejemplos preocupantes:
- En un caso calificado como “realmente peligroso” por especialistas, Google aconsejaba a personas con cáncer de páncreas que evitaran alimentos ricos en grasas. Sin embargo, según los expertos, esta recomendación es exactamente opuesta a las buenas prácticas médicas y podría aumentar el riesgo de mortalidad en estos pacientes.
- Otro ejemplo considerado “alarmante”: información errónea sobre las pruebas de función hepática, que podría llevar a los pacientes con enfermedades graves del hígado a creer, erróneamente, que sus resultados son normales.
Estas respuestas eran generadas automáticamente por los AI Overviews, resúmenes producidos por IA y situados en la parte superior de los resultados de búsqueda.
AI Overviews ahora ausentes… parcialmente
Según The Guardian, los AI Overviews han sido desactivados para algunas consultas específicas, incluyendo:
- “¿cuál es el rango normal para las pruebas de sangre del hígado?”
- “¿cuál es el rango normal para las pruebas de función hepática?”
Cuando se realizan estas búsquedas hoy en día, los resúmenes de IA (AI Overviews) ya no aparecen. En algunos casos, uno de los primeros resultados mostrados es incluso… el artículo de The Guardian explicando su eliminación.
No obstante, la retirada no es sistemática. Formulaciones cercanas o más técnicas (“rango de referencia lft”, por ejemplo) han continuado generando respuestas por parte de la IA, aunque varias pruebas recientes indican que Google parece estar restringiendo gradualmente estas visualizaciones.
Google sigue siendo evasivo
Consultado por The Guardian, Google se negó a comentar sobre estas eliminaciones específicas, limitándose a explicar que estaba trabajando en “mejoras generales”. Un portavoz añadió que un equipo interno de clínicos había revisado las consultas reportadas y determinado que, “en muchos casos, la información no era inexacta y estaba respaldada por fuentes de calidad”.
Una declaración que contrasta con las conclusiones de varios expertos médicos independientes consultados en la investigación inicial.
Un problema más amplio que unas pocas consultas
Para Vanessa Hebditch, directora de comunicación y políticas públicas del British Liver Trust, la eliminación es una “excelente noticia”, pero subraya un problema mucho más profundo: “El verdadero problema es que se centra en una consulta aislada que Google puede simplemente desactivar, sin abordar el problema global de los AI Overviews en salud”.
Este asunto se suma a una larga lista de controversias relacionadas con los resúmenes de IA de Google, que previamente han recomendado poner pegamento en la pizza, sugerido comer piedras, y han sido objeto de varias acciones legales.
La salud no es un campo de experimentación
Google ha hecho múltiples anuncios en los últimos meses para mejorar la búsqueda médica a través de IA, con modelos especializados y salvaguardias reforzadas. Pero este episodio muestra las limitaciones actuales de estos sistemas cuando se implementan a gran escala.
En el campo de la salud, una aproximación no es simplemente un error técnico: puede tener consecuencias reales, graves, e incluso irreversibles. Eliminar puntualmente ciertas respuestas problemáticas no resuelve la cuestión central: ¿deberíamos confiar en consejos médicos dados por resúmenes generados automáticamente, incluso si están “supervisados”?
Mientras esta pregunta permanezca abierta, cada retirada discreta de AI Overview parecerá menos una solución… que una confesión.
