Un error en el software de visualización. Un fallo en la librería de gráficos utilizada por los autores originales ocultó de los histogramas publicados los artículos con la puntuación máxima de disrupción. Estos artículos sí se incluían en el análisis estadístico principal, pero su representación visual —y la inusual concentración de puntuaciones máximas— era invisible para lectores y revisores. El equipo belga descubrió esto al intentar reproducir el estudio con los datos abiertos .
Datos de referencias incompletos en publicaciones antiguas. Las bases de datos bibliométricas utilizadas en el estudio de 2023 tenían listas de referencias más completas para los artículos recientes que para los antiguos. Las publicaciones más viejas, al carecer de registros completos de referencias, fueron clasificadas erróneamente por el índice CD como si tuvieran cero citas hacia atrás. El índice CD les asignó entonces la máxima puntuación de disrupción posible. A medida que la calidad de las bases de datos mejoraba con el tiempo, menos artículos recientes recibieron este impulso artificial, creando una falsa impresión de tendencia a la baja .
Cuando los investigadores belgas filtraron los artículos con datos de referencia faltantes —un paso estándar de control de calidad—, el 93% de la caída reportada entre 1945 y 2010 desapareció en el conjunto de datos más grande del estudio de 2023 .
Holst y sus colegas enviaron su crítica a Nature en octubre de 2023, apenas unos meses después de la publicación del artículo original. No se publicó hasta agosto de 2026, una demora de 32 meses .
Durante ese tiempo, el estudio original acumuló más de 1000 citas adicionales . La propia Nature publicó un editorial y un reportaje que trataban el declive como un hecho establecido
. La política de la revista también impidió que los críticos hablaran con la prensa mientras su crítica estaba en revisión, silenciando de hecho los esfuerzos de corrección durante el periodo en que el hallazgo erróneo era más influyente
.
Esta demora pone de relieve lo que los investigadores denominan un problema sistémico en la publicación científica: los incentivos favorecen los resultados llamativos sobre la verificación, y las correcciones avanzan demasiado lento para seguir el ritmo de propagación de hallazgos cuestionables .
El equipo belga es cauteloso sobre lo que demuestra su nuevo análisis. Concluyen que "actualmente no hay evidencia convincente de que la investigación científica sea menos innovadora de lo que solía ser" basándose en la métrica del índice CD utilizada en el estudio de 2023 . Sostienen que la metodología y las conclusiones del artículo original no proporcionan una base sólida para las políticas científicas
.
Los investigadores también advierten que incluso errores pequeños en grandes bases de datos pueden impulsar conclusiones que influyan en el debate global. "Nuestros hallazgos sirven como una advertencia sobre la dependencia de análisis bibliométricos a gran escala sin un cuidadoso control de calidad", escriben .
Los autores originales, Park, Leahey y Funk, publicaron una Réplica revisada por pares en el mismo número de Nature. Sostienen que el declive sigue siendo estadísticamente significativo bajo especificaciones alternativas, incluso cuando se utiliza el propio conjunto de datos y los criterios de exclusión de Holst et al. Señalan su propio modelo de regresión, que, según afirman, produce declives grandes y significativos tanto para artículos como para patentes .
Por su parte, el equipo belga señala que, al utilizar un filtro más estricto (artículos con al menos 10 referencias), encontraron en realidad un ligero aumento de la disrupción a lo largo del tiempo. Sin embargo, advierten que el propio índice CD puede no ser lo suficientemente robusto como para respaldar conclusiones definitivas en uno u otro sentido .
Este debate no es meramente académico. La afirmación de que la ciencia es cada vez menos disruptiva se ha utilizado para justificar cambios en la financiación de la investigación, los sistemas de evaluación e incluso la narrativa sobre si vivimos en una era de estancamiento . Si esa afirmación es en gran medida el resultado de artefactos en los datos, entonces las políticas construidas sobre ella podrían estar abordando un problema que no existe.
En un sentido más amplio, el caso subraya la fragilidad de la ciencia de datos masivos. El artículo de 2023 analizó decenas de millones de registros con herramientas automatizadas, pero un simple error en una librería de visualización y la incompletitud rutinaria de las bases de datos fueron suficientes para producir una conclusión digna de titulares que tardó tres años en corregirse, y que algunos investigadores aún defienden.
Por ahora, la cuestión de si la disrupción científica está realmente en declive sigue sin resolverse. Lo que está claro es que la confianza depositada en el hallazgo de 2023 no estaba justificada por la evidencia que realmente contenía.