Bug perangkat lunak pada pustaka visualisasi. Sebuah bug dalam perangkat lunak pembuatan grafik yang digunakan penulis asli menyebabkan makalah dengan skor disrupsi maksimum disembunyikan dari histogram yang dipublikasikan. Makalah-makalah ini tetap dimasukkan dalam analisis statistik utama, tetapi representasi visualnya—dan konsentrasi skor maksimal yang tidak biasa—tidak terlihat oleh pembaca dan peninjau. Tim Belgia menemukan ini saat mereka mencoba mereproduksi studi menggunakan data terbuka .
Data referensi yang hilang pada publikasi lama. Basis data bibliometrik yang digunakan dalam studi tahun 2023 memiliki daftar referensi yang lebih lengkap untuk makalah baru dibandingkan dengan makalah lama. Publikasi lama, yang tidak memiliki catatan referensi lengkap, salah diklasifikasikan oleh CD index seolah-olah tidak memiliki kutipan ke belakang (zero backward citations). CD index kemudian memberikan makalah-makalah ini skor disrupsi maksimum yang mungkin. Seiring kualitas basis data meningkat dari waktu ke waktu, semakin sedikit makalah terbaru yang menerima dorongan artifisial ini, menciptakan kesan palsu tentang tren penurunan .
Ketika peneliti Belgia menyaring makalah dengan data referensi yang hilang—sebuah langkah kontrol kualitas standar—93% dari penurunan yang dilaporkan antara tahun 1945 dan 2010 menghilang dari set data terbesar studi tahun 2023 .
Holst dan rekan-rekannya menyerahkan kritik mereka ke Nature pada Oktober 2023, hanya beberapa bulan setelah makalah asli muncul. Kritik tersebut baru diterbitkan pada Agustus 2026—tertunda selama 32 bulan .
Selama waktu itu, studi asli mengumpulkan lebih dari 1.000 kutipan tambahan . Nature sendiri menerbitkan editorial dan fitur berita yang memperlakukan penurunan tersebut sebagai fakta yang sudah mapan
. Kebijakan jurnal juga mencegah para kritikus berbicara kepada pers selama kritik mereka dalam proses peninjauan, secara efektif membungkam upaya koreksi selama periode ketika temuan yang cacat itu paling berpengaruh
.
Keterlambatan ini menyoroti apa yang disebut para peneliti sebagai masalah sistemik dalam penerbitan ilmiah: insentif lebih menguntungkan hasil yang menarik perhatian daripada verifikasi, dan koreksi bergerak terlalu lambat untuk mengimbangi penyebaran temuan yang meragukan .
Tim Belgia berhati-hati tentang apa yang dibuktikan oleh analisis ulang mereka. Mereka menyimpulkan bahwa "saat ini tidak ada bukti meyakinkan bahwa penelitian ilmiah tidak sedahsyat dulu" berdasarkan metrik CD-index yang digunakan dalam studi tahun 2023 . Mereka berpendapat bahwa metodologi dan kesimpulan makalah asli tidak memberikan dasar yang kuat untuk kebijakan sains
.
Para peneliti juga memperingatkan bahwa bahkan kesalahan kecil dalam basis data besar dapat mendorong kesimpulan yang memengaruhi perdebatan global. "Temuan kami berfungsi sebagai kisah peringatan tentang ketergantungan pada analisis bibliometrik skala besar tanpa kontrol kualitas yang cermat," tulis mereka .
Penulis asli, Park, Leahey, dan Funk, menerbitkan sebuah Tanggapan (peer-reviewed Reply) di edisi Nature yang sama. Mereka berargumen bahwa penurunan tersebut tetap signifikan secara statistik dalam spesifikasi alternatif, termasuk saat menggunakan set data dan kriteria eksklusi dari Holst dkk. sendiri. Mereka menunjuk pada model regresi mereka sendiri, yang menurut mereka menghasilkan penurunan yang besar dan signifikan untuk makalah dan paten .
Di sisi lain, tim Belgia mencatat bahwa saat menggunakan filter yang lebih ketat (makalah dengan setidaknya 10 referensi), mereka justru menemukan sedikit peningkatan disrupsi dari waktu ke waktu. Namun, mereka memperingatkan bahwa CD index itu sendiri mungkin tidak cukup kuat untuk mendukung kesimpulan definitif di kedua arah .
Perdebatan ini tidak hanya bersifat akademis. Klaim bahwa sains menjadi kurang disruptif telah digunakan untuk membenarkan perubahan dalam pendanaan penelitian, sistem evaluasi, dan bahkan narasi tentang apakah kita hidup di era stagnasi . Jika klaim itu sebagian besar adalah hasil dari artefak data, maka kebijakan yang dibangun di atasnya mungkin sedang mengatasi masalah yang tidak ada.
Secara lebih luas, kasus ini menggarisbawahi kerapuhan sains big data. Studi tahun 2023 menganalisis puluhan juta catatan dengan alat otomatis, tetapi satu bug di pustaka visualisasi dan ketidaklengkapan basis data rutin sudah cukup untuk menghasilkan kesimpulan yang menarik perhatian yang membutuhkan waktu tiga tahun untuk diperbaiki—dan yang masih dipertahankan oleh beberapa peneliti.
Untuk saat ini, pertanyaan apakah disrupsi ilmiah benar-benar menurun tetap belum terjawab. Yang jelas adalah keyakinan yang ditempatkan pada temuan tahun 2023 tidak dapat dibenarkan oleh bukti yang sebenarnya dikandungnya.