Kuinka suuri vaikutus tällä oli? Suurimmassa analysoidussa datasetissä artefaktit selittävät 93 % havaitusta laskusta vuosina 1945–2010 . Kun tutkijat rajoittivat analyysinsä artikkeleihin, joilla oli vähintään 10 viitettä, he havaitsivat jopa pienen nousun 'häiritsevyydessä'
.
Nature julkaisi samana päivänä myös alkuperäisten kirjoittajien vastauksen. He väittävät, että heidän oma uudelleenanalyysinsä – käyttäen belgialaisryhmän omia preferoimia poissulkukriteerejä – osoittaa edelleen tilastollisesti ja käytännöllisesti merkittävän laskun . Belgialaisryhmä kuitenkin huomauttaa, että tulos riippuu täysin siitä, miten dataa rajataan, ja itse mittari ei ole riittävän robusti tällaisten johtopäätösten tekemiseen
.
Belgialaiset tutkijat lähettivät kriittisen vastineensa Naturelle lokakuussa 2023, mutta lehti hyväksyi sen julkaistavaksi vasta 32 kuukautta myöhemmin . Tänä aikana:
Tutkimusryhmän johtaja Vincent Ginis kommentoi: ”Ohjelmistobugi korjattiin avoimen lähdekoodin yhteisössä kuukausissa, mutta tieteellinen korjaus kesti vuosia. Samaan aikaan virheellinen tulos muokkasi julkista keskustelua ja politiikkaa.”
Alkuperäinen tutkimus herätti yli 300 uutisjuttua maailmanlaajuisesti ja sitä käytettiin politiikkadokumenteissa. Belgialaisryhmä toteaa suoraan: ”Vuoden 2023 metodologia ja johtopäätökset eivät tarjoa luotettavaa perustaa tiedepolitiikalle.”
Tapaus korostaa, kuinka tärkeää on tarkistaa bibliometristen indikaattorien taustalla olevien tietokantojen laatu ennen kuin niistä vedetään kauaskantoisia johtopäätöksiä tieteellisestä kehityksestä.