Näin tekoälyhakukoneet tarkistavat ja viittaavat lähteisiin

3. Todennettavuustarkistukset

Tekoäly lukee koko lähteen – ei vain otsikoita tai tiivistelmiä – ja tarkistaa, tukeeko lähde suoraan väitettä, onko se ristiriidassa sen kanssa vai onko se siihen liittymätön. Se havaitsee väärintulkinnan, valikoivan lainaamisen tai pois jätetyn kontekstin . Järjestelmät suosivat sisältöä, joka viittaa ensisijaisiin tietoihin nimettyjen lähteiden kautta ja joka linkittää muille uskottaville sivustoille ja niistä . Anonyymien kirjoittajien sisältö, joka viittaa nimeämättömiin ”alan asiantuntijoihin” ilman ulkopuolisia viittauksia, on toiminnallisesti todentamatonta eikä todennäköisesti tule siteeratuksi .

4. Ristiintarkistus ja automaattinen faktantarkistus

Automaattiset faktantarkistusjärjestelmät vertaavat väitteitä useisiin riippumattomiin lähteisiin. Jos väitettä tukee useita arvovaltaisia lähteitä, se tulee todennäköisemmin siteeratuksi. Jos lähteet ovat ristiriidassa keskenään, järjestelmä saattaa alentaa luotettavuutta . Kyse ei ole oikeassa olemisesta absoluuttisessa mielessä – kyse on konsensuksesta lähteiden välillä, joita tekoäly pitää uskottavina . Järjestelmä etsii päällekkäisyyttä, johdonmukaisuutta ja samanmielisyyttä lähteiden välillä tarkistaen, esiintyykö sama idea muualla samankaltaisessa muodossa .

5. Viittausvalintakriteerit

Järjestelmä ajaa jokaisen ehdokassivun saman viiden tarkistuksen läpi: pääse sivulle, lue se, poimi siitä selkeä vastaus, punnitse, onko lähde luotettava kyseisessä aiheessa, tarkista, onko se tarpeeksi spesifi väitteen todentamiseen, ja varmista, onko se tarpeeksi ajankohtainen kysymykseen . Sivun on vastattava tarkasti juuri esitettyyn kysymykseen, ei vain yleistä aihetta . Selkeään yhteen käsitteeseen keskittyvä sisältö on helpompaa tekoälyn hakea ja käyttää uudelleen kuin laajat tai sekalaiset sivut . Sivu, joka läpäisee kaikki tarkistukset, ansaitsee viittauksen; sivu, joka epäonnistuu yhdessä, haetaan, harkitaan ja sitten hiljaisesti hylätään .

6. Ankkurointi vähentää harhoja

Kun järjestelmällä on oikeat asiakirjat, se käyttää niitä vastauksensa ankkurointiin – eli se tuottaa vastauksia haetun sisällön perusteella eikä pelkästään harjoitusdatan varassa. Tämän ankkurointivaiheen tarkoituksena on vähentää perusteettomia väitteitä ja harhoja .

60 %:n viittausongelma

Kaikista näistä tarkistuksista huolimatta tekoälyhakukoneiden tarkkuus lähteiden viittaamisessa on kaukana täydellisestä. Columbia Journalism Review'n tutkimuksessa testattiin kahdeksaa tekoälyhakukonetta, ja havaittiin, että ne viittaavat vääriin lähteisiin huolestuttavalla noin 60 %:n todennäköisyydellä . Koneet joskus jopa keksivät viittauksia kokonaan tai poimivat faktoja lähteiden epäolennaisista osista. Kuten alan analyysi toteaa, varmistusmekanismit eivät ole ”täysin varmoja” .

Mitä tämä tarkoittaa käyttäjille

Tämän putken ymmärtäminen auttaa selittämään, miksi jotkut lähteet tulevat siteeratuiksi ja toiset eivät. Järjestelmä priorisoi konsensusta uutuuden edelle, auktoriteettia anonyymiyden edelle ja todennettavuutta mukavuuden edelle. Mutta korkea virheprosentti tarkoittaa, että käyttäjien tulisi silti tarkistaa tekoälyn lähteistä saamat väitteet alkuperäisestä lähteestä – erityisesti uutisten, tilastojen ja aikaherkän tiedon kohdalla. Tekoäly löytää tiedon nopeasti, mutta sen päättäminen, onko turvallista toistaa, on vaikea osa .