on tekoälyn tuottamaa sujuvaa ja itsevarman kuuloista sisältöä, joka on virheellistä tai jota lähteet tai annettu aineisto eivät tue. Se voi olla keksitty luku, lähde tai lainaus, aineistosta puuttuva yksityiskohta tai ristiriita saman keskustelun aiemman vastauksen kanssa. Yhdysvaltain standardointivirasto NIST kutsuu ilmiötä konfabulaatioksi.
Miksi sitä tapahtuu
tuottaa tekstiä, joka mukailee sen koulutusaineistoa, ennustamalla seuraavan tekstinpalan kerrallaan. Sama tapa tuottaa usein paikkansapitävää tekstiä, mutta joskus virheellistä. Virheellinen vastaus kuulostaa siksi yhtä varmalta kuin oikea.
Missä sitä kannattaa odottaa
- Pitkissä, avoimissa vastauksissa ja aiheissa, jotka vaativat erityisosaamista.
- Lähdeviitteissä ja perusteluissa: vastaukseen voi tulla lähde tai päättelyketju, joka näyttää tukevan sitä, vaikka vastaus on väärä.
- Tehtävissä, joiden pitäisi pohjautua antamaasi aineistoon: tuotokseen voi tulla tietoja, joita aineistossa ei ole.
Miten riskiä pienennetään
- Anna lupa vastata, ettei tietoa ole, ja pyydä merkitsemään epävarmat kohdat.
- Rajaa vastaus antamaasi aineistoon ja pyydä väitteiden tueksi sanatarkat lainaukset.
- Avaa tärkeän väitteen alkuperäinen lähde itse. Tekoälyn antama viite on vihje, ei todiste.
Nämä keinot vähentävät virheitä mutta eivät poista niitä. Tarkistus kuuluu siis jokaiseen vastaukseen, jonka varaan teet jotain tärkeää.
Hallusinaatio ei ole valehtelua
Sana kuulostaa inhimilliseltä, mutta kyse ei ole aikeesta johtaa harhaan. Virhe syntyy samalla tavalla kuin oikea vastaus, joten vastauksen varmuus ei kerro sen paikkansapitävyydestä.