ChatGPT, kildekritikk og verdien av å bruke hodet

Nylig skrev NRK om studenter som hadde blitt lurt av ChatGPT da de søkte etter relevant litteratur. Studentene hadde bestilt bøker som ikke finnes. ChatGPT hadde diktet opp falske fagbøker og forfattere.

Av Anders Lindanger Røvær
PhD, Data Scientist, Webstep
Innlegget er skrevet med hjelp fra ChatGPT

ChatGPT er en avansert teknologi som har revolusjonert måten vi søker etter informasjon på. Ved å bruke maskinlæring og naturlig språkbehandling kan ChatGPT generere tekst som ligner på det et menneske ville skrevet. Dette gjør at ChatGPT kan gi svar på spørsmål og søke etter informasjon på en rask og effektiv måte. 

Når det er sagt, er det viktig å understreke et par viktige detaljer:

For det første har ChatGPT  begrenset kunnskap om verden etter 2021. For det andre, og det er langt mer problematisk, vil ChatGPT av og til gi unøyaktige, og til og med helt uriktige, svar.

Faren for unøyaktighet og direkte feil er også det første du blir opplyst om når du tar i bruk teknologien. I tilfeller hvor ChatGPT ikke kjenner til svaret på spørsmålet kan man i enkelte tilfeller se at teknologien med stor selvtillit rett og slett dikter opp falske svar. Disse svarene blir presentert på en svært troverdig måte som i sin tur er en følge av at ChatGPT ikke nødvendigvis har innsikt i sin egen manglende kompetanse. Dette aspektet vil sannsynligvis (forhåpentligvis?) bedre seg med nye versjoner av ChatGPT eller lignende teknologier. 

Det er altså svært viktig å understreke at man som bruker må stille seg grunnleggende kritisk til svarene ChatGPT gir. Ved bruk av teknologien bør man altså utøve generell god kildekritikk. Kildekritikk er ikke nytt, og blir bare mer og mer relevant i vår digitale tidsalder!

Personlig har jeg brukt ChatGPT omtrent hver dag siden verktøyet ble lansert, og har hatt stor nytte av teknologien – selv om den rett og slett lyver til meg innimellom. Jeg vil imidlertid understreke at jeg aldri ville benyttet ChatGPT til noe jeg selv ikke kan faktasjekke. Da ender man fort opp i en pinlig situasjon – som å be bibliotekarer bestille bøker som ikke finnes – eller verre.