Hva er AI-hallusinasjon?

01Hva betyr hallusinasjon?

Du ba AI om kilder på et tema, og den ga deg tre artikler som så ordentlige ut, med forfatternavn, utgivelsesår og til og med sidetall. Da du lette etter dem, så du at ingen av dem fantes. Det er nettopp AI-hallusinasjon: I stedet for å si at den ikke vet noe, finner modellen på et troverdig svar.

Begrepet er lånt fra hallusinasjon i menneskets psykologi, men mekanismen bak er helt annerledes. Modellen lyver ikke og prøver heller ikke å lure. Den lager bare den mest sannsynlige fortsettelsen av teksten den har fått, og denne fortsettelsen stemmer av og til ikke med virkeligheten.

Det som gjør problemet farlig, er hvordan feilen ser ut. Feil informasjon skrives med samme flyt og samme selvtillit som riktig informasjon. Derfor er det vanskelig å oppdage at AI produserer feil informasjon ved første øyekast.

02Hvorfor finner modeller på ting?

Roten til hallusinasjon ligger i hvordan språkmodeller fungerer. Modellen lagrer ikke kunnskap som et leksikon. Den forutsier neste del i hvert steg ved hjelp av mønstre den har lært fra milliarder av setninger. For en detaljert forklaring kan du se artikkelen vår om hva er en LLM.

• Gjetning er ikke kunnskap: Modellen lager ikke det «som er riktig», men det «som er mest sannsynlig i denne konteksten».
• Manglende data: Nisjetemaer, lokal kunnskap og nye hendelser finnes lite eller ikke i treningsdataene.
• Kunnskapsgrense: Modellen kan ikke vite av seg selv hva som har skjedd etter treningen.
• Tendens til å være hjelpsom: Modeller trenes til å svare. I stedet for å si «jeg vet ikke» kan de fylle tomrommet.
• Uklart spørsmål: Hvis spørsmålet ikke er tydelig, gjør modellen sin egen antakelse og går videre ut fra den.
• Lang kontekst: I svært lange samtaler kan informasjon fra starten bli oversett, og det kan komme motstridende svar.

03De vanligste typene hallusinasjon

Hallusinasjoner er ikke tilfeldig fordelt. De forekommer mye oftere i visse typer oppgaver. Å kjenne disse typene viser hvor du bør være ekstra oppmerksom.

04Risiko i arbeidslivet

Ved privat bruk er en hallusinasjon et lite tidstap. I arbeidslivet kan konsekvensene være alvorlige. En supportassistent som oppgir feil returvilkår til en kunde, en produktbeskrivelse med feil tekniske egenskaper eller et blogginnlegg med feil juridisk informasjon kan føre til tapt tillit og juridiske problemer.

Risikoen er stor også i markedsføringsinnhold. Hvis en tekst skrevet av AI inneholder en setning som «ifølge undersøkelser er 80 prosent av kundene…» og undersøkelsen ikke finnes, skades troverdigheten til merkevaren. Derfor må alle tall og påstander i AI-resultater verifiseres mot kilden i prosesser for digital markedsføring.

Riktighet er også viktig for søkemotorene. Sider med feil informasjon svekker leserens tillit og dermed den langsiktige synligheten. Å måle innholdskvaliteten jevnlig er en del av arbeidet med SEO og analyse.

05Slik reduserer du hallusinasjon

Det er ikke mulig å få hallusinasjon ned til null i dag, men det er mulig å redusere omfanget betydelig. De fleste effektive metodene går ut på å gi modellen bedre kontekst og gi den lov til å si «jeg vet ikke».

Gi kilden selv

I stedet for å be modellen hente informasjonen fra hukommelsen, legger du det aktuelle dokumentet, produktarket eller retningslinjen inn i samtalen og sier «svar kun ut fra denne teksten». I bedriftssystemer gjøres denne tilnærmingen med arkitekturer som søker opp og henter dokumentene automatisk.

Tillat usikkerhet

Legg setningen «Hvis du ikke er sikker, si det tydelig og ikke gjett» til i instruksjonen. Denne enkle formuleringen reduserer modellens tendens til å fylle tomrom med oppdiktet innhold.

Snevre inn spørsmålet

Still tydelige, avgrensede spørsmål i stedet for generelle. Oppgi rolle, kontekst, ønsket format og et eksempel. Teknikkene for effektive instruksjoner har vi forklart i detalj i guiden vår om hvordan skriver du en prompt.

Bruk søkefunksjonen

For temaer som krever oppdatert informasjon, velg assistenter som kan søke på nettet, og be om kildelenker. Assistenter med innebygd søk, som Gemini, kan vise lenker. Åpne og les likevel selv om innholdet bak lenken virkelig støtter påstanden.

06Tegn som avslører oppdiktet innhold

Hallusinasjoner setter ofte noen felles spor. Å kjenne disse tegnene gjør at du raskt ser hvilken setning som må kontrolleres ekstra. Ingen av dem er bevis på feil alene, men alle bør regnes som et rødt flagg.

Det sterkeste tegnet er overdreven sikkerhet. Ekte eksperter bruker uttrykk som «vanligvis» og «i de fleste tilfeller» om usikre temaer, mens modellen kan presentere informasjon uten kilde med presisjon helt ned til komma. Runde og imponerende tall krever også oppmerksomhet.

• Kildeinformasjon så detaljert at du ikke kan kontrollere den: forfatter, år, tidsskrift og sidetall samlet.
• Informasjon som ikke passer med konteksten, eller som motsier et tidligere svar.
• Overraskende detaljerte påstander om lokale og nisjepregede temaer.
• Produktfunksjoner, biblioteker eller innstillinger du aldri har hørt om og ikke vet om finnes.
• Tall og datoer som endrer seg når du stiller det samme spørsmålet på nytt.

07Metoder for å verifisere AI

Å bruke en kort sjekkliste før du publiserer AI-resultater eller sender dem til en kunde, fanger det meste av feilene. Disse metodene for å verifisere AI bør gjøres til standard i teamet.

1. Kontroller hvert tall, hver dato og hver statistikk i primærkilden.
2. Åpne hver lenke og se om den finnes og om den virkelig støtter det som sies.
3. Verifiser navn på personer, organisasjoner og produkter på de offisielle nettsidene.
4. Få regelverk og skatteopplysninger bekreftet fra gjeldende offisielle kilder og av en fagperson.
5. Still det samme spørsmålet på en annen måte eller til en annen modell, og sammenlign svarene.
6. Kjør og test alltid koden. Se opp for pakker og funksjoner som ikke finnes.
7. La en person som kan temaet lese den endelige teksten.

08Tiltak i systemdesign

Når AI betjener kunder som en del av programvare, holder det ikke å overlate verifiseringen til de ansattes oppmerksomhet. Selve systemet må utformes slik at det begrenser feil.

Eksakt informasjon som pris, lager, reservasjon og bestillingsstatus bør leses direkte fra databasen eller et API, ikke fra modellens hukommelse. Slike levende datakoblinger bygges inn i nettbutikkintegrasjon og bransjespesifikke programvareløsninger. Modellen blir da bare laget som gjør disse dataene om til naturlig språk.

I tillegg bør menneskelig godkjenning være obligatorisk for høyrisikooperasjoner (returgodkjenning, betaling, avtale), svarene bør loggføres, og eksempelsvar bør kontrolleres med jevne mellomrom. Brukes AI til å svare på kundespørsmål i sosiale medier, bør samme prinsipp gjelde i arbeidet med sosiale medier.