Vad är AI-hallucination?

01Vad betyder hallucination?

Du bad AI om källor i ett ämne och fick tre snyggt formulerade artiklar med författarnamn, utgivningsår och till och med sidnummer. När du letade upp dem visade det sig att ingen av dem fanns. Det är precis detta som är AI-hallucination: i stället för att säga att den inte vet något hittar modellen på ett övertygande svar.

Termen är lånad från hallucinationer inom mänsklig psykologi, men mekanismen bakom är helt annorlunda. Modellen ljuger inte och försöker inte lura någon. Den skapar bara den mest sannolika fortsättningen på texten den fått, och den fortsättningen stämmer ibland inte med verkligheten.

Det som gör problemet farligt är hur felet ser ut. Fel information skrivs med samma flyt och samma självsäkerhet som korrekt information. Därför är det svårt att vid första anblicken upptäcka när AI ger felaktig information.

02Varför hittar modeller på?

Roten till hallucinationer ligger i hur språkmodeller fungerar. En modell lagrar inte kunskap som ett uppslagsverk; den använder mönster den lärt sig från miljarder meningar och förutsäger nästa del i varje steg. En utförlig förklaring finns i vårt inlägg Vad är en LLM.

• Förutsägelse är inte kunskap: modellen skapar inte det som är “sant” utan det som är “mest sannolikt i det här sammanhanget”.
• Bristande data: nischämnen, lokal kunskap och nya händelser finns lite eller inte alls i träningsdatan.
• Kunskapsgräns: modellen kan inte av sig själv veta vad som hänt efter träningen.
• Benägenhet att vara hjälpsam: modeller tränas för att svara; i stället för att säga “jag vet inte” kan de fylla i luckan.
• Oklar fråga: om frågan inte är tydlig gör modellen sitt eget antagande och fortsätter utifrån det.
• Långt sammanhang: i mycket långa samtal kan information från början tappas bort och motstridiga svar uppstå.

03De vanligaste typerna av hallucination

Hallucinationer är inte slumpmässigt fördelade; de förekommer mycket oftare i vissa typer av uppgifter. Att känna till typerna visar var du behöver vara extra uppmärksam.

04Riskerna i arbetslivet

Vid privat användning är en hallucination en liten tidsförlust. I arbetslivet kan följderna vara allvarliga. En supportassistent som anger fel returvillkor till en kund, en produktbeskrivning med fel tekniska specifikationer eller ett blogginlägg med felaktig lagstiftning kan leda till förlorat förtroende och juridiska problem.

Riskerna är stora även i marknadsföringsinnehåll. Om en text skriven av AI innehåller en mening som “enligt studier är 80 procent av kunderna…” och studien inte finns skadas varumärkets trovärdighet. Därför måste varje siffra och påstående i AI-material verifieras mot källan i arbetet med digital marknadsföring.

Även för sökmotorer är korrekthet viktigt. Sidor med felaktig information försvagar läsarnas förtroende och därmed den långsiktiga synligheten; att regelbundet mäta innehållets kvalitet är en del av arbetet med SEO och analys.

05Så minskar du hallucinationer

Att få ned hallucinationer till noll är inte möjligt i dag, men det går att sänka andelen märkbart. De flesta effektiva metoder går ut på att ge modellen bättre sammanhang och tillåta den att säga “jag vet inte”.

Ge källan själv

I stället för att be modellen hämta information ur sitt minne lägger du in det relevanta dokumentet, produktbladet eller policyn i chatten och säger “svara enbart utifrån den här texten”. I företagssystem görs detta med arkitekturer som automatiskt söker upp och hämtar dokument.

Tillåt osäkerhet

Lägg till meningen “Om du inte är säker, säg det tydligt och gissa inte” i instruktionen. Den enkla formuleringen minskar modellens benägenhet att fylla luckor med påhitt.

Snäva in frågan

Ställ tydliga, avgränsade frågor i stället för allmänna. Ange roll, sammanhang, önskat format och exempel. Tekniker för effektiva instruktioner beskriver vi utförligt i vår guide Så skriver du en prompt.

Använd sökfunktionen

För ämnen som kräver aktuell information bör du välja assistenter som kan söka på webben och be om länkar till källorna. Assistenter med integrerad sökning, till exempel Gemini, kan visa länkar; öppna och läs ändå länken och kontrollera om innehållet verkligen stöder påståendet.

06Tecken som avslöjar påhitt

Hallucinationer lämnar ofta vissa gemensamma spår. Att känna igen dem gör att du snabbt ser vilka meningar som behöver kontrolleras extra. Inget av tecknen är ett bevis på fel i sig, men alla bör räknas som en varningsflagga.

Det starkaste tecknet är överdriven säkerhet. Riktiga experter använder uttryck som “i allmänhet” och “i de flesta fall” i osäkra frågor, medan en modell kan presentera information utan källa med precision ända ned till kommatecknet. Runda och imponerande siffror kräver också uppmärksamhet.

• Källuppgifter som är så detaljerade att du inte kan kontrollera dem: författare, år, tidskrift och sidnummer på en gång.
• Uppgifter som inte stämmer med sammanhanget eller som motsäger ett tidigare svar.
• Förvånansvärt detaljerade påståenden i lokala och smala ämnen.
• Produktfunktioner, bibliotek eller inställningar som du aldrig hört talas om.
• Siffror och datum som ändras när du ställer samma fråga igen.

07Metoder för att verifiera AI

Genom att följa en kort checklista innan du publicerar AI-material eller skickar det till en kund fångar du större delen av felen. De här metoderna för att verifiera AI bör bli standard i teamet.

1. Kontrollera varje siffra, datum och statistikuppgift i primärkällan.
2. Öppna varje länk; se om den finns och om den verkligen stöder det som sägs.
3. Verifiera namn på personer, organisationer och produkter på officiella webbplatser.
4. Bekräfta lagstiftning och skatteuppgifter i aktuella officiella källor och hos en expert.
5. Ställ samma fråga på ett annat sätt eller till en annan modell och jämför svaren.
6. Kör och testa alltid koden; se upp för paket och funktioner som inte finns.
7. Låt någon som kan ämnet läsa den slutliga texten.

08Skydd i systemdesignen

Om AI levererar en tjänst till kunden som en del av en programvara räcker det inte att lämna verifieringen åt de anställdas uppmärksamhet. Själva systemet måste utformas så att det begränsar fel.

Exakta uppgifter som pris, lagersaldo, bokning och orderstatus ska läsas direkt från databasen eller via API, inte ur modellens minne. Den här typen av liveanslutningar byggs in i e-handelsintegrationer och branschanpassade mjukvarulösningar. Modellen blir då bara det lager som översätter uppgifterna till naturligt språk.

Dessutom bör mänskligt godkännande vara obligatoriskt för högriskåtgärder (returgodkännande, betalning, avtal), svaren ska loggas och stickprov ska granskas med jämna mellanrum. Om kundfrågor i sociala medier besvaras med AI ska samma princip gälla i arbetet med hantering av sociala medier.