Stop ChatGPT fra at digte: 7 effektive metoder mod hallucinationer

3. Kræv kildehenvisninger og sporbarhed

Bed ChatGPT om at citere specifikke kilder for hver påstand, inklusive URL eller referencedokument . Bemærk, at kildehenvisninger i sig selv kan være hallucinationer, så behandl dem som påstande, der skal verificeres, snarere end som beviser . Ikke desto mindre tvinger kravet om sporbarhed svarene i retning af et mere struktureret og kildebaseret format .

4. Opdel komplekse spørgsmål i små, direkte spørgsmål

I stedet for ét bredt spørgsmål skal du stille en række afgrænsede underspørgsmål . Ved at indsnævre opgaven reducerer du modellens frihedsgrader, hvilket gør den mindre tilbøjelig til at generere ubegrundet indhold . Erstat for eksempel "Hvad er klimaændringernes effekter?" med tre specifikke spørgsmål om temperatur, havstand og landbrug.

5. Brug persona og eksplicitte begrænsninger

Definer en klar rolle og forbyd vage termer . Eksempel: "Du er en forskningsassistent. Brug kun oplysninger fra det dokument, jeg har givet. Hvis svaret ikke er i dokumentet, så sig 'Ikke specificeret.'" Stramme adfærdsregler holder modellen forankret i den givne kontekst .

6. Kræv verifikation i flere trin

Tilføj en metaprompt: "Før du svarer, skal du verificere hver faktuel påstand mod de medfølgende kilder og markere alt, du ikke kan verificere." Dette får modellen til at tjekke sig selv, før den svarer . Bed modellen om at vise sin ræsonnement eller sine kilder, så du kan inspicere påstandene, men dette bør ikke erstatte din egen verifikation .

7. Verificer altid kritiske påstande selv

Behandl alle specifikke faktuelle output – datoer, statistikker, navne, love, medicinske eller økonomiske detaljer – som en hypotese, der skal tjekkes, ikke en konklusion, der kan stoles på . Brug uafhængige kilder til at bekræfte vigtige påstande, før du handler på dem. Stil det samme spørgsmål på en lidt anden måde på et andet tidspunkt; inkonsistente svar er et stærkt tegn på hallucination .

Hvad der ikke virker pålideligt

• Det er svagere blot at spørge "Er du sikker?" end at bede om kilder, beviser, afståelse fra svar eller eksplicitte verifikationstrin .
• Det er risikabelt at stole på kildehenvisninger uden at tjekke dem – kildehenvisninger bør selv behandles som påstande, der skal verificeres .

Det vigtigste forbehold

Hallucinationer kan ikke stoppes fuldstændigt; målet er skadesreduktion, ikke eliminering . Ved at kombinere flere teknikker – forankring i dokumenter, afståelsesprompter, krav om kildehenvisninger og manuel verifikation – får du et meget stærkere forsvar end ved at stole på en enkelt metode .