Jak na to, aby si ChatGPT nevymýšlel: 7 praktických rad

3. Vyžadujte citace a dohledatelnost

Požádejte ChatGPT, aby u každého tvrzení uvedl konkrétní zdroj včetně URL nebo referenčního dokumentu . Mějte na paměti, že i citace mohou být smyšlené, takže je berte spíš jako tvrzení k ověření než jako důkaz . Nicméně požadavek na dohledatelnost posouvá odpovědi k strukturovanějšímu a zdrojově ukotvenému formátu .

4. Rozdělte složité dotazy na malé, přímé

Místo jedné široké otázky položte sérii úzce zaměřených podotázek . Zúžení úkolu modelu snižuje jeho volnost a tím i pravděpodobnost, že si začne vymýšlet . Například „Jaké jsou dopady změny klimatu?“ nahraďte třemi konkrétními otázkami o teplotě, hladině moří a zemědělství.

5. Použijte roli a explicitní omezení

Definujte jasnou roli a zakažte vágní termíny . Příklad: „Jsi výzkumný asistent. Používej jen informace z dokumentu, který jsem ti poskytl. Pokud odpověď v dokumentu není, řekni 'Není uvedeno'.“ Přísná behaviorální omezení udrží model v realitě poskytnutého kontextu .

6. Vyžadujte vícestupňové ověření

Přidejte metapříkaz: „Než odpovíš, ověř každé faktické tvrzení proti poskytnutým zdrojům a označ vše, co nemůžeš ověřit.“ To přiměje model k sebekontrole před vygenerováním textu . Požádejte model, aby ukázal své úvahy nebo zdroje – umožní vám to jeho tvrzení zkontrolovat, ale nenahrazuje to vaše vlastní ověření .

7. Kritická tvrzení si vždy ověřte sami

Každý konkrétní faktický výstup – data, statistika, jména, zákony, lékařské nebo finanční údaje – berte jako hypotézu, kterou je třeba prověřit, nikoli jako závěr, kterému lze věřit . Než na základě nich podniknete něco důležitého, ověřte si je z nezávislých zdrojů. Položte stejnou otázku v mírně pozměněné formě v jiný čas; nekonzistentní odpovědi jsou silným signálem halucinace .

Co spolehlivě nefunguje

• Pouhé „Jsi si jistý?“ je slabší než žádost o zdroje, důkazy, abstinenci nebo explicitní ověřovací kroky .
• Spoléhat se na citace bez jejich kontroly je riskantní – i citace samy o sobě je třeba brát jako tvrzení k ověření .

Hlavní upozornění

Halucinace nelze zcela zastavit; cílem je omezení škod, nikoli jejich eliminace . Kombinace více technik – ukotvení v dokumentech, příkazů k abstinenci, požadavků na citace a ručního ověřování – vám poskytne mnohem silnější obranu než spoléhání se na jedinou metodu .