5. Fakta, nejistota a kontrola výstupu

Plynulost není důkaz

Generativní model může vytvořit větu, která dobře navazuje na zadání, ale neodpovídá skutečnosti. Takovým nepodloženým výstupům se často říká halucinace. Chyba může být nápadná, například neexistující kniha, nebo drobná, třeba změněný rok či zaměněné jméno. Přesvědčivý styl o správnosti informace nic nerozhoduje.

Zadání „nevymýšlej si“ je užitečný pokyn, ale neumí zaručit, že se chyba neobjeví. Pro praktickou kontrolu si rozděl výstup na tvrzení, návrhy a nejasnosti. Tvrzení „setkání proběhne v pátek“ vyžaduje podklad. Návrh „můžeš použít kratší nadpis“ je doporučení. Nejasnost „datum nebylo uvedeno“ upozorňuje na chybějící informaci.

V našem cvičení dostane model několik veřejných fiktivních faktů a má z nich vytvořit shrnutí. Nejde o hledání informací na internetu. Můžeš tak přesně posoudit každou větu. Vyber podklad s malým rozdílem, který se snadno ztratí: účast je možná od patnácti let, ale mladší návštěvníci mohou přijít s doprovodem. Shrnutí musí zachovat obě části.

Ověřování odkazu znamená otevřít zdroj a najít informaci v odpovídajícím kontextu. Samotná existence webu nestačí. Stránka může mít jiné datum, mluvit o jiné akci nebo obsahovat jen obecný názor. Jestli model nemá nástroj k prohlížení webu, žádost o aktuální ověření mu tuto schopnost nepřidá. Je potřeba vědět, co skutečně použil.

Vlastní kontrolní zadání

Vytvoř přehled z následujících fiktivních údajů:
Setkání: 9. prosince, 16:30, Klub Javor.
Samostatná účast od 15 let. Mladší mohou přijít s dospělým doprovodem.
Kapacita: 20 míst. Stav volných míst není uveden.
Výstup rozděl na POTVRZENÉ ÚDAJE a CHYBĚJÍCÍ ÚDAJE.
Nezaměňuj kapacitu s počtem volných míst.
Nezjednodušuj věkové podmínky tak, aby se změnil jejich význam.

Dobrý výstup uvede kapacitu dvacet, nikoli dvacet volných míst. Také nezakáže účast všem mladším lidem. Tato rozlišení jsou užitečná i mimo AI: při zkracování textu snadno ztratíš výjimku nebo zaměníš počet plánovaných míst za aktuální dostupnost. AI zde potřebuje stejnou redakční kontrolu jako jiný návrh textu.

Cvičení: tabulka tvrzení a podkladů

1. Rozděl získanou odpověď na jednotlivá faktická tvrzení. Každé napiš na vlastní řádek.
2. Ke tvrzení přidej část podkladu, která jej podporuje. Pokud ji nenajdeš, označ tvrzení NEDOLOŽENO.
3. Zvlášť vyznač ztracené výjimky, doplněné údaje a případné rozpory.
4. Požádej o opravenou verzi s konkrétním popisem chyby. Opravu znovu porovnej s podkladem.

Nepoužívej druhou odpověď stejného modelu jako jediný důkaz, že první byla správná. Model může stejnou chybu zopakovat nebo vytvářet přesvědčivé vysvětlení. Druhý průchod je vhodný pomocník při hledání problémů, zatímco skutečná opora musí přijít z dokumentu, měření nebo jiného vhodného zdroje.

Na konci si stanov hranici pro použití: například veřejné oznámení projde až po ruční kontrole všech dat a podmínek. Náročnost kontroly přizpůsob následkům chyby. Při nácviku používej fiktivní akce; u skutečných medicínských, právních nebo finančních rozhodnutí potřebuješ odpovídající odborné ověření, ne pouze jazykově přesný prompt.