7. Generativní AI: návrh není nalezený fakt

Model může vytvořit nový obsah

Generativní AI vytváří obsah, například text, obrázky, zvuk nebo kód. Jazykový model během tvorby odhaduje vhodné pokračování na základě svého nastavení a dostupného kontextu. Výsledkem může být užitečný návrh, ale také nesprávná informace. Jeho schopnost sestavit přirozenou větu se proto nesmí zaměňovat se schopností každé tvrzení ověřit.

Rozlišuj dvě zadání. „Navrhni tři názvy fiktivního studijního klubu“ žádá kreativní návrh. „Jaké je skutečné vstupné tohoto klubu?“ žádá fakt, který musí mít zdroj. U prvního posuzuješ vhodnost a případně originalitu; u druhého existenci, aktuálnost a správné přečtení podkladu. Jeden model může pomáhat s obojím, ale kontrola není stejná.

Trénování modelu, kontext v jedné konverzaci a dohledání dokumentu jsou rozdílné věci. Vložení ceníku do zadání může pomoci s odpovědí z tohoto ceníku; neznamená automaticky přetrénování modelu. Vyhledávání může dodat další text, ale nezaručuje, že bude relevantní, aktuální nebo správný. Každý krok má vlastní možnost chyby.

Postup označovaný RAG spojuje vyhledání podkladů a generování odpovědi z nich. Může pomoci propojit model s vybranými dokumenty. Potřebuješ však zkontrolovat, co se skutečně našlo a zda odpověď odpovídá zdrojům. Když se najde starý ceník, model může správně přečíst nesprávný podklad pro dnešní otázku.

Vlastní dvojice úloh

Úloha A: Navrhni tři názvy fiktivního klubu zaměřeného na myšlení.
U každého vysvětli v jedné větě zamýšlený význam.

Úloha B: Podle tohoto fiktivního podkladu vypiš aktuální cenu:
„Od 1. března je návštěva 120 Kč. Dřívější cena byla 100 Kč.“
Rozliš aktuální a dřívější cenu. Nepřidávej jiné podmínky.

U názvů je přirozené, že dvě odpovědi budou různé. U aktuální ceny očekáváme stejnou hodnotu odpovídající časové podmínce. Pokud bys skutečný název chtěla používat veřejně, teprve potom musíš zvlášť ověřit jeho dostupnost a případná práva. Kreativní návrh není potvrzení, že jej dosud nikdo nepoužívá.

Cvičení: návrhy, fakta a ověření

1. Napiš tři vlastní požadavky: jeden kreativní, jeden na shrnutí dodaného textu a jeden na aktuální fakt.
2. U každého předem stanov, co bude rozhodovat o kvalitě odpovědi.
3. Kreativní a shrnovací úlohu zkus na fiktivních podkladech. U faktického požadavku určuj, jaký skutečný zdroj by byl potřebný.
4. Pokud odpověď obsahuje konkrétní tvrzení bez podkladu, označ jej jako návrh nebo nedoložené tvrzení, nikoli jako potvrzený fakt.

Model může navrhnout i programový kód. Jeho vzhled nebo vysvětlení nevytváří důkaz, že funguje. Testování pak potřebuje konkrétní vstupy, očekávané výsledky a prostředí, v němž kód běží. Pro tuto lekci žádný generovaný program nespouštěj; stačí pochopit, že ověření musí odpovídat druhu vytvořeného obsahu.

Praktický přínos generativní AI je často v prvním návrhu, přeformulování nebo přípravě alternativ. Člověk pak doplní potřebné zdroje a zkontroluje použitelný výsledek. Když víš, kterou z těchto prací právě žádáš, dokážeš lépe zadat úkol a snáze odhalíš situaci, v níž se příjemný návrh začíná tvářit jako zjištěná skutečnost.