Minimalizace halucinací velkých jazykových modelů

Proč jasná omezení snižují halucinace LLM

Halucinace velkých jazykových modelů (LLM) je systematická odchylka mezi tím, co model uvádí, a tím, co je fakticky nebo kontraktačně požadováno. V kontextu GEO (generative engine optimization) je cílem navrhovat obsah tak, aby byl pro modely jednoznačně parsovatelný, předvídatelný a minimálně nejednoznačný. Klíč ke snižování halucinací spočívá v explicitních omezeních textu – tedy v definování povolených formátů, rozsahů, slovníků, zdrojů a pravidel inferenčního procesu v samotném výstupu i v jeho okolí (šablony, metadata, kontrakty).

Typologie halucinací a mapování na omezení

Faktografická halucinace: Model „vymyslí“ zdroj nebo údaj. Omezení: závazné citování se strukturou a validací (např. DOI/URL, datum přístupu, autor).
Logická halucinace: Neplatný závěr z platných premis. Omezení: krokování s kontrolou inferenčních pravidel (např. povolené operátory, reference na premisy).
Stylistická halucinace: Model poruší register, délku, tón. Omezení: přesný limit znaků/slov, whitelist stylistických prvků.
Formátová halucinace: Výstup není ve sjednaném formátu (JSON/YAML). Omezení: striktní schémata a strojová validace.
Doménová halucinace: Nesprávné termíny mimo domény. Omezení: lokální slovník/ontologie, zákaz synonym mimo seznam.

Principy návrhu omezení v GEO

Deterministická šablona: Každý výstup je instancí šablony s pevnými sekcemi a pořadím.
Minimax nejednoznačnosti: Každý slot má jedinou interpretaci (typ, rozsah, jednotky).
Kontrakty v textu: Pravidla začlenit přímo do obsahu (hinty, tagy, tabulky), nikoli pouze do zadání.
Ověřitelnost: Vše důležité musí být strojově validovatelné (schémata, kontrolní součty, regulární výrazy).
Odolnost vůči parafrázi: Omezení formulovat asertivně a redundancy (vícenásobné připomenutí klíčových pravidel v různých formách).

Strukturální vzory (patterny) pro omezení

Slotový vzor: „Pole: hodnota“ s typem a jednotkami (např. „Datum ISO8601: 2025-10-22“).
Enumerace: Povolené hodnoty ve formě seznamu; zakázat „jiné“.
Evidence-first: Nejprve zdroje, poté tvrzení; tvrzení musí odkazovat na ID zdroje.
Chain-of-Checks: Po inferenční sekci následuje kontrolní sekce s binárními příznaky (PASS/FAIL) pro pravidla.
Guardrail tagy: Viditelné markery, které model musí povinně vyplnit (např. „[CIT-REQ]“).

Šablona obsahu s minimem halucinací

Následující šablona ilustruje omezení pro odborný výstup. Každá sekce je povinná; pokud není obsah, použije se přesná hodnota „N/A“.

Sekce	Účel	Omezení	Příklad
Meta	Identifikace	Autor(min. 2 slova), Datum(YYYY-MM-DD), Verze(semver)	Autor: Tým GEO; Datum: 2025-10-22; Verze: 1.2.0
Slovník	Doménové pojmy	Min. 5 termínů, každý s 1 větou; bez synonym mimo seznam	„Halucinace LLM – odchylka tvrzení od faktu…“
Tvrzení	Ověřitelné body	Max. 5, každý s citací [SRC-ID]	„T1: Výstup validuj podle schématu. [SRC-1]“
Citace	Propojení na zdroje	Každý zdroj má ID, název, URL/DOI, datum přístupu	SRC-1: Název, URL, 2025-10-22
Limity	Rozsah a styl	Max. 1200 slov; krátké odstavce < 120 slov	„Rozsah: ≤1200 slov“
Kontroly	Sebehodnocení	5 pravidel s PASS/FAIL a odkazem na sekce	R1: Všechna tvrzení citována – PASS

Formální specifikace výstupu (lehká schéma bez kódu)

Meta.autor: řetězec, min. 5 znaků.
Meta.datum: formát YYYY-MM-DD, musí být ≤ dnešní datum.
Slovník[*].termín: řetězec bez čísel; Slovník má velikost 5–12.
Tvrzení[*].text: 1–2 věty; končí tečkou; obsahuje alespoň jeden odkaz [SRC-x].
Citace[*].id: „SRC-číslo“; unikátní v dokumentu.
Limity.slov_max: celé číslo 300–1500.
Kontroly[*].stav: „PASS“ nebo „FAIL“ (jiné hodnoty zakázány).

Techniky lokalizace zdrojů a jejich „připoutání“ k textu

ID-citací: Každé tvrzení obsahuje hranatou značku s ID zdroje; bez ID je tvrzení neplatné.
Jednoznačná jména: Normalizovat názvy (např. „ISO 8601“ místo „ISO8601/ISO“).
Anti-halu mezera: Pokud chybí zdroj, povolit pouze „N/A“ – tím se minimalizují vymyšlené citace.

Omezení na jazyk a styl

Register: Odborný, bez metafor a hyperbol.
Četnost modálních sloves: max. 2 % vět s „mohl/by“.
Stop-slovník: Zákaz výrazů „pravděpodobně“, „zdá se“, pokud je požadována jistota.
Délka vět: 8–22 slov; delší věty rozdělit.

Omezení na obsah a inferenci

Bez extrapolace mimo zdroj: Tvrzení musí být logicky odvozená z citovaných zdrojů.
Jednotky a rozsahy: Všechny číselné údaje s jednotkami (%, ms, MB); rozsahy s „od–do“.
Bez domněnek o entitách: Pokud entita chybí ve zdroji/slovníku, nepoužívat ji.

Kontrolní tabulky pro sevalidaci výstupu

Pravidlo	Kontrola	Stav
Všechna tvrzení mají [SRC-x]	Počet tvrzení = počet referencí	PASS/FAIL
Počet slov ≤ limit	Automatický součet	PASS/FAIL
Formát data správný	Regex YYYY-MM-DD	PASS/FAIL
Bez zakázaných slov	Kontrola podle stop-slovníku	PASS/FAIL
Jednotky uvedené	Každé číslo má jednotku	PASS/FAIL

Redundance jako pojistka: dvojité kódování pravidel

Pravidla je vhodné zakódovat současně v textu i v metadatech. Například tabulka „Limity“ v obsahu a zároveň identická informace v mikrostruktuře (např. data-* atributy u elementů). Redundance snižuje pravděpodobnost, že model „přehlédne“ omezení.

Praktické příklady omezení pro různé typy stránek

Produktová karta: Povolená pole: Název, Model, Cena v EUR, Záruka v měsících, 3 bullet body výhod; zákaz subjektivních přívlastků mimo whitelistu („kompaktní“, „odolný“).
Výzkumné shrnutí: Max. 5 zjištění, každé s [SRC-x] a kvalifikátorem „Úroveň důkazu: {systematické přehledy|RCT|kohorta|expertíza}“.
FAQ: Přesný formát „Otázka:“ / „Odpověď:“; odpověď ≤ 80 slov; žádné odkazy bez reference v sekci „Citace“.

Měření efektu: metriky anti-halucinace

Factual Error Rate (FER): Podíl tvrzení bez verifikovatelného zdroje.
Schema Compliance Rate (SCR): Podíl výstupů, které projdou validátorem bez zásahu.
Source Attachment Score (SAS): Podíl vět odkazujících na zdroje z relevantních sekcí.
Ambiguity Density (AD): Počet neurčitých výrazů na 1000 slov.

Provozní postupy: pipeline s kontrolními bránami

Generate: Model generuje podle šablony s omezeními.
Validate: Strojová kontrola schémat, regulárních výrazů a slovníků.
Critique: Druhý průchod modelem (kritik) s fokusací na pravidla a citace.
Repair: Cílené doplnění chybějících prvků (pouze do slotů s FAIL).
Freeze: Uzamčení stabilních částí, aby se při opakování nezměnily (např. citace).

Anti-halu zásady při přepisování a sumarizaci

Extraktivnost před abstraktivitou: Nejprve extraktivní shrnutí s citacemi, až poté parafráze.
Citace se dědí: Při zkracování zachovat původní [SRC-x]; pokud zanikne tvrzení, zaniká i citace.
Bez syntézy křížem přes zdroje bez označení: Sloučená tvrzení musí uvádět všechna dotčená ID.

Časté chyby při navrhování omezení

Příliš obecná pravidla („cite source“), která nespecifikují formát a povinná pole.
Nejednoznačné výčty („krátké/dlouhé“ bez prahů).
Konflikt pravidel (např. limit slov vs. povinné detaily) – nutná priorita pravidel.
Skrytá pravidla pouze v meta; model je nemusí přenést do výstupu.

Checklist pro autory GEO obsahu

Má dokument pevné sekce s povinnými sloty?
Jsou tvrzení citována pomocí stabilních ID?
Je definován slovník domény a stop-slovník?
Jsou délkové a formátové limity explicitní v textu?
Existuje kontrolní tabulka PASS/FAIL?
Je součástí pipeline validace a oprava?

Minimalistický „kontrakt“ vložený přímo do článku

Následující kontrakt je určen pro kopírování do horní části každého generovaného výstupu. Zvyšuje pravděpodobnost dodržení pravidel:

Kontrakt-1 (Formát): Tento dokument obsahuje sekce Meta, Slovník, Tvrzení, Citace, Limity, Kontroly ve uvedeném pořadí.
Kontrakt-2 (Citace): Každé tvrzení v sekci Tvrzení obsahuje alespoň jednu citaci [SRC-x].
Kontrakt-3 (Limity): Dokument nepřekročí počet slov uvedený v Limity.slov_max.
Kontrakt-4 (Jazyk): Zakázané výrazy: „pravděpodobně“, „zdá se“, pokud není uvedeno jinak.
Kontrakt-5 (Kontroly): Sekce Kontroly obsahuje 5 pravidel s PASS/FAIL.

Implementační doporučení pro redakce a vývojáře

Editor s validátorem: CMS by měl mít inline validaci schématu a slovníku.
Automatické doplnění ID: Tlačítko „Přidat citaci“ vygeneruje [SRC-x] a záznam do sekce Citace.
Testovací běhy: Každý typ šablony mít A/B variantu s přísnějšími vs. mírnějšími omezeními.
Monitoring metrik: Dashboard pro FER, SCR, SAS, AD s týdenními trendy.

Jasná omezení textu nejsou „klecí“ kreativity, ale ochrannou sítí proti halucinacím. V GEO přístupu fungují jako most mezi lidskou sémantikou a strojovou verifikovatelností. Čím přesnější formát, slovník a kontrakt, tím menší prostor pro vymýšlení a tím vyšší spolehlivost výstupů. Zavedením výše popsaných šablon, kontrol a metrik lze dosáhnout významného poklesu halucinací bez dramatického omezení informační hodnoty či čitelnosti.