Co je halucinace v kontextu LLM a proč záleží na SEO/AEO
Halucinace je jev, kdy model velkého jazyka (LLM) vygeneruje sebevědomou, avšak nepravdivou informaci, která není podložena tréninkovými daty ani dostupnými zdroji. V praxi to znamená, že asistent „vymyslí“ fakt, citaci, osobu, číslo či zdroj a současně je podá s vysokou jistotou. Pro AIO/AEO (AI/Answer Engine Optimization) a moderní SEO je porozumění a řízení halucinací klíčové: ovlivňují důvěryhodnost značky, závěry vyhledávacích a odpovědních enginů i právní rizika.
Taxonomie halucinací: typy a projevy
- Faktografická halucinace: vymyšlená jména, data, události, statistiky.
- Citační halucinace: smyšlené nebo zkreslené zdroje, DOI, URL, bibliografické údaje.
- Strukturální halucinace: správný formát odpovědi, ale nesprávný obsah (např. „tabulka“ s chybnými čísly).
- Příčinná halucinace: zaměňování korelace za kauzalitu, konfabulace důvodů.
- Jazyková/přechodová: překlad nebo sumarizace, která přidá informace, jež v zdroji nebyly.
- Kontextová halucinace: ignorování omezení otázky (čas, místo, verze produktu) a generování obecných, ale nesprávných tvrzení.
Kořenové příčiny: od tréninku k inferenci
- Neidentifikovatelnost znalostí: LLM optimalizuje pravděpodobnost dalšího tokenu, nikoliv pravdivost; bez externího ověření snadno „dovyplní“ mezery.
- Distribuční posuny: otázky mimo distribuci tréninku (novinky, specifické domény, lokální fakta).
- Přehnaná penalizace neurčitosti: RLHF a promptové instrukce mohou trestat „nevím“, čímž model preferuje vymyšlenou jistotu.
- Agentní řetězení kroků: při multi-krokovém plánování se drobné odchylky kumulují do sebevědomě mylného plánu.
- Nesprávná retrieval vrstva: RAG s nekvalitními či irelevantními dokumenty vede k „zdrojované“ halucinaci.
- Promptová nejednoznačnost: neurčité, polysemické požadavky nutí model extrapolovat.
Signály sebevědomí vs. pravdivost
U jazykových modelů sebevědomí (působení jisté odpovědi, silný tón, minimum váhání) nesouvisí spolehlivě s pravdivostí. Indikátory, že se jedná o halucinaci:
- nestandardní nebo neexistující URL/DOI, „rozbité“ citace, nevyhledatelná citovaná jména,
- detailní specifičnost bez možnosti verifikace (konkrétní čísla bez zdroje),
- konzistentní styl odpovědi při změnách otázky, ale měnících se „faktech“.
Rizika pro značky a SEO/AEO
- Reputační riziko: pokud AI-asistent na vašem webu halucinuje, důvěra se přenáší na značku.
- Právní rizika: nepravdivá tvrzení o osobách/konkurentech, zavádějící zdravotní či finanční informace.
- Indexační riziko: odpovědní enginy mohou vaše stránky spojovat s nesprávnými fakty.
- Konverzní dopad: chybné doporučení produktů/služeb snižuje konverzní poměr a zvyšuje náklady na podporu.
Prevence v infrastruktuře: od zdrojů po rozhraní
- RAG s kurátorovaným korpusem: jasná struktura, perma-linky na odstavce, granularita odstavců, kvalitní metadata a licence.
- Verze a čerstvost: používání aktuálních dat, kontrola „stárnutí“ dokumentů, expirační politiky pro cache.
- Citace jako výchozí: design, kde je citace (alespoň odkaz na sekci) součástí odpovědi.
- Kontextová omezení: promptové zábrany (guardrails) na čas, lokalitu, jurisdikci, verzi produktu.
- Nejistota jako prvořadý prvek: explicitní vyjádření „nevím“, „potřebuji zdroj“, fallback na vyhledávání.
Promptové strategie ke snížení halucinací
- Chain-of-verification: po vygenerování odpovědi spustit interní ověření vůči zdrojům a opravit sporné části.
- Evidence-first prompting: „Nejprve cituj relevantní pasáže; poté odpověz na jejich základě.“
- Counterfactual check: požádat model, aby uvedl, co by vyvrátilo jeho tvrzení, a zda to ve zdrojích není přítomné.
- Refusal-enabled styl: podpořit formulace typu „nemám dostatek informací“ při nízké jistotě.
Architektura RAG proti halucinaci: návrhové vzory
- Vyhledávání na úrovni odstavců: menší části snižují riziko „domýšlení“ mimo zdroj.
- Re-ranking s citacemi: upřednostnit pasáže s vysokou shodou entity/časového kontextu; penalizovat staré nebo slabé zdroje.
- Answer assembly: odpověď sestavená z citovaných segmentů s minimem halucinačních přechodů.
- Hallucination filter: sekundární kontrolní model, který detekuje tvrzení bez opory ve zdroji.
Měření halucinací: metriky a protokoly
- Factual Precision@K: podíl tvrzení podpořených citovaným zdrojem v top-K segmentech.
- Attribution Rate: procento odpovědí s alespoň jednou relevantní citací.
- Unsupported Claim Rate: podíl vět s nepodloženou faktickou informací.
- Self-consistency Score: stabilita odpovědí při parafrázování otázky.
- User-reported Error Rate: chybovost z uživatelské zpětné vazby („Toto je nesprávné“).
Testování a red teaming
- Kontrafaktuální scénáře: úmyslně zavádějící otázky, které provokují halucinaci.
- Okrajové datumy a jurisdikce: verze produktů, lokální regulace, stará vs. nová pravidla.
- Kalibrace domén: finanční, zdravotní, právní; vyšší prahy ověření a povinné citace.
UX a komunikace nejistoty
- Stupnice jistoty: neprezentovat „pravdu“, ale zobrazit jistotu modelu a kvalitu zdrojů.
- Inline citace: odstavcové odkazy s náhledem zdroje; uživatel může okamžitě zkontrolovat.
- „Zobrazit zdůvodnění“: režim, který odhalí kroky (retrieval → výběr → syntéza) a snižuje dojem „magické“ jistoty.
- Jasný fallback: pokud chybí zdroje, nabídnout vyhledání, doplnění dotazu nebo kontakt s odborníkem.
Obsahové strategie pro AEO: budování „anti-halucinace“ korpusu
- RAG-ready struktura: ID sekcí, perma-linky na odstavce, granularita tabulek a datasetů.
- Doložitelná tvrzení: jasné citace, metodiky, zdrojová data, bloky „doporučených citací“.
- Autorství a odbornost: profily autorů, ORCID/ISNI, redakční standardy, verzování článků.
- Anti-scrape a původ: manifesty hashů a timestampy jako důkaz „kdo byl první“.
Provozní guardrails a politiky
- Doménová pravidla: pokud téma ∈ {zdraví, finance, právo} → vyžadovat alespoň 2 nezávislé zdroje.
- Časová relevance: pokud otázka obsahuje „dnes/zítra/platí od“ → vynutit webové ověření a časová pásma.
- Konflikt zdrojů: při rozporu zobrazit odlišné názory, nevybírat „jedinou pravdu“ bez kvalifikace.
Míry kalibrace a tréninku proti halucinacím
- Preference dat: odměňovat odpovědi s citacemi a korektním „nevím“ před suverénními omyly.
- Negative sampling: zahrnout příklady, kde je správné odmítnout odpověď nebo požádat o doplnění.
- Knowledge-grounded fine-tuning: doladit model na korpusu s povinným kotvením ve zdrojích.
Rozdíl: halucinace vs. chybná interpretace
Ne každá nepřesnost je halucinace. Halucinace je vymyšlený fakt; chybná interpretace je špatně pochopený, avšak reálně existující fakt. Mitigace je jiná: u interpretace pomáhá lepší kontext a struktura otázky; u halucinace pomáhá verifikace a citace.
Praktický checklist před nasazením AI odpovědí na webu
- RAG vrstva má kurátorovaný, aktuální a citovatelný korpus.
- Odpovědi obsahují odkaz alespoň na jednu relevantní sekci/odstavec zdroje.
- UX zobrazuje jistotu, datum aktualizace, jazyk a verzi zdroje.
- Guardrails pro rizikové domény vynucují vícečetnou evidenci.
- Logy zachycují retrieval, ranking a citované pasáže pro audit.
- Feedback widget a proces oprav jsou aktivní (SLA na opravy).
Měření dopadu mitigace
- Snížení Unsupported Claim Rate: po zavedení citací a re-rankingu.
- Růst Attribution Rate: více odpovědí s relevantním zdrojem.
- Snížení počtu ticketů podpory: méně stížností na „AI se mýlí“.
- Důvěrové signály: vyšší UX skóre „důvěryhodnosti“ a lepší CTR na zdrojové odkazy.
Příklady bezpečných reakcí místo halucinací
- „Nemám dostatek informací pro přesnou odpověď. Mám vyhledat aktuální zdroje?“
- „Podle posledního publikovaného manuálu (odkaz) platí X; k Y nemám potvrzený zdroj.“
- „Tato čísla se liší mezi studiemi A a B; shrnu oba pohledy s citacemi.“
Etické a právní aspekty
- Transparentnost: označení AI-generovaného obsahu, datum a verze.
- Odpovědnost: procesy pro rychlou opravu chyb; auditní stopa důkazů.
- Ochrana osobních údajů: neuveďovat osobní údaje bez opory ve zdrojích a bez právního základu.
Halucinaci nikdy „neodstraníme“, ale umíme ji řídit
Halucinace je systémovým důsledkem generativní povahy LLM. Cílem není nulová míra (prakticky nedosažitelná), ale řízení rizika: kombinace RAG, citací, guardrails, UX komunikace nejistoty a metrik, které motivují model i tým k odpovědnému jednání. V prostředí AIO/AEO a moderního SEO tak můžete být důvěryhodným zdrojem, jehož odpovědi jsou nejen rychlé, ale také ověřitelné.
