Co je halucinace v kontextu LLM a proč záleží na SEO/AEO
Halucinace je jev, kdy model velkého jazyka (LLM) vygeneruje sebevědomou, avšak nepravdivou informaci, která není podložena tréninkovými daty ani dostupnými zdroji. V praxi to znamená, že asistent „vymyslí“ fakt, citaci, osobu, číslo či zdroj a zároveň je podá s vysokou jistotou. Pro AIO/AEO (AI/Answer Engine Optimization) a moderní SEO je porozumění a řízení halucinací klíčové: ovlivňují důvěryhodnost značky, závěry vyhledávacích a odpovědních enginů i právní rizika.
Taxonomie halucinací: typy a projevy
- Faktografická halucinace: vymyšlená jména, data, události, statistiky.
- Citační halucinace: smyšlené nebo zkreslené zdroje, DOI, URL, bibliografické údaje.
- Strukturální halucinace: správný formát odpovědi, ale nesprávný obsah (např. „tabulka“ s nesprávnými čísly).
- Příčinná halucinace: zaměňování korelace za kauzalitu, konfabulace důvodů.
- Jazyková/prechodová: překlad nebo sumarizace, která přidá informace, jež ve zdroji nebyly.
- Kontextová halucinace: ignorování omezení otázky (času, místa, verze produktu) a generování obecných, avšak chybných tvrzení.
Kořenové příčiny: od tréninku k inferenci
- Neidentifikovatelnost znalostí: LLM optimalizuje pravděpodobnost dalšího tokenu, nikoliv pravdivost; bez externí verifikace snadno „dovyladí“ mezery.
- Distribuční posuny: otázky mimo distribuci tréninku (novinky, specifické domény, lokální fakta).
- Přehnaná penalizace neurčitosti: RLHF a promptové instrukce mohou trestat „nevím“, čímž model preferuje vymyšlenou jistotu.
- Agentní řetězení kroků: při multi-step plánování se drobné odchylky kumulují do sebevědomě chybného plánu.
- Nesprávná retrieval vrstva: RAG s nekvalitními nebo irelevantními dokumenty vede ke „zdrojované“ halucinaci.
- Promptová nejednoznačnost: neurčité, polysemické požadavky nutí model extrapolovat.
Signály sebevědomí vs. pravdivost
U jazykových modelů sebevědomí (působení jisté odpovědi, silný tón, minimum váhání) nekoreluje spolehlivě s pravdivostí. Indikátory toho, že jde o halucinaci, jsou:
- nestandardní nebo neexistující URL/DOI, „zlomené“ citace, nevyhledatelná citovaná jména,
- detailní specifičnost bez možnosti verifikace (konkrétní čísla bez zdroje),
- konzistentní styl odpovědi při změnách otázky, avšak měnících se „faktech“.
Rizika pro značky a SEO/AEO
- Reputační riziko: pokud AI-asistent na vašem webu halucinuje, důvěra se přenáší na značku.
- Právní rizika: nepravdivá tvrzení o osobách/konkurentech, zavádějící zdravotní či finanční informace.
- Indexační riziko: odpovědní enginy mohou vaše stránky spojovat s nesprávnými fakty.
- Konverzní dopad: chybné doporučení produktů/služeb snižuje konverzní poměr a zvyšuje náklady na podporu.
Prevence v infrastruktuře: od zdrojů po rozhraní
- RAG s kurátorovaným korpusem: jasná struktura, perma-linky na odstavce, granularita odstavců, kvalitní metadata a licence.
- Verze a čerstvost: používání aktuálních dat, kontrola „stárnutí“ dokumentů, expirační politiky pro cache.
- Citace jako default: design, v němž je citace (alespoň odkaz na sekci) součástí odpovědi.
- Kontextová omezení: promptové „guardrails“ na čas, lokalitu, jurisdikci, verzi produktu.
- Nejistota jako první třída občan: explicitní dovolání „nevím“, „potřebuji zdroj“, fallback na vyhledávání.
Promptové strategie ke snížení halucinací
- Chain-of-verification: po vygenerování odpovědi vyvolejte interní ověření vůči zdrojům a opravte sporné části.
- Evidence-first prompting: „Nejprve cituj relevantní pasáže; poté odpověz na jejich základě.“
- Counterfactual check: požádejte model, aby uvedl, co by vyvrátilo jeho tvrzení, a zda to není přítomno ve zdrojích.
- Refusal-enabled style: podpořit formulace typu „nemám dostatek informací“ při nízké jistotě.
Architektura RAG proti halucinaci: návrhové vzory
- Vyhledávání na úrovni odstavců: menší chunkové jednotky snižují riziko „domýšlení“ mimo zdroj.
- Re-ranking s citacemi: upřednostnit pasáže s vysokou shodou entity/časového kontextu; penalizovat staré nebo slabé zdroje.
- Answer assembly: odpověď sestavená z citovaných segmentů s minimem halucinovaných přechodů.
- Halucinace filtr: sekundární kontrolní model, který hledá tvrzení bez opory ve zdroji.
Měření halucinací: metriky a protokoly
- Factual Precision@K: podíl tvrzení podložených citovaným zdrojem v top-K segmentech.
- Attribution Rate: procento odpovědí s alespoň jednou relevantní citací.
- Unsupported Claim Rate: podíl vět s nepodloženou faktickou informací.
- Self-consistency Score: stabilita odpovědí při parafrázích otázky.
- User-reported Error Rate: chybovost z uživatelských zpětnovazebních widgetů („Toto je nesprávné“).
Testování a red teaming
- Kontrafaktuální scénáře: záměrně zavádějící otázky provokující halucinaci.
- Okrajové případy dat a jurisdikcí: verze produktů, lokální regulace, stará vs. nová pravidla.
- Kalibrace domén: finanční, zdravotní, právní; vyšší prahy ověření a povinné citace.
UX a komunikace nejistoty
- Stupnice jistoty: neprezentujte „pravdu“, ale zobrazte jistotu modelu a kvalitu zdrojů.
- Inline citace: odstavcové odkazy s náhledem zdroje; uživatel může okamžitě ověřit.
- „Zobrazit odůvodnění“: režim, který odhalí kroky (retrieval → výběr → syntéza) a snižuje dojem „magické“ jistoty.
- Jasný fallback: při absenci zdrojů nabídnout vyhledávání, dotaz na upřesnění nebo kontakt s odborníkem.
Obsahové strategie pro AEO: budování „anti-halucinace“ korpusu
- RAG-ready struktura: ID sekcí, perma-linky na odstavce, granularita tabulek a datasetů.
- Zřejmá tvrzení: jasné citace, metodiky, zdrojová data, „suggested citation“ bloky.
- Autorství a odbornost: profily autorů, ORCID/ISNI, redakční standardy, verzování článků.
- Anti-scrape a původ: manifesty hashů a timestampy pro důkaz „kdo byl první“.
Provozní guardrails a politiky
- Doménová pravidla: pokud téma ∈ {zdraví, finance, právo} → vyžaduj alespoň 2 nezávislé zdroje.
- Časová relevance: pokud otázka zmiňuje „dnes/zítra/platí od“ → vynutit webovou kontrolu a časová pásma.
- Konflikt zdrojů: při nesouladu zobrazit odlišná stanoviska, nevybírat „jedinou pravdu“ bez kvalifikace.
Měřítka kalibrace a trénink proti halucinacím
- Preference dat: odměňovat odpovědi s citacemi a korektním „nevím“ nad suverénními omyly.
- Negativní vzorkování: zahrnout příklady, kde je správné odmítnout odpověď nebo požádat o doplnění.
- Knowledge-grounded fine-tuning: doladit model na korpusu s povinným ukotvením ve zdrojích.
Rozdíl: halucinace vs. chybná interpretace
Ne každá nepřesnost je halucinace. Halucinace je vymyšlený fakt; chybná interpretace je špatně pochopený, ale reálně existující fakt. Mitigace je odlišná: při interpretaci pomáhá lepší kontext a struktura otázky; při halucinaci pomáhá verifikace a citace.
Praktický checklist před nasazením AI odpovědí na webu
- RAG vrstva má kurátorovaný, aktuální a citovatelný korpus.
- Odpovědi obsahují odkaz minimálně na jednu relevantní sekci/odstavec zdroje.
- UX zobrazující jistotu, datum aktualizace, jazyk a verzi zdroje.
- Guardrails pro rizikové domény vynucují vícečetná zdroje.
- Logy zachycují retrieval, ranking a citované pasáže pro audit.
- Feedback widget a proces oprav jsou aktivovány (SLA na opravy).
Měření dopadu mitigace
- Pokles v Unsupported Claim Rate: po aktivaci citací a re-rankingu.
- Nárůst Attribution Rate: více odpovědí s relevantním zdrojem.
- Snížení počtu tiketů podpory: méně stížností na „AI se mýlí“.
- Důvěrové signály: vyšší UX skóre „důvěryhodnosti“ a lepší CTR na zdrojové odkazy.
Příklady bezpečných reakcí místo halucinací
- „Nemám dostatek informací pro přesnou odpověď. Mám vyhledat aktuální zdroje?“
- „Podle posledního publikovaného manuálu (link) platí X; pro Y nemám potvrzený zdroj.“
- „Tato čísla se liší mezi studiemi A a B; shrnu oba pohledy s citacemi.“
Etické a právní aspekty
- Transparentnost: označení AI-generovaného obsahu, datum a verze.
- Odpovědnost: procesy pro rychlou opravu chyb; auditní stopa důkazů.
- Ochrana osobních údajů: neuvedení osobních údajů bez opory ve zdrojích a bez právního základu.
Halucinaci nikdy „neodstraníme“, ale můžeme ji řídit
Halucinace je systémovým důsledkem generativní povahy LLM. Cílem není nulová míra (prakticky nedosažitelná), ale řízení rizika: kombinace RAG, citací, guardrails, UX komunikace nejistoty a metrik, které motivují model i tým jednat zodpovědně. V prostředí AIO/AEO a moderního SEO se tak stáváte důvěryhodným zdrojem, jehož odpovědi jsou nejen rychlé, ale i ověřitelné.
