Proč „rychlý manuál ověřování“ u deepfake a AI podvodů
Generativní AI radikálně snížila bariéry pro tvorbu přesvědčivých podvodů: syntetický hlas, tvář, podpis či dokonce celá „osoba“ dokáže během minut vyvolat falešnou naléhavost a vylákat peníze, přístupy či citlivá data. Tento manuál poskytuje praktické, okamžitě použitelné postupy k ověření pravosti hlasu, videa, fotografie, textu a identity volajícího/odesílatele. Je psán pro jednotlivce i organizace a zdůrazňuje zásadu: před jakoukoli platbou, sdílením kódů nebo údajů – ověř a zdokumentuj.
Spektrum hrozeb: co všechno dnes deepfake a AI zvládnou
- Hlasové klony (voice cloning): napodobení hlasu z krátké ukázky (10–60 s). Typické při „urgentních“ telefonátech (falešné výkupné, „šéf žádá převod“).
- Videodeepfake: realistická tvář, synchronizované rty; často v kombinaci s face swap a syntetickým hlasem.
- Fotorealistické snímky: falešné důkazy, profilové fotografie, „printscreen“ konverzací a dokladů.
- Textové podvody s pomocí LLM: dlouhé, bezchybné e-maily, chaty a scénáře sociálního inženýrství s osobním tónem.
- „Živé“ videohovory: překrývání tváře v reálném čase a synchronizovaný překlad (lip-sync) – používá se při onboardingových a KYC podvodech.
Rychlá rozhodovací schéma: STOP–OVER–KDO–CO–PROČ
- STOP: přerušte automatismus (neplaťte, nesdílejte kódy, neklikejte).
- OVER: použijte druhý kanál (jiné číslo/e-mail/chat), který už znáte, nikoli ten, který vám právě diktují.
- KDO: vyžádejte si tajné heslo/klíčovou frázi dohodnutou předem („dohodnutý kód“).
- CO: požadujte přesný důvod a ověřitelné detaily (číslo smlouvy, interní reference, kontaktní osoba).
- PROČ: ptejte se na účel a alternativy (proč naléhavě, proč mimo běžný proces, proč právě teď).
Manuál ověření videa (deepfake) – 10 kroků
- Zdroj: kde se video objevilo poprvé (originál vs. reupload). Preferujte primární kanál osoby/instituce.
- Konzistence obrazu: okraje vlasů a uší, okolí očí, mihotání a stínování; hledejte „gelový“ vzhled, nepravidelné zuby, nepřesné zuby/jazyk při artikulaci „f“/„v“/„s“.
- Osvětlení a odlesky: zda světelné zdroje a odrazy v očích odpovídají scéně; pohyby hlavy vs. změna stínů.
- Geometrie: proporce rukou, prstů, krku; deformace při rychlých gestech nebo překrývání objektů.
- Synchronizace: zpoždění rtů vůči hlasu (mikroskopické „lip off“), zvlášť při rychlých slabikách.
- Zvuk: „kovový“ dozvuk, nesoulad akustiky místnosti, chybějící mikropauzy a pohybový šum.
- Metadata: pokud máte originální soubor, zkontrolujte kontejner/EXIF (nestandardní editační tagy, nepravděpodobné časové razítko).
- Referenční klipy: porovnejte s autentickými videi (tempo řeči, mimika, slovník, typické gesta).
- Kontext: dává tvrzení smysl v čase/místě? Ověřte datum, místní svědky, oficiální vyjádření.
- Druhý kanál: potvrďte u osoby/instituce přes jiný komunikační kanál (známé číslo, oficiální helpdesk).
Manuál ověření hlasu (voice clone) – 8 kroků
- Kontrolní otázka: vyžádejte si dohodnutý kód nebo detail známý jen vám (nikoli datum narození z veřejných zdrojů).
- Rušení a dynamika: syntetické hlasy mívají nepřirozeně čistý signál, chybí jim šum prostředí při náhlých změnách.
- Melodie a dysfluence: umělý hlas má plochou intonaci, chybí koktání, „ehm“, přežvykování slabik.
- Latence: neobvyklé pauzy po vaší otázce (model „sestavuje“ odpověď).
- „Nouzová“ žádost: tlak na rychlé platby/převody, odpor k ověření druhým kanálem – červená vlajka.
- Call-back: zavolejte zpět na známé číslo z adresáře, nikoli na číslo z hovoru/SMS.
- Bezpečné prostředí: nikdy nediktujte jednorázové kódy (MFA, podpisy) během hovoru; tyto kódy nejsou určeny k hlasovému sdílení.
- Záznam: pokud je to legální, pořiďte záznam hovoru pro pozdější forenzní analýzu a nahlášení.
Ověření fotografií a „screenshotů“ – 7 kroků
- Reverse image: zpětné vyhledávání rámečků/obrázku (zda nejde o starší obsah s novým popisem).
- Kompozitní chyby: ruce a prsty, texty na tričkách/cedulkách (křivky, deformace, nečitelná písma).
- Kulturní a odrazy: zda odrazy odpovídají scéně; deepfake často odlesky zanedbává.
- EXIF: model zařízení, čas, software; zjevné rozpory.
- Okraje a bokeh: nerealistická hloubka ostrosti, „vytečení“ vlasů do pozadí.
- Text v obraze: překlepy, nelogické rozložení UI prvků, „divné“ ikony/notifikace ve screenshotech.
- Kontextové potvrzení: stejný obraz by měl existovat v nezávislých zdrojích (nikoli jen série reuploadů od jedné anonymní entity).
Ověřování identity při „živém“ hovoru nebo videohovoru
- Dvojkanálové ověření: během hovoru požádejte osobu, aby napsala SMS/e-mail z předem známého kontaktu se slovem, které jí nadiktujete.
- Náhodné výzvy: požádejte o tři rychlé úkony: ukaž levé ucho, řekni dnešní datum, otoč kameru k oknu. Reálné deepfake mají problémy s interakcí a osvětlením v reálném čase.
- Oddělený kalendář: pokud se jedná o nadřízeného, ověřte v interním kalendáři jeho dostupnost; podvodníci „volají“ během porad a mimo běžnou pracovní dobu.
- Bez peněz v hovoru: žádné převody ani kódy během hovoru; po ověření použijte standardní finanční proces.
Organizační zásady: procesy rušící „urgentní scénář“
- Pravidlo dvou osob u financí: každá platba nad stanovený limit musí mít dva nezávislé schvalovatele.
- Callback policy: u nestandardní žádosti povinný zpětný hovor na číslo z adresáře/CRM.
- Kódová slova: tajná fráze pro krizové situace; rotujte ji každých X měsíců.
- Vzdělávání: kvartální školení s novými příklady; sdílený „podvodný sešit“ s reálnými incidenty.
- Řízení incidentů: formulář pro hlášení podezření a bezpečnostní hotline; bez sankcí za „falešné poplachy“.
Nástroje a signály „provenience“ (C2PA, watermarking, hashování)
- Provenienční značky: digitální podpisy a manifesty obsahu (C2PA) mohou prokázat, kdo a čím obsah vytvořil/upravil.
- Vodotisky modelů: některé generátory vkládají zjistitelné vzory; berte je jako pomocný signál, nikoli absolutní důkaz.
- Hashování originálů: u kritických nahrávek (porady, vyjádření) uložte originál a jeho hash – usnadní to dokazování autenticity.
Limity detekce: proč stačí malá chyba v procesu
Moderní deepfake jsou čím dál přesnější; vizuální a akustické artefakty mizí. Proto se nespoléhejte pouze na „odhalení“, ale na procesní brzdy (druhý kanál, vícenásobné schvalování, zákaz kódů přes hovor). Ověření identity je multifaktorový problém: technické stopy + organizační pravidla + zdravý skepticismus.
Nejčastější scénáře AI podvodů a doporučená obrana
| Scénář | Signály | Okamžité kroky |
|---|---|---|
| „Šéf“ žádá urgentní převod | Netypický kanál, časový tlak, odpor k ověření | Zpětný hovor na známé číslo, pravidlo dvou osob, žádné IBANy přes chat |
| „Rodina“ v nouzi (hlasový klon) | Emocionální tlak, žádost o kódy/dárkové karty | Dohodnutý kód, druhý kanál, záznam hovoru (pokud legální) |
| Investiční „zaručené“ nabídky | Celebrity/video, nereálné výnosy | Ověření zdroje, nevěřit screenshotům, nikdy neposílat seed/privátní klíče |
| KYC/Onboarding přes video | Žádají obejít oficiální aplikaci, „pomoc“ při verifikaci | KYC pouze v oficiální aplikaci, nikdy přes ad-hoc odkazy |
| Reputační útok (falešné prohlášení) | Virové video bez potvrzení instituce | Čekat na oficiální stanovisko, archivovat originál, nekonat impulzivně |
„Nezdielej kódy“: speciální pravidla pro MFA a podpisy
- Jednorázové kódy (OTP): nikdy je nepřenášejte z telefonu do hovoru/chatu. Legitímní procesy nikdy nevyžadují váš OTP hlasem.
- Schvalování v aplikaci: pozor na „push fatigue“ – při opakovaných push notifikacích o schválení informujte bezpečnost.
- Autorizace plateb: používejte firemní schvalovací aplikace, ne e-mailová „potvrzení“.
Forenzní připravenost: co a jak archivovat při podezření
- Originály: uložte původní soubor/URL, nestahujte reuploady s recompressí.
- Kontext: datum, čas, kanál, účty, čísla, ID hovorů, jméno operátora.
- Řetězec držby: kdo měl přístup k materiálu; zachovejte integritu (hashy).
- Právní: respektujte zákony o nahrávání a ochraně osobních údajů; při eskalaci připravte stručné shrnutí pro orgány.
Domácí a firemní „playbook“ – připravené skripty
Osobní skript (telefonát v nouzi)
- „Zastavme se: řeknu naše kódové slovo, ty ho zopakuješ.“
- „Zavěsím a zavolám ti zpět na číslo v kontaktech.“
- „Dokud nepotvrdíme identitu, nic neplatím a neposílám kódy.“
Firemní skript (finanční požadavek)
- „Děkuji, zadávám callback podle politiky – ozvu se z interního čísla.“
- „Bez druhého schválení a ticketu v systému platba neproběhne.“
- „Ověřuji v kalendáři dostupnost a žádost připojuji do incident logu.“
Minimální balík opatření pro jednotlivce
- Dohodnuté kódy s nejbližšími; rotace každých 6–12 měsíců.
- Druhý kanál pro ověřování (alternativní e-mail/telefon).
- Žádné OTP/klíče přes hovor/chat; platby pouze po ověření.
- Archivace: screenshoty, poznámka k incidentu (čas, číslo, požadavek).
Minimální balík opatření pro organizaci
- Pravidlo dvou osob a callback policy v interních směrnicích.
- Bezpečnostní helpdesk s jednoduchým kanálem pro hlášení podezření.
- Simulovaná cvičení (table-top) s deepfake scénáři každých 3–6 měsíců.
- Technické kontroly: DMARC/SPF/DKIM pro e-maily, blokace od
