Proč „rychlý manuál ověřování“ u deepfake a AI podvodů
Generativní AI radikálně snížila bariéry pro tvorbu přesvědčivých podvodů: syntetický hlas, tvář, podpis, ba dokonce i celá „osoba“ dokáže během minut vyvolat falešnou naléhavost a vylákat peníze, přístupy či citlivá data. Tento manuál poskytuje praktické, okamžitě použitelné postupy k ověření pravosti hlasu, videa, fotografie, textu a identity volajícího/odesílatele. Je napsán pro jednotlivce i organizace a zdůrazňuje zásadu: před jakoukoli platbou, sdílením kódů nebo údajů – ověř a dokumentuj.
Spektrum hrozeb: co dnes deepfake a AI zvládnou
- Hlasové klony (voice cloning): napodobení hlasu z krátké ukázky (10–60 s). Typické u „urgentních“ telefonátů (falešné výkupné, „šéf žádá převod“).
- Videodeepfake: realistická tvář, synchronizované rty; často v kombinaci s face swapem a syntetickým hlasem.
- Fotorealistické snímky: falešné důkazy, profilové fotografie, „printscreeny“ konverzací a dokladů.
- Textové podvody s pomocí LLM: dlouhé, bezchybné e-maily, chaty a skripty sociálního inženýrství s osobním tónem.
- „Živé“ videohovory: překrytí tváře v reálném čase a synchronizovaný překlad (lip-sync) – používá se při onboardingu a KYC podvodech.
Rychlá rozhodovací schéma: STOP–OVĚŘ–KDO–CO–PROČ
- STOP: přerušte automatismus (neplaťte, nesdílejte kódy, neklikejte).
- OVĚŘ: použijte druhý kanál (jiné číslo/e-mail/chat), který už znáte, ne ten, který vám právě diktují.
- KDO: vyžádejte si tajné heslo/klíčovou frázi dohodnutou předem („dohodnutý kód“).
- CO: požadujte přesný důvod a ověřitelné detaily (číslo smlouvy, interní reference, kontaktní osoba).
- PROČ: ptejte se na účel a alternativy (proč nouzově, proč mimo běžný proces, proč právě teď).
Manuál ověření videa (deepfake) – 10 kroků
- Zdroj: kde se video objevilo poprvé (originál vs. reupload). Preferujte primární kanál osoby/instituce.
- Konzistence obrazu: okraje vlasů a uší, okolí očí, blikání a stínování; hledejte „gelový“ vzhled, nepřirozené zuby, nepasující zuby/jazyk při artikulaci „f“/„v“/„s“.
- Osvětlení a odlesky: zda světelné zdroje a odrazy v očích sedí se scénou; pohyby hlavy vs. změna stínů.
- Geometrie: proporce rukou, prstů, krku; deformace při rychlých gestech nebo překrývání objektů.
- Synchronizace: zpoždění rtů vůči hlasu (mikroskopické „lip off“), zejména při rychlých slabikách.
- Zvuk: „kovový“ dozvuk, nesoulad akustiky místnosti, chybějící mikropauzy a šum při artikulaci.
- Metadatové informace: pokud máte originální soubor, zkontrolujte kontejner/EXIF (nestandardní editorské tagy, nepravděpodobné časové značky).
- Referenční klipy: porovnejte s autentickými videi (tempo řeči, mimika, slovník, typická gesta).
- Kontext: dává tvrzení smysl časově/místně? Ověřte datum, místní svědky, oficiální vyjádření.
- Druhý kanál: potvrďte u osoby/instituce přes jiný komunikační kanál (známé číslo, oficiální helpdesk).
Manuál ověření hlasu (voice clone) – 8 kroků
- Kontrolní otázka: vyžádejte si dohodnutý kód nebo detail známý jen vám (ne datum narození z veřejných zdrojů).
- Rušení a dynamika: syntetické hlasy mají zpravidla nepřirozeně čistý signál, chybí jim šum prostředí při náhlých změnách.
- Melodie a dysfluencie: umělý hlas má plochou intonaci, chybí koktání, „ehm“, přežvykování slabik.
- Latence: neobvyklé pauzy po vaší otázce (model „sestavuje“ odpověď).
- „Nouzová“ žádost: tlak na rychlé platby/převody, odpor k ověření druhým kanálem – červená vlajka.
- Call-back: zavolejte zpět na známé číslo z adresáře, nikoli na číslo z hovoru/SMS.
- Bezpečné prostředí: nikdy nediktujte jednorázové kódy (MFA, podpisy) přes hovor; tyto kódy nejsou určeny k hlasovému sdílení.
- Záznam: pokud je to legální, proveďte záznam hovoru pro pozdější forenzní analýzu a nahlášení.
Ověření fotografií a „screenshotů“ – 7 kroků
- Reverse image: zpětné vyhledání snímku/obrázku (zda nejde o starší obsah s novým popisem).
- Chyby při kompozici: ruce a prsty, texty na tričkách/tabulkách (krivky, deformace, nečitelná písma).
- Brýle a odrazy: zda odrazy odpovídají scéně; deepfake často odlesky zanedbává.
- EXIF: model zařízení, čas, software; zjevné rozpory.
- Okraje a bokeh: nerealistická hloubka ostrosti, „rozplývání“ vlasů do pozadí.
- Text v obraze: překlepy, nelogické rozmístění UI prvků, „divné“ ikony/oznámení v screenshotech.
- Kontextové potvrzení: stejný obraz by měl existovat v nezávislých zdrojích (ne pouze série reuploadů jedné anonymní entity).
Ověřování identity při „živém“ hovoru nebo videohovoru
- Dvoukanálové potvrzení: během hovoru požádejte osobu, aby napsala SMS/e-mail z předem známého kontaktu se slovem, které jí nadiktujete.
- Náhodné výzvy: požádejte o tři rychlé úkony: ukaž levé ucho, řekni dnešní datum, natoč kameru ke oknu. Reálné deepfake mají problém s interakcí a osvětlením v reálném čase.
- Oddělený kalendář: pokud jde o nadřízeného, ověřte v interním kalendáři, zda je dostupný; podvodníci „volají“ během schůzek a mimo pracovní dobu.
- Bez peněz během hovoru: žádné převody či kódy během hovoru; po ověření použijte standardní finanční proces.
Organizační zásady: procesy, které ruší „urgentní scénář“
- Finanční „two-person rule“: každá platba nad práh musí mít dva nezávislé schvalovatele.
- Callback policy: u nestandardní žádosti povinný zpětný hovor na číslo z adresáře/CRM.
- Kódová slova: tajná fráze pro krizové situace; rotujte každých X měsíců.
- Vzdělávání: kvartální školení s novými příklady; sdílený „podvodný sešit“ s reálnými incidenty.
- Incident response: formulář pro hlášení podezření a hotline bezpečnosti; bez sankcí za „falešné poplachy“.
Nástroje a signály „provenience“ (C2PA, watermarking, hashování)
- Provenienční značky: digitální podpisy a manifesty obsahu (C2PA) prokazují, kdo a čím obsah vytvořil/upravil.
- Vodotisky modelů: některé generátory vkládají detekovatelné vzory; berte je jako pomocný signál, nikoli absolutní důkaz.
- Hashování originálů: u kritických záznamů (schůze, prohlášení) uložte originál a jeho hash – usnadní to prokazování autenticity.
Limity detekce: proč stačí malá chyba v procesu
Moderní deepfake jsou stále přesnější; vizuální a akustické artefakty mizí. Proto se nespoléhejte jen na „odhalení“, ale na procesní brzdy (druhý kanál, vícenásobné schvalování, zákaz kódů přes hovor). Ověření identity je multifaktorový problém: technické stopy + organizační pravidla + zdravý skepticismus.
Nejčastější scénáře AI podvodů a doporučená obrana
| Scénář | Signály | Okamžité kroky |
|---|---|---|
| „Šéf“ žádá urgentní převod | Nestandardní kanál, časová tíseň, odpor k ověření | Callback na známé číslo, two-person rule, žádné IBANy přes chat |
| „Rodina“ v nouzi (hlasový klon) | Emocionální tlak, žádost o kódy/dárkové karty | Dohodnutý kód, druhý kanál, záznam hovoru (pokud legální) |
| Investiční „zaručené“ nabídky | Celebrity/video, nerealistické výnosy | Ověření zdroje, nevěřit screenshotům, nikdy neposílat seed/soukromé klíče |
| KYC/Onboarding přes video | Žádají obejít oficiální aplikaci, „pomoc“ při verifikaci | KYC pouze v oficiální aplikaci, nikdy přes ad-hoc odkazy |
| Reputační útok (falešné prohlášení) | Virové video bez potvrzení instituce | Čekat na oficiální stanovisko, archivovat originál, nejednat impulzivně |
„Nezveřejňuj kódy“: speciální pravidla pro MFA a podpisy
- Jednorázové kódy (OTP): nikdy nepřenášejte z telefonu do hovoru/chatu. Legitimní procesy nikdy nežádají váš OTP hlasem.
- Schvalování v aplikaci: útok „push fatigue“ – když přicházejí opakované push notifikace ke schválení, oznamte bezpečnosti.
- Autorizace plateb: používejte firemní schvalovací aplikace, ne e-mailová „potvrzení“.
Forenzní připravenost: co a jak archivovat při podezření
- Originály: uložte původní soubor/URL, nestahujte reuploady s rekompresí.
- Kontext: datum, čas, kanál, účty, čísla, ID hovorů, jméno operátora.
- Řetězec držby: kdo měl přístup k materiálu; zachovejte integritu (hashy).
- Právní aspekty: respektujte zákony o nahrávání a ochraně osobních údajů; při eskalaci připravte stručné shrnutí pro orgány.
Doma a ve firmě – připravené „playbooky“
Osobní skript (telefonát v nouzi)
- „Zastavme se: povím naše kódové slovo, ty ho zopakuješ.“
- „Zavěsím a zavolám ti zpět na číslo v kontaktech.“
- „Dokud nepotvrdíme identitu, nic neplatím a neposílám kódy.“
Firemní skript (finanční požadavek)
- „Děkuji, zadávám callback podle politiky – ozvu se z interního čísla.“
- „Bez druhého schválení a ticketu v systému platba neprojde.“
- „Ověřuji dostupnost v kalendáři a žádost přidávám do incident logu.“
Minimální balíček opatření pro jednotlivce
- Dohodnuté kódy s nejbližšími; rotace každých 6–12 měsíců.
- Druhý kanál pro ověřování (alternativní e-mail/číslo).
- Žádné OTP/klíče přes hovor/chat; platby pouze po ověření.
- Archivační návyk: screenshoty, poznámky k incidentu (čas, číslo, požadavek).
Minimální balíček opatření pro organizaci
- Two-person rule a callback policy v interních směrnicích.
- Bezpečnostní helpdesk s jednoduchým kanálem pro hlášení podezření.
- Simulované cvičení (table-top) s deepfake scénáři každé 3–6 měsíců.
- Technické kontroly: DMARC/SPF/DKIM pro e-maily, blokace zkracovačů odkazů v kor
