Proč „rychlý manuál ověřování“ při deepfake a AI podvodech
Generativní AI radikálně snížila bariéry pro tvorbu přesvědčivých podvodů: syntetický hlas, tvář, podpis, ba dokonce i celá „osoba“ dokáže během několika minut vyvolat falešnou naléhavost a vylákat peníze, přístupy či citlivá data. Tento manuál poskytuje praktické, okamžitě použitelné postupy na ověření pravosti hlasu, videa, fotografie, textu a identity volajícího/odesílatele. Je psán pro jednotlivce i organizace a zdůrazňuje zásadu: před jakoukoli platbou, sdílením kódů nebo údajů – ověř a dokumentuj.
Spektrum hrozeb: co vše dnes deepfake a AI zvládnou
- Hlasové klony (voice cloning): napodobení hlasu z krátké ukázky (10–60 s). Typické u „urgentních“ telefonátů (falešné výkupné, „šéf žádá převod“).
- Videodeepfake: realistická tvář, synchronizované rty; často v kombinaci s face swap a syntetickým hlasem.
- Fotorealistické snímky: falešné důkazy, profilové fotografie, „printscreeny“ konverzací a dokladů.
- Textové podvody s pomocí LLM: dlouhé, bezchybné e-maily, chaty a skripty sociálního inženýrství s osobním tónem.
- „Živé“ videohovory: překrývání tváře v reálném čase a synchronizovaný překlad (lip-sync) – používá se při onboardingu a KYC podvodech.
Rychlá rozhodovací schéma: STOP–OVĚŘ–KDO–CO–PROČ
- STOP: přerušte automatismus (neplaťte, nesdílejte kódy, neklikejte).
- OVĚŘ: použijte druhý kanál (jiné číslo/e-mail/chat), který už znáte, ne ten, který vám právě diktují.
- KDO: vyžádejte tajné heslo/klíčovou frázi dohodnutou předem („dohodnutý kód“).
- CO: požadujte přesný důvod a ověřitelné detaily (číslo smlouvy, interní reference, kontaktní osoba).
- PROČ: ptejte se na účel a alternativy (proč naléhavě, proč mimo běžný proces, proč právě teď).
Manuál ověření videa (deepfake) – 10 kroků
- Zdroj: kde se video objevilo poprvé (originál vs. reupload). Preferujte primární kanál osoby/instituce.
- Konzistence obrazu: okraje vlasů a uší, okolí očí, mihotání a stínování; hledejte „gelový“ vzhled, neplynulé zuby, nepřesnější zuby/jazyk při artikulaci „f“/„v“/„s“.
- Osvětlení a odlesky: zda světelné zdroje a odrazy v očích odpovídají scéně; pohyby hlavy vs. změna stínů.
- Geometrie: proporce rukou, prstů, krku; deformace při rychlých gestech nebo překrytí objektů.
- Synchronizace: zpoždění rtů vůči hlasu (mikroskopické „lip off“), zvláště u rychlých slabik.
- Zvuk: „kovový“ dozvuk, nesoulad akustiky místnosti, chybějící mikropauzy a šum při pohybu čelistí.
- Metadata: pokud máte originální soubor, zkontrolujte kontejner/EXIF (nestandardní tagy editorů, nepravděpodobné časové značky).
- Referenční klipy: porovnejte s autentickými videi (tempo řeči, mimika, slovník, typické gesta).
- Kontext: dává tvrzení smysl v čase/místě? Ověřte datum, místní svědky, oficiální vyjádření.
- Druhý kanál: potvrďte u osoby/instituce přes jiný komunikační kanál (známé číslo, oficiální helpdesk).
Manuál ověření hlasu (hlasový klon) – 8 kroků
- Kontrolní otázka: vyžádejte si dohodnutý kód nebo detail známý jen vám (nikoli datum narození z veřejných zdrojů).
- Rušení a dynamika: syntetické hlasy mají často nepřirozeně čistý signál, chybí jim šum prostředí při náhlých změnách.
- Melodie a dysfluencie: umělý hlas má plochou intonaci, chybí koktání, „ehm“, přehrávání slabik.
- Latence: neobvyklé pauzy po vaší otázce (model „skládá“ odpověď).
- „Naléhavá“ žádost: tlak na rychlé platby/převody, odpor vůči ověření druhým kanálem – varovný signál.
- Zpětný hovor: zavolejte zpět na známé číslo z adresáře, ne na číslo z hovoru/SMS.
- Bezpečné prostředí: nikdy nediktujte jednorázové kódy (MFA, podpisy) přes hovor; tyto kódy nejsou určeny k hlasovému sdílení.
- Záznam: pokud je to legální, proveďte záznam hovoru pro pozdější forenzní analýzu a nahlášení.
Ověření fotografií a „screenshotů“ – 7 kroků
- Reverse image: zpětné vyhledávání snímku/obrázku (zda nejde o starší obsah s novým popisem).
- Kompozitní chyby: ruce a prsty, texty na tričkách/cedulkách (krivky, deformace, nečitelná písma).
- Brýle a odlesky: zda odlesky odpovídají scéně; deepfake často odlesky zanedbává.
- EXIF: model zařízení, čas, software; evidentní rozpory.
- Okraje a bokeh: nerealistická hloubka ostrosti, „vytékání“ vlasů do pozadí.
- Text v obraze: překlepy, nelogické rozložení UI prvků, „divné“ ikony/notifikace v screenshotech.
- Kontextové potvrzení: stejný obraz by měl existovat v nezávislých zdrojích (nejen série reuploadů jedné anonymní entity).
Ověření identity při „živém“ hovoru nebo videohovoru
- Dvoukanálový handshake: během hovoru požádejte osobu, aby napsala SMS/e-mail z předem známého kontaktu se slovem, které jí nadiktujete.
- Náhodné výzvy: požádejte o tři rychlé úkony: ukaž levé ucho, řekni dnešní datum, otoč kameru k oknu. Reálné deepfake mají problém s interakcí a osvětlením v reálném čase.
- Oddělený kalendář: jde-li o nadřízeného, ověřte v interním kalendáři, zda je dostupný; podvodníci „volají“ během porad a mimo běžné hodiny.
- Bez peněz během hovoru: žádné převody či kódy při hovoru; po ověření použijte standardní finanční proces.
Organizační zásady: procesy, které narušují „urgentní scénář“
- Finanční „two-person rule“: každá platba nad stanovený práh musí mít dva nezávislé schvalovatele.
- Callback policy: při nestandardní žádosti povinný zpětný hovor na číslo z adresáře/CRM.
- Kódová slova: tajná fráze pro krizové situace; rotujte každých X měsíců.
- Vzdělávání: kvartální školení s novými příklady; sdílená „podvodná kniha“ s reálnými incidenty.
- Incident response: formulář pro hlášení podezření a bezpečnostní hotline; bez sankcí za „falešné poplachy“.
Nástroje a signály „provenience“ (C2PA, watermarking, hashování)
- Provenienční značky: digitální podpisy a manifesty obsahu (C2PA) mohou prokázat, kdo a čím obsah vytvořil/upravil.
- Vodotisky modelů: některé generátory vkládají detekovatelné vzory; berte je jako pomocný signál, nikoli absolutní důkaz.
- Hashování originálů: u kritických nahrávek (porady, prohlášení) uložte originál a jeho hash – usnadní to dokazování autenticity.
Limity detekce: proč stačí malá chyba v procesu
Moderní deepfake jsou stále přesnější; vizuální a akustické artefakty mizí. Proto se nespoléhejte jen na „odhalení“, ale na procesní brzdy (druhé kanály, vícenásobné schvalování, zákaz kódů přes hovor). Ověření identity je multifaktoriální problém: technické stopy + organizační pravidla + zdravý skepticismus.
Nejčastější scénáře AI podvodů a doporučená obrana
| Scénář | Signály | Okamžité kroky |
|---|---|---|
| „Šéf“ žádá urgentní převod | Netypický kanál, časová tíseň, odpor k ověření | Zpětný hovor na známé číslo, two-person rule, žádné IBANy přes chat |
| „Rodina“ v nouzi (hlasový klon) | Emocionální tlak, žádost o kódy/dárkové karty | Dohodnutý kód, druhý kanál, nahrávka hovoru (pokud legální) |
| Investiční „zaručené“ nabídky | Celebrity/video, nerealistické výnosy | Ověření zdroje, nevěřit screenshotům, nikdy neposílat seed/soukromé klíče |
| KYC/Onboarding přes video | Žádají obejít oficiální aplikaci, „pomoc“ při verifikaci | KYC jen v oficiální aplikaci, nikdy přes ad-hoc odkazy |
| Reputační útok (falešné prohlášení) | Virové video bez potvrzení instituce | Čekat na oficiální stanovisko, archivovat originál, nekonat impulzivně |
„Nesdílej kódy“: speciální pravidla pro MFA a podpisy
- Jednorázové kódy (OTP): nikdy nevyzrazujte přes telefonní hovor/chat. Legitimní procesy nikdy nežádají váš OTP hlasem.
- Schvalování v aplikaci: problém „push fatigue“ – při opakovaných push notifikacích na schválení informujte bezpečnostní tým.
- Autorizace plateb: používejte firemní schvalovací aplikace, ne e-mailová „potvrzení“.
Forenzní připravenost: co a jak archivovat při podezření
- Originály: uložte původní soubor/URL, nestahujte reuploady s rekompresí.
- Kontext: datum, čas, kanál, účty, čísla, ID hovorů, jméno operátora.
- Řetězec držení: kdo měl přístup k materiálu; zachovejte integritu (hashy).
- Právní: respektujte zákony o nahrávání a ochraně osobních údajů; při eskalaci připravte stručné shrnutí pro orgány.
Domácí a firemní „playbook“ – připravené skripty
Osobní skript (telefonát v nouzi)
- „Zastavme se: řeknu naše kódové slovo, ty ho zopakuješ.“
- „Zavěsím a zavolám ti zpět na číslo v kontaktech.“
- „Dokud nepotvrdíme identitu, nic neplatím a neposílám kódy.“
Firemní skript (finanční požadavek)
- „Děkuji, provádím callback podle politiky – ozvu se z interního čísla.“
- „Bez druhého schválení a ticketu v systému platba neprojde.“
- „Ověřuji dostupnost v kalendáři a žádost připojuji do incident logu.“
Minimální balíček opatření pro jednotlivce
- Dohodnuté kódy s nejbližšími; rotace každých 6–12 měsíců.
- Druhý kanál pro ověřování (alternativní e-mail/telefon).
- Žádné OTP/klíče přes hovor/chat; platby jen po ověření.
- Archivovací návyk: screenshoty, poznámky k incidentu (čas, číslo, žádost).
Minimální balíček opatření pro organizaci
- Two-person rule a callback policy v interních směrnicích.
- Bezpečnostní helpdesk s jednoduchým kanálem pro hlášení podezření.
- Simulovaná cvičení (table-top) s deepfake scénáři každých 3–6 měsíců.
- Technické kontroly: DMARC/SPF/DKIM pro e-maily, blokace zkracovač
