Charakteristika obsahu souvisejícího s terorismem
Obsah související s terorismem představuje materiály, které propagují, ospravedlňují nebo operacionalizují násilí s cílem zastrašování civilního obyvatelstva či nátlaku na politická rozhodnutí. V online prostředí je jeho šíření obzvláště problematické: internet snižuje náklady na distribuci, umožňuje cílené oslovení zranitelných skupin a vytváří ekosystém, v němž se škodlivé narativy reprodukují a radikalizují. Z hlediska etiky jde o formu neetického chování na internetu, která narušuje bezpečnost, demokracii a lidskou důstojnost.
Terminologie a rámce
- Teroristická propaganda: komunikace vytvářející pozitivní obraz násilí a jeho pachatelů.
- Radikalizační obsah: materiály posouvající uživatele od nespokojenosti k akceptaci legitimizovaného násilí.
- Operacionalizační obsah: texty a videa poskytující návody nebo logistickou podporu (patří mezi nejrizikovější, platformy jej typicky bezodkladně odstraňují).
- Apologetika a ospravedlňování: bagatelizace či glorifikace útoků, mučednictví, dehumanizace obětí.
- Kontra-narativ: obsah, který odbourává mýty, prezentuje fakta, podporuje odklon od násilí a posiluje odolnost publika.
Ekosystém šíření: kanály a dynamika
- Velké platformy: vysoký dosah, ale i robustní zásady a automatizovaná moderace; migrace obsahu po zásazích.
- Nízkoprahové a decentralizované sítě: slabší moderace, rychlé znovunahrávání, krátké životní cykly účtů.
- Uzavřené skupiny a soukromé kanály: vrstvení důvěry, kódovaný jazyk, kontrola přístupu.
- Obsahové „mosty“: memy, humor a symboly, které snižují kognitivní obranu a normalizují extrémní narativy.
Motivace šiřitelů a cílové skupiny
- Nábor a mobilizace: získání sympatizantů, logistická podpora, získávání zdrojů.
- Psychologický dopad: strach, polarizace, narušení společenské soudržnosti.
- Legitimizace: vytváření ideologického rámce, který ospravedlňuje násilí.
- Propaganda trvanlivosti: archivace a replikace materiálů, aby přetrvaly zásahy moderace.
Etické a právní hlediska (obecně a v EU/SR)
Šíření obsahu podporujícího terorismus je v rozporu s principy lidských práv a právně závaznými normami. Ochrana svobody projevu má limity tam, kde komunikace podněcuje násilí, podporuje trestnou činnost a ohrožuje bezpečnost. V evropském prostředí se uplatňují zásady zákonnosti, proporcionality a nezbytnosti: platformy musí jednat přiměřeně, transparentně a s důrazem na due process (možnost odvolání se, kontextové posouzení).
Rizika a dopady na jednotlivce a společnost
- Radikalizace jednotlivců: posun od pasivní sympatie k aktivní podpoře.
- Polarizace a nenávist: dehumanizace „jiných“, oslabení veřejného diskurzu.
- Bezpečnostní rizika: zvyšování pravděpodobnosti copycat chování, logistická podpora násilí.
- Reviktimizace: sdílení násilných záběrů a identifikovatelných údajů obětí.
Principy odpovědné moderace
- Jasné zásady: explicitní zákazy propagace, návodů a ospravedlňování teroristických činů.
- Vícevrstvé posuzování: kombinace automatizovaných nástrojů, lidských recenzentů a kontextu.
- Transparentnost: oznamování zásahů, statistiky odstranění, mechanismy odvolání.
- Minimalizace chyb: redukce falešných pozitiv/negativ, auditování datasetů a modelů.
- Kontrolované výjimky: povolení novinářských, akademických a vzdělávacích kontextů při přísné kuratele a minimalizaci škody.
Detekce a hodnocení rizika (vysoká úroveň)
- Signály obsahu: textové, vizuální a zvukové indikátory, symboly, slogany a jejich kontextové použití.
- Signály chování: koordinované znovunahrávání, nově vytvořené účty, sdílení přes „mostové“ kanály.
- Kontextualizace: rozlišení mezi propagandou a reportováním (novinařina, výzkum, odsuzující zprávy).
- Hodnocení škody: pravděpodobnost mobilizace k násilí, šířka publika, zranitelnost cílové skupiny.
Mitigační zásahy a jejich proporcionalita
- Odstranění a blokování: okamžité odstranění operacionalizačních a glorifikačních materiálů.
- Omezení šíření: snížení dosahu, demonetizace, zákaz doporučení, věkové omezení.
- Kontrola znovunahrávání: hashování, rozpoznávání podobnosti, kolaborativní databáze signatur.
- Posílení kontra-narativů: přesměrování na zdroje prevence, helpliny, osvětové kampaně.
- Due process: informování autora o zásahu a zajištění mechanismu odvolání při nejasných případech.
Prevence a odolnost komunity
- Digitální gramotnost: rozpoznávání manipulativních technik, symbolů a emocionálních spouštěčů.
- Etiketa a odpovědné sdílení: nešířit sporná videa a odkazy, i když jsou „zpravodajsky zajímavá“.
- Mechanismy hlášení: aktivní využívání nahlášovacích nástrojů a poskytování kontextu pro moderátory.
- Podpora zranitelných skupin: komunitní sítě, které nabízejí alternativní identity a smysluplné začlenění.
Specifika práce médií, akademiků a pedagogů
Média a výzkumníci hrají kritickou roli v informování veřejnosti bez reprodukce propagandy. Etické postupy zahrnují minimalizaci explicitních vizuálů, nepoužívání glorifikačního jazyka, důslednou anonymizaci obětí a kontextualizaci faktů. Ve vzdělávání je důležité učivo zaměřené na kritické myšlení a prevenci radikalizace, s důrazem na bezpečnost a psychickou pohodu studentů.
Rizika chyb moderace a jak jim předcházet
- Přehnané zásahy: odstranění legitimního zpravodajství nebo kritiky; nutnost kontextových výjimek.
- Nedostatečné zásahy: nebezpečná okna šíření při nových trendech a kódovaných symbolech.
- Jazyková a kulturní zaujatost: slabší detekce v menších jazycích, potřeba lokální expertízy.
- Znovunahrávací smyčky: nutnost propojit automatizované signály s lidským dohledem a koordinací napříč platformami.
Governance, audit a odpovědnost platforem
- Jasné politiky a procesy: definice, kategorizace závažnosti, SLA pro zásahy.
- Auditovatelnost: logování rozhodnutí, sledování chyb a periodické nezávislé audity.
- Ochrana práv uživatelů: vysvětlení zásahů, možnost odvolání, ochrana whistleblowerů.
- Spolupráce s odborníky: konzultace s výzkumníky násilí, psychology a organizacemi občanské společnosti.
Měření účinnosti opatření
- MTTR a MTTA: průměrný čas do rozpoznání a odstranění šířeného obsahu.
- Reupload rate: míra opětovných nahrání po zásazích a čas do opětovného výskytu.
- Downstream harm: pokles viditelnosti glorifikujících materiálů v doporučeních a vyhledáváních.
- Falešné pozitiva/negativa: rovnováha mezi ochranou bezpečnosti a právy uživatelů.
Checklist pro platformy a komunity
- Aktualizované zásady s příklady a kontextovými výjimkami.
- Školení moderátorů na kódované jazyky, symboly a lokální kontexty.
- Automatizované nástroje s lidským dohledem a možností rychlé eskalace.
- Mechanismy hlášení přístupné a viditelné pro uživatele, včetně zpětné vazby.
- Program kontra-narativů a spolupráce s důvěryhodnými partnery.
Checklist pro jednotlivce
- Nešířit, nesdílet a nearchivovat materiály glorifikující násilí.
- Nahlásit sporný obsah s co největším kontextem (odkazy, čas, popis).
- Chránit mentální zdraví: vyhýbat se traumatickým záběrům a vyhledat podporu při expozici násilným materiálům.
- Rozlišovat mezi informováním a propagandou; důvěřovat ověřeným zdrojům.
Budoucí výzvy a směřování
- Adaptivní narativy: rychlé měnění symbolů a kódů, které obcházejí detekci.
- Multimodální formáty: kombinace textu, obrazu a zvuku vyžaduje pokročilé a kontextově citlivé nástroje.
- Odpovědná AI: potřeba vysvětlitelnosti a auditů, aby detekční systémy nebyly diskriminační ani zneužitelné.
- Meziplatformová spolupráce: výměna signatur a rychlá reakce při krizových událostech.
Obsah související s terorismem a jeho šíření představují závažné etické, společenské a bezpečnostní riziko. Efektivní odpověď vyžaduje kombinaci jasných pravidel, kontextové moderace, spolupráce s odborníky, posilování odolnosti komunity a aktivní prevence. Cílem není umlčet legitimní diskusi či novinářské zpravodajství, ale zabránit glorifikaci násilí, operacionalizaci útoků a škodám, které tyto materiály způsobují jednotlivcům i společnosti.
