Posledních pět let se na úrovni Evropské unie projednává právní úprava, jejímž deklarovaným cílem je prevence a potírání sexuálního zneužívání dětí. Tento na první pohled bohulibý počin se ovšem začne jevit mnohem šeredněji, uvědomíme-li si, že součástí návrhu – známého pod jménem „Chat Control“ – je i možné oslabení principu koncového šifrování internetové komunikace a povinnost poskytovatelů plošně prohledávat soukromé zprávy, e-maily, on-line úložiště a skupinové konverzace na WhatsAppu či Signalu. Pod rouškou ochrany dětí se tak skrývá nástroj pro masový dohled nad digitální sférou a brutální zásah do soukromí evropské veřejnosti, kdy je každý předběžně považován za podezřelého, jehož je třeba orwellovsky monitorovat.

Návrh nařízení se v minulosti setkal s důrazným odporem ze strany obhájců občanských svobod a ochrany soukromí, kteří upozorňovali na skutečnost, že masivní šmírování obsahu nemá v demokratických státech obdoby a Evropa by se tímto krokem začala přibližovat autoritářským praktikám, jaké vidíme například v Číně. Ještě loni se zdálo, že iniciativa po ostré kritice ztroskotala, nicméně pod taktovkou dánského předsednictví, které začalo letos v červenci, se vrací v plné síle, neboť Dánové si prosazení Chat Control vybrali jako jednu ze svých priorit. O návrhu se bude hlasovat 14. října na Radě EU, více než polovina zemí je schválení nakloněna. Proti byly již dříve Polsko, Nizozemí a Rakousko, ke kterým se nedávno přidalo Finsko, Belgie, ale i Česká republika. Premiér Petr Fiala i ministr vnitra Vít Rakušan minulý týden oznámili, že návrh nepodpoří.

Návrat ke kořenům

To reálně znamená, že se Česko v říjnovém hlasování na Radě EU zdrží. Ačkoli bychom ideálně očekávali, že náš stát bude otevřeně hlasovat proti drastickému zásahu do soukromí svých občanů, jde spíše o symboliku než skutečný dopad, neboť aby návrh prošel, potřebuje většinovou podporu členských zemí a zdržení se zde počítá podobně jako odmítnutí. V tomto ohledu lze alespoň spatřovat jistý posun k lepšímu – když se o první verzi Chat Control hlasovalo v roce 2021 v Evropském parlamentu, podpořili jej všichni europoslanci z řad současné vládní koalice, jakož i z hnutí ANO. Proti tehdy byli jen tři Piráti, komunistka Kateřina Konečná a Hynek Blaško z SPD.

Zde oceňme především europoslankyni za Piráty Markétu Gregorovou, která je v odporu vůči šmírovacímu nařízení dlouhodobě aktivní a byla i letos jednou z prvních na české politické scéně, kdo varovali před opětovnou snahou Chat Control zavést. V tomto ohledu se drží autentických pirátských principů, které při vzniku strany akcentovaly právě ochranu soukromí a svobody na internetu. Piráti se totiž v posledních letech od své původní mise značně odchýlili – například sama Gregorová ještě na začátku roku zlehčovala dopady evropského nařízení o digitálních službách (DSA), které s sebou nese závažná rizika pro svobodu projevu, a s oblibou také operovala vágním pojmem „dezinformace“, jenž se dá použít téměř na cokoli.

Zda návrh projde Radou, teď záleží na tom, bude-li hlasovat pro alespoň patnáct států (to se v tuto chvíli zdá být splněno) a zároveň bude-li souhrn obyvatelstva podporujících zemí představovat více než 65 procent populace Evropské unie (to zatím neplatí). Státy, které se vyjádřily proti, nejsou dostatečně velké na to, aby mohly věc zablokovat, a proto je rozhodnutí teď primárně v rukou lidnatého Německa, jehož pozice v současnosti není jasná. I pokud ale Chat Control v říjnu projde, nepůjde ještě o definitivu: nastane vyjednávání – tzv. trialog – mezi zástupci Rady, Evropské komise a parlamentu, kde se může ještě leccos změnit. Určitý důvod k optimismu najdeme v současném složení europarlamentu, který musí nakonec právní úpravu schválit a kde se zatím návrh většinově příčí, jak informovala Gregorová v půlce srpna. „Pozice Evropského parlamentu zůstává ostře proti, a to i přes lidovce, kteří se to po vykopnutí dveřmi snaží protlačit oknem,“ napsala na svém profilu na síti X s tím, že projednávání ještě nějakou dobu potrvá: „Minimálně další čtyři roky by ,šmírovací‘ kompromis neměl být. Snahy ale pořád jsou. Mějme tak oči na šťopkách.“

Děravá zadní vrátka

Oči na šťopkách je skutečně třeba mít, podíváme-li se na to, co je u nařízení ve hře. Jednou z klíčových změn, které návrh zvažoval, je prolomení koncového šifrování. To je technologie, která umožňuje přenos informací na internetu tak, že ke zprávě mají přístup pouze odesílatel a příjemce, zatímco všichni ostatní, včetně poskytovatele služby, vidí jen nesrozumitelný řetězec znaků. Když tedy posíláme zprávu přes Signal nebo WhatsApp, server ji nedokáže přečíst – funguje pouze jako pošťák, který dopraví zapečetěnou obálku. Jedna z myšlenek nařízení byla, že by se do systému zabudovala „zadní vrátka“, skrze něž by šlo porušit digitální listovní tajemství a umožnit třetí straně obsah zprávy přečíst při hledání šiřitelů dětské pornografie.

Nebezpečí je v tom, že jakmile do systému zabudujeme zadní vrátka, nemusí je být schopni otevírat pouze ti, jimž jde o ochranu dětí, ale vzniká tím zásadní zranitelnost vůči útokům ze strany nekalých hráčů, před nimiž nás dnes chrání právě koncové šifrování. To by ohrozilo například disidenty z autoritářských zemí, jako je Rusko či Bělorusko, kteří se nacházejí v Evropě a bezpečná komunikace pro ně může být otázkou života a smrti. Nemluvě o tom, že pokud se šifrování zahodí kvůli boji proti zneužívání dětí, nic nebrání bezpečnostním složkám a politikům v tom, aby sjeli po kluzkém svahu nově nabytých možností a tlačili na rozšiřování dohledu i u jiných skutků. Ostatně Evropská unie se v posledních letech zmítá v morální panice, pokud jde o vágní informační hrozby v podobě dezinformací a nenávistných projevů: ačkoli je šíření dětské pornografie mimořádně odporný zločin, proč by se mělo užívání nástrojů dohledu omezovat pouze na něj, když je v sázce demokratické uspořádání evropských zemí, jak je tak často zdůrazňováno?

Návrhy na prolomení koncového šifrování se setkaly v minulosti se silnou kritikou, pročež novější verze Chat Control přišla s „kompromisem“, který ovšem není o moc lepší. Řešení spočívá ve skenování obsahu na straně klienta (CSS, client-side scanning) – to znamená, že by instalovaný software v aplikacích v telefonu nebo počítači musel zkontrolovat zprávy předtím, než je odešle, a poté, co jsou vám doručeny. Technicky vzato se tedy koncové šifrování nechá být, ale zároveň se do digitální komunikace uvede mechanismus, který popírá jakýkoli smysl šifrování. Je to, jako by nás někdo chtěl uklidnit tím, že řekne, že sice již nechce porušovat listovní tajemství, ale že se nám pouze bude dívat přes rameno, když dopisy píšeme a čteme.

Limity technologie

Podporovatelé mohou namítnout, že kontrolu neprovede člověk, ale umělá inteligence, jež naše soukromé zprávy nikomu nevyzradí a která bude každým rokem lepší v identifikaci zločineckého materiálu. To by nás ovšem nemělo upokojit – problém s automatizovanou detekcí je totiž v tom, že u velice vzácných jevů, jako je dětská pornografie, bude vykazovat vysokou míru falešně pozitivních výsledků, tedy že bude mylně označovat normální obsah za problematický. Pro názornost si představme velice kvalitní umělý klasifikátor, který by měl vysokou senzitivitu (ze 100 případů dětské pornografie jich 99 správně odhalí) a zároveň vysokou specificitu (ze 100 případů normálního obsahu 99 správně označí). Jaká je pravděpodobnost, že jsme skutečně našli dětskou pornografii, pokud systém zahlásí pozitivní nález? Odpověď záleží na tom, jak častý je výskyt dětské pornografie mezi monitorovaným obsahem. Pokud se objeví jednou z tisíce kontrolovaných případů, bude míra chybně pozitivních hlášení 91 procent. Pokud tomu bude jednou z deseti tisíc případů, pak chybovost naroste na více než 99 procent. Čím menší je výskyt daného jevu, tím bude detekce omylnější.

Skutečnost, že by si regulátor neuvědomil tento problém, se může zdát jako absurdní, ovšem nebylo by to poprvé, kdy by nějaká vláda nedomyslela pravděpodobnostní kalkul a ospravedlňovala by masivní zásah do soukromí pomocí zdánlivě spolehlivé detekce. Ve Spojených státech po útocích z 11. září 2001 sledovala Národní bezpečnostní agentura (NSA) telefonáty a internetovou komunikaci milionů Američanů ve jménu války proti teroru – i zde se bezpečnostní složky odkazovaly na chytré systémy, aniž by si uvědomily, že vzácný výskyt teroristů v domácí populaci povede k tomu, že naprostá většina označených budou neškodní civilisté. Dá se předpokládat, že současná technologie je lepší než ta předchozí, nicméně neúměrná míra chybovosti je téměř nevyhnutelná. Navíc uvažme, u jakého obsahu budou systémy chybovat – nejspíše u takového, který je dětské pornografii v něčem podobný: fotky dětí z dovolené či intimní snímky sdílené mezi partnery. Půjde tedy o zásah do těch nejcitlivějších záležitostí našeho soukromí.

Jen obtížně si lze představit, že by něco jako Chat Control mohlo být schváleno či vůbec seriózně projednáváno na národní úrovni. Vzpomeňme si na letošní březen, kdy vyšlo najevo, že resort Víta Rakušana pokoutně chystá vyhlášku, podle níž by poskytovatelé museli uchovávat informace o tom, jaké webové stránky navštěvujeme, a případně tyto informace poskytnout policii a zpravodajským službám. Během pár dnů se vzedmul takový odpor ze strany veřejnosti, který plánovaný vpád do soukromí odmítl tak rezolutně, že záměr šel okamžitě ze stolu a distancovat se od něj musel nejen ministr vnitra, ale i premiér. Připravované nařízení je bohužel nejen příkladem nedomyšlených důsledků právní regulace, ale i varovnou připomínkou „temnější“ strany Evropské unie.