Na podzim loňského roku jsme zažili intenzivní debatu o návrhu evropské regulace pro boj s dětskou pornografií, známém jako Chat Control. Ten v některých verzích hrozil plošným skenováním privátní on-line komunikace, a tedy mimořádně tvrdým zásahem do soukromí občanů členských států. Šlo zároveň o symbolický okamžik: Evropská unie, dlouho vnímaná spíš jako garant ochrany osobních dat – přinejmenším od éry GDPR –, se najednou ukázala jako instituce ochotná hodnotu soukromí odsunout na druhou kolej. A nejde jen o tuto regulaci. Podobná logika se dnes vrací v debatách o ověřování věku na internetu, digitální identitě, automatickém rozpoznávání obličejů a jiných bezpečnostních nástrojích, které se zavádějí pod ušlechtilými hesly, ale mohou zásadně proměnit vztah mezi občanem, státem a technologickými platformami. O ohrožení soukromí přišli diskutovat Jan Vobořil, advokát a výkonný ředitel organizace Iuridicum Remedium, Cecílie Jílková, publicistka, jež se zaměřuje na problematiku občanských svobod na internetu, Petr Gangur, vědecký pracovník Právnické fakulty Univerzity Karlovy a Institutu H21, a Petr Koubský, redaktor Deníku N pro vědu a techniku.

Stáhnout MP3

Začněme u Chat Control. Je ten návrh skutečně mrtvý? A vidíte v něm součást širšího posunu, kdy soukromí začíná ustupovat jiným hodnotám – bezpečnosti, ochraně dětí nebo boji proti terorismu či kriminalitě?

Gangur: V Evropské unii málokdy něco úplně končí. Pokud vím, tak teď je to v trialogu (třístranné vyjednávání mezi Evropským parlamentem, Radou EU a Evropskou komisí – pozn. red.) a pokračují debaty o tom, jak to zase trošku změnit, aby to bylo více průchozí všemi zbylými orgány. Chat Control vyčkává v pozadí a nevíme, co přesně přijde. Pokud jde obecně o směřování práva na soukromí, tak zde máme tři varianty toho, co to znamená. Máme právo na soukromí vůči ostatním lidem, například že se mi nikdo nemůže jen tak dívat do e-mailu. Pak zde máme právo na soukromí vůči platformám čili fakticky americkým společnostem a nakonec vůči státu nebo Unii. Zatímco první dvě varianty akcentovány jsou, tak ta poslední mi v diskusích chybí.

Vobořil: Souhlasím, že Chat Control rozhodně mrtev není. Na druhou stranu nelze říci, že EU je v tom taková, nebo maková. I tam jsou různé směry. Evropský parlament je zatím radikálně proti, zatímco Komise je pro a Evropská rada víceméně lavíruje a neví, kudy se vydat. Tyto různorodé hlasy se budou mezi sebou nějakým způsobem vypořádávat. Problém je v tom, že zde třeba ze strany Evropské komise není vůbec respekt k tomu, že ten návrh byl zkrátka už několikrát odmítnut. Hezky to formulovala nedávno Markéta Gregorová: Nejde o to, že ho vyhodíte dveřmi a on přileze oknem, ale on se pak ještě bude snažit podkopat spodem, a když se jej zbavíte, zakrátko zjistíte, že se najednou pokouší dostat nějakou dírou ve stěně. Vrací se nám to znovu a znovu.

Můžeme říci, že se aspoň vyloučily ty nejtvrdší zásahy do soukromí jako povinné detekční příkazy (opatření nařizující poskytovatelům on-line služeb aktivně vyhledávat závadný obsah v soukromých zprávách – pozn. red.) a automatické skenování obsahu v on-line komunikaci – je přinejmenším tohle pryč ze stolu?

Vobořil: Ani tohle se říct nedá. Sice v tom schváleném návrhu by to mělo být pouze jako dobrovolné opatření, nicméně celá ta věc je formulována tak, abychom tady v podstatě jednou ty detekční příkazy měli povinně. Evropská komise je stále jako povinnost tlačí. Takže je otázka, co z toho trialogu vypadne. Nedá se zřejmě čekat, že by se to stihlo ještě během tohoto předsednictví či příštího půlroku. Osobně doufám, že to spadne pod stůl, ale obávám se, že do budoucna se to vracet bude. Ještě k otázce, zda je tu nějaký posun v respektu k soukromí. Myslím, že to hodně souvisí s tím, jaký význam získává digitální prostor v našem životě, a souběžně s tím, že nemáme dostatečně vyvinutý smysl pro pochopení, jak reálně digitál funguje. Představme si, že by tady byl návrh na to, že vám pošta otevře každý dopis, který vám má přijít, že jej naskenuje a založí do vytvořeného katalogu, ve kterém se bude dát centrálně vyhledávat. S takovou debatou bychom byli zakrátko hotovi a hned na začátku bychom tyhle úvahy utnuli. Ovšem když jde o Chat Control, který dělá v podstatě to samé, byť v digitálním prostředí, tak se tu donekonečna naslouchá těm, kdo to chtějí za každou cenu prosadit. Je to do značné míry tím, že pro mnoho lidí je to příliš abstraktní, a proto nejsou schopni dohlédnout potenciální rizika.

Jílková: Ředitelka Signal Foundation už před časem upozorňovala, že za podobnou legislativu lobbují i společnosti, které vyvíjejí umělou inteligenci, protože v tom vidí velký byznys. Jde například o poskytování technologie typu PhotoDNA, kdy každý obrázek dostane nezaměnitelný znak a může být napříč platformami sledovatelný. Tyto firmy podle ní často využívají i neziskové organizace, například Thorn (americká neziskovka zaměřená na boj proti sexuálnímu zneužívání dětí na internetu – pozn. red.), který stojí za lobbingem v Bruselu, a to i v nejvyšších patrech, třeba u eurokomisařky Vestagerové. Takže i tady bych za ušlechtilými hesly hledala peníze. To, jak to bude následně fungovat, bude totiž generovat velký zisk pro určitý typ společností. A co se týče toho obratu Evropské unie, tak mám za to, že za to může celkový politický posun doleva. Tady jde o kolektivismus. Mám-li to zjednodušit: my upřednostňujeme všeobecné blaho celku před právy jednotlivce.

Koubský: Jsem zde zřetelně nejstarší, takže si dovolím připomenout, že ta tendence nepřišla v několika málo posledních letech. Ta věc je setrvalá po celou dobu, co existuje komerční internet, tedy od poloviny devadesátých let. Tím, jak význam internetu roste a přirůstá k našim životům, se i sklon sáhnout lidem do soukromí – s těmi nejlepšími úmysly samozřejmě – stále zesiluje. A je to nyní citelnější, neboť digitální svět používáme mnohem více. Dokud jsme si v devadesátkách jen občas posílali maily, nikdo si s tím hlavu lámat nemusel. Dnes je náš život v síti, a to dokonce i tehdy, když sami nechceme; často nám nic jiného nezbývá. Podle mě je dobré a poučné číst současný stav jako pokračování dost dlouhodobého trendu, který nakonec není pouze evropský. Nakonec v Americe se podobných věcí dělo také dost. Záleží na tom, jaká politická konstelace tam zrovna je, jak silná je lobby ze Silicon Valley a podobně. Nicméně máte pravdu, že umělá inteligence to posouvá opět o kus dál.

Zmínka o umělé inteligenci a jejích rizicích mi připomněla myšlenku, kterou jsem nedávno na konferenci slyšel tady od Jana Vobořila. Totiž že nebezpečí pro soukromí často nevzniká jen proto, že by existovala naléhavá společenská potřeba, na základě níž vznikne nějaká technologie, ale prostě proto, že daná technologie už existuje a jen kvůli tomu se začne hledat její využití. Typickým příkladem je automatické rozpoznávání obličejů: bezpečnostní situace nemusí být tak dramatická, abychom ho nutně potřebovali, ale protože nástroj existuje, vzniká chuť a tlak ho používat. Říkám to správně?

Vobořil: Určitě, detekce obličejů je dobrý příklad. Je to technologie, která samozřejmě může nějakým způsobem pomáhat bezpečnostním složkám. Otázka ale je, jestli ji skutečně potřebujeme a proč vlastně vznikla. Tím se vracíme k tomu, co zde již bylo zmíněno u Chat Control. Je to řešení bezpečnostní potřeby, nebo spíš potřeby firmy, která něco vyvinula a chce to prodat? Bohužel je to směs obojího. Lidé, kteří chtějí prosazovat ochranu dětí nebo boj proti kriminalitě, často nevidí druhou stránku: že technologie může být tlačena také byznysovými zájmy.

Gangur: Nezapomínejme také na to, že u spousty těchto technologií není potřeba budovat složitou infrastrukturu k tomu, aby mohly být nasazeny. Mnohé už existují, jen jsou vypnuté, což velmi usnadňuje rozhodování o tom, zda a kdy je spustit. U rozpoznávání obličejů často platí, že kamera už tuto schopnost má a není obtížné obstarat software, který by to dotáhl do konce. Cesta od nápadu k implementaci je mnohdy vlastně strašně kratičká – dá se říct, že jde téměř o pouhé stisknutí tlačítka. U Chat Control nás možná chránila skutečnost, že je to v tomto ohledu trochu složitější, protože je zde doopravdy nutná nová infrastruktura, kterou by bylo nutné vytvořit. Ale v jiných oblastech je práh pro zavedení mnohem nižší.

Vobořil: To jsme teď ostatně viděli u kauzy fotbalových stadionů. Když se začalo uvažovat o spuštění biometrické identifikace, ukázalo se, že Slavia, Sparta nebo Zbrojovka Brno už tyto technologie dávno mají nakoupené a nainstalované. V podstatě jen čekají na změnu zákona, která by jim jejich používání umožnila. A tím samozřejmě vzniká ten tlak: když už ty technologie máme, asi by bylo dobré změnit zákon, abychom je nekupovali zbytečně.

Proč si fotbalové kluby takové technologie pořizují ve chvíli, kdy je nesmějí používat? Jakou to má logiku?

Vobořil: Zjevně očekávají, že ke změně zákona nakonec dojde.

A jim to nějak usnadní provoz, když budou vědět, kdo jim chodí na zápasy?

Vobořil: Záměrem je zabránit vstupu výtržníků na stadion. Existovala by databáze lidí, kteří mají vstup zakázán soudem nebo na základě vnitřních pravidel klubu, protože se v minulosti dopustili nějakého přečinu. Jenže systém by samozřejmě snímal všechny a z jejich obličejů by vytvořil biometrické šablony, které by se následně porovnávaly s databází. A tady vzniká řada problémů: nepřezkoumatelnost, omylnost systému nebo otázka, kdo by databázi spravoval. Úřad pro ochranu osobních údajů podle všeho nechce, aby ji měly přímo kluby; mluvilo se o tom, že by byla někde jinde. Ale prakticky to může vypadat tak, že stojíte u brány, chcete jít na fotbal a systém vám řekne: Ne. A jak se v tu chvíli budete domáhat toho, že jste nic neprovedl?

Koubský: Ono je to navenek „pocukrováno“ ještě jinou motivací. Nevím, jak často chodíte na fotbal, ale u stadionů bývají zpravidla šílené fronty. A podle oficiálních prohlášení klubů by tato technologie mohla vstup usnadnit: nemusíte ukazovat lístek, nemusí vás nikdo kontrolovat, prostě projdete a kamera vás sejme. Dá se to tedy prodat jako úžasně pozitivní záležitost. Nebudete se dvacet minut tlačit před vstupem a nepřijdete o gól, který padl ve třetí minutě, kdy jste ještě stáli venku. Půjde to krásně jako po drátku. Myslím, že to byl jeden z důvodů, proč to kluby nakupovaly. Zároveň se mi zdá, že si ani neuvědomily, jak tvrdě to – aspoň prozatím – naráží na evropské právo a že pokuty by opravdu mohly být drastické. Musela přijít kauza kolem derby, aby se to celé vytáhlo na světlo. Ale jak dlouho to v této poloze vydrží, nevíme.

Vobořil: Přitom tušit to mohli, neboť už od roku 2019 k problematice máme stanovisko Úřadu pro ochranu osobních údajů, který to odmítl.

To je dobrý podnět pro to, připomenout si, že si mnohdy na národní úrovni vedeme ještě hůř než v EU. Vy jste se, pokud vím, zabývali tzv. „data retention“, tedy ukládání provozních a lokalizačních údajů z telefonů. V Česku to stále praktikujeme, ačkoli je to proti evropskému právu, pokud vím.

Vobořil: Přesně tak. Jde o sběr metadat o elektronických komunikacích. Evropská judikatura je v tom poměrně rozsáhlá a říká, že plošné ukládání údajů o každém našem telefonátu nebo elektronické komunikaci možné není. Nemělo by to tedy být možné ani v České republice. Jenže u nás se to vůbec nerespektuje. Na konci roku navíc na základě naší iniciativy rozhodl Nejvyšší soud, který českou právní úpravu označil za rozpornou s tou evropskou. Vláda na to ale pořád nereaguje. I proto bych byl zdrženlivý k házení všeho jen na EU. Ano, i tam vidíme neblahé vývoje a trendy, ale podobné problémy existují i na národní úrovni. To, že ministerstvo ignoruje rozhodnutí Nejvyššího soudu i judikaturu a že se tu dál plošně a ilegálně sbírají data o každém z nás, považuji za naprosto nepřijatelný stav.

Vraťme se k ochraně dětí na internetu. Velkým tématem je dnes vliv sociálních sítí na duševní zdraví nezletilých. Sám u toho cítím určité napětí: dlouho jsem měl sklon chránit soukromí a občanské svobody za každou cenu, ale dopady sociálních sítí na děti mi připadají skutečně naléhavé. Jedním z navrhovaných řešení je povinné ověřování věku všech uživatelů před vstupem na sociální sítě.

Jílková: V úterý 9. června k tomu proběhl seminář na Úřadu vlády s názvem Děti a zdravý digitální svět. Byla tam zastoupena řada odborníků z různých oblastí: psychiatři, experti na vzdělávání, ale i na ochranu soukromí, mimo jiné kolegové pana Vobořila z Iuridicum Remedium, ale také zástupci jiných neziskových organizací a novináři. A kdo chtěl, dostal se ke slovu. Bylo to velmi zajímavé a byla jsem vděčná, že se něco takového uspořádalo. Debata byla věcná, nikdo nezastával fanatické pozice na jednu ani druhou stranu. Bylo vidět, že společnost se snaží dívat na problém rozumně. Myslím, že je to i výhoda posttotalitní země: umíme si představit, jak se takové věci dají zneužít. Oproti tomu třeba Austrálie podle mě k tomu přistoupila příliš urputně a zaslepeně. Do zákazu sociálních sítí pro děti šla velmi tvrdě a dnes vidíme, že to moc nefunguje. Z debaty jsem pochopila, že u nás nejspíš přijde zákaz mobilů ve školách, přes to vlak nejede. Když jsem to pak doma řekla své osmnáctileté dceři, tvářila se uraženě a říkala, že je to naprostý nesmysl. Že mobil ve škole potřebuje, třeba kvůli rozvrhu. Řekla jsem jí, že si ho může napsat na papír.

Návrat k analogovým řešením…

Jílková: Ano, to odmítla naprosto kategoricky. Mám ale za to, že by se této diskuse měly účastnit i starší děti, které mají zkušenost se sociálními sítěmi. Obecně byla ta debata nadějná v tom, že se tam nevytvořila žádná jednostranná shoda na nějakém plošném zákazu sociálních sítí třeba do patnácti let. Spíš z toho vyplynulo: pojďme se ještě dívat na jiné země a sledovat, co jim funguje a co ne. Řada odborníků zároveň upozorňovala na to, že zákaz sám ten problém nevyřeší. Současně jsme se bavili o věkové verifikaci, že by měla být odstupňovaná. Někde by měl zasahovat jen rodič: nastavíte rodičovskou kontrolu v telefonu, platforma se nic nedoví, stát se nic nedoví a soukromí dítěte je chráněné nejvíc, jak to jde. U skutečně rizikového obsahu, třeba hazardu nebo pornografie, už může být ověření přísnější, ale pořád s maximálním důrazem na soukromí. A připomínala jsem tam ještě jednu důležitou věc: jsme ve fázi implementace evropské peněženky digitální identity. Evropská komise totiž počítá s tím, že ověřování věku se bude dělat právě přes ni.

Přesně na to jsem se chtěl zeptat. I já jsem slyšel spíš chválu na to, jak se o tom zatím přemýšlí u nás. Zároveň ale není jasné, nakolik to vůbec zůstane v rukou národních vlád. Velké platformy jsou regulovány hlavně na evropské úrovni, mimo jiné skrze nařízení o digitálních službách, zkráceně DSA, které platí již od roku 2024. Petr Gangur nedávno upozorňoval, že povinnost tvrdšího ověřování věku už možná z tohoto nařízení, konkrétně z článku 38, plyne, aniž bychom si to uvědomovali.

Gangur: V podstatě se může stát, že si v České republice řekneme, že chceme pěkně odstupňovaný postup, na němž jsme se u nás shodli a který nám tady dává smysl. Jenže Evropská unie má s DSA možnost vydat vlastní pokyny ohledně toho, jak se má ověřování věku na různých on-line platformách provádět. A problém je, že EU řekla, že jako primární východisko má být ta digitální identita. Když si tedy u nás řekneme, že pro sociální sítě nechceme digitální občanku, protože nám to připadá přehnané, Komise může říct: V našich doporučeních to ale máme nastavené jinak. Ta doporučení sice nejsou striktně zákon, ale mají k němu velmi blízko, protože samotné nařízení počítá s tím, že je Komise vydá. A pokud se jimi platformy nebudou řídit, může jim hrozit soud a obrovské pokuty, a to ve výši až šesti procent z celosvětového obratu. Takže když na jedné straně stojí český seminář a na druhé takhle brutální regulační páka Evropské komise, je asi jasné, čemu budou velké platformy naslouchat víc.

Ta digitální identita, přesně „evropská peněženka digitální identity“, je věc již schválená a do konce roku by se měla objevit i nějaká česká verze, že?

Koubský: To se velmi pravděpodobně nestane.

Jílková: Očekává se zpoždění a myslím, že kolem toho ještě bude velká diskuse. Mimochodem, připravuje to Aricoma, tedy stejná firma, která dělala i eDoklady. A vzpomeňme, že se u eDokladů ukázalo, že se data odesílala na servery do zahraničí, přestože ministr Ivan Bartoš sliboval, že se nic odesílat ani sbírat nebude. Tatáž firma teď připravuje státní backend, páteřní systém naší digitální identity. Na úterním semináři jsem proto apelovala na to, aby se české řešení od začátku stavělo jako open source. Evropská legislativa eIDAS, o které se tu bavíme, nám nezakazuje udělat to lépe. Neříká, že to nesmíme udělat otevřeně. Například Německo se od původního návrhu odklonilo, začalo svou peněženku dělat právě jako open source a zapracovávat do ní nejnovější kryptografii doporučovanou světovými odborníky, kteří celý návrh analyzovali. Je možné, že budou mít jednu z nejkvalitnějších digitálních peněženek v Evropě. Nevidím důvod, proč bychom to neměli převzít. Navíc by to podle mě mohlo vyjít levněji, protože u open source řešení nemusíte všechno vyvíjet znovu.

Koubský: Tady se dotýkáme úplně jiné otázky, která s tím ovšem očividně souvisí: technologická soběstačnost Evropy. Ano, citlivá data by se neměla odesílat na servery do zahraničí, rozhodně ne mimo Evropskou unii. Otázka ale je, jestli jsme v určitých případech vůbec technicky schopni se bez toho obejít. Nejsem si tím úplně jist. Ten sen o kompletním evropském „stacku“ technologií, od open source protokolů přes Linux a já nevím kam – ten má tolik děr a tolik mezer. Ono by to určitě šlo udělat, ale trvalo by to dvacet let podle mě. A to ještě za předpokladu, že by na to byly peníze. Dílčí řešení se pochopitelně udělat dají, ale celková nezávislost jen velice obtížně. Navíc všechny tyhle úvahy vznikaly v době, kdy Evropa a Amerika byly kamarády, nezapomeňme na to. V tuhle chvíli nejsou a to je věc, s níž se moc nepočítalo.

Jílková: Jenže i v tuto chvíli veškerá verifikace pořád spoléhá na infrastrukturu Googlu, Applu a Microsoftu.

Koubský: Což je v podstatě i proti evropskému právu, protože existuje nařízení, podle něhož se citlivá osobní data mají ukládat výhradně fyzicky v EU. Zvažovala se možnost, že by to tyto americké firmy sice dělaly, ale přes datacentra v Evropě. Pokud se nepletu, ta diskuse zůstala na mrtvém bodě ve chvíli, kdy se o tom americká strana přestala bavit.

Pohlédnete-li do budoucna, tak ve vztahu k soukromí vidíte spíš důvody k naději, anebo k chmurám?

Jílková: Myslím, že bude vzkvétat decentralizace a open source.

Čili naděje v protireakci…

Jílková: Ano, poptávka po soukromí stoupne a objeví se nabídka nástrojů, které ho budou chránit. Současně si myslím, že státy začnou uvažovat o tom, zda do ústavy nezakotvit třeba právo být off-line. U nás už takový návrh byl, ale nebyl dobře formulovaný, takže nemohl uspět. Možná se začne mluvit i o nějakém právu na kryptografii. Každý člověk má sice právo na soukromí, ale v čím dál víc digitálním světě bude potřeba přesněji říct, co to vlastně znamená.

Koubský: Souhlasím, že je potřeba nějakým způsobem aktualizovat Listinu základních práv a svobod. Zvážit možnosti a rizika digitálního světa a vhodně je tam zapracovat. Ale tahle vyhlídka mě sama o sobě žádným optimismem nenaplňuje. Myslím, že daleko větší problém než tlak ze strany států a vlád je tlak komerční. Telefony nám nikdo nenařizuje. My je chceme mít. A kdyby měl člověk přesně zdůvodnit proč, možná by se v tom zapletl a zaškobrtal, protože by dříve nebo později musel přiznat, že je to vlastně drogová závislost. Chceme je, protože si tím ukájíme neustále nějakou potřebu, velice podobně jako ta krysa, která mačká páčku, až se umačká k smrti. Tohle je hluboký sociologický a psychologický problém, perfektně obchodně využitý. A ten jen tak nepomine. Vábení digitálního světa zůstane pořád stejné a my budeme dál měnit soukromí za pohodlí. Většina z nás. Pochopitelně bude existovat malá menšina, která bude práv, o nichž tu mluvíme, využívat na doraz do krajních možností. Je naprosto v pořádku, že ta práva budou, a je dobře, že tito lidé budou ostatním otvírat oči. Ale nevěřím, že se z toho stane velká společenská změna.

Takže zatímco se všichni bojí Orwella…

Koubský: … tak je to Huxley. Přesně tak.

Vobořil: Ubavíme se k smrti.

(V diskusi jsme probrali řadu dalších témat, která se do přepisu nevešla. Kromě detailnějšího rozebrání vztahu mezi Evropou a Spojenými státy v otázce soukromí to bylo také podrobné rozkrytí evropské peněženky digitální identity, důsledky nařízení o digitálních službách (DSA) a možné další regulatorní kroky – mimo jiné i úvahy o omezení virtuálních privátních sítí, tedy VPN – a také hrozby, které pro soukromí představuje umělá inteligence. Hovořili jsme i o digitální diskriminaci a nutnosti analogového světa. Záznam celé debaty najdete na www.echoprime.cz.)