Většinou podobné texty odkládám a mnohdy je nakonec ani nenapíšu. Nad různými filozofickými, idealistickými a politickými myšlenkami většinou pouze přemýšlím nebo o nich debatuji, zřídka o nich však přímo píšu. Dnes ale bohužel cítím potřebu o následující věci napsat ihned. Leč jsem stále plný emocí, pokusím se následující úvahu napsat co nejvíce možná konstruktivně.
Nejprve zcela popisným způsobem řeknu, o co se jedná, následně vysvětlím svůj problém.
Evropská unie plánuje uvést v platnost tzv. CSAR (Child Sexual Abuse Regulation) neboli “zákon” nazvaný Regulace pro prevenci a boj proti sexuálnímu zneužití. V praxi tak hodlá konat skrze kontrolu všech zpráv v komunikačních platformách na internetu, včetně všech soukromých a intimních konverzací, bankovních informací ad. Jakákoliv platforma obsahující možnost komunikace bude muset být povinně dešifrována a všechny obsahující konverzace budou skenovány a vyhodnocovány umělou inteligencí, která jakmile označí nějakou zprávu, fotku, video nebo soubor jako problémový, budou následně manuálně kontrolovány nějakou fyzickou osobou.
Nápad na regulaci nevznikl nově. Naopak se o něm mluví v EU již mnoho let, avšak do teď byl vždy zamítnut. Nyní však z 27 členských států 15 hlasovalo pro, 3 proti a 7 se zatím rozhoduje, vypadá to tedy, že regulace tentokrát přijata bude.
V první části této úvahy bych rád mluvil o efektivitě daného nařízení a v druhé části bych popsal možný vliv této regulace do budoucna spojený s mým strachem. Druhá část bude více abstraktní a méně opřená o přímá fakta a implikace, nemyslím si ale, že by byla méně cenná.
Někomu, leč doufám, málokomu, by se mohlo zdát, že je takovéto opatření efektivním řešením zneužívání dětí na internetu, je tomu ale tak? A má to nějaké negativní vedlejší efekty?
Prvním takovým efektem je úplná ztráta soukromí, co se týče komunikace na internetu. Říkat, že ztráta soukromí a skenování všech zpráv je legitimní způsob řešení daného problému, je jako tvrdit, že je legitimní, aby každý den policie vlezla všem obyvatelúm EU do domu, prohrabala jim šuplíky, skříně, zkrátka vše, pod záštitou boje proti drogám. Každá jedna zpráva, každý jeden meme, každá fotka, každé video, každý člověk bude pod dohledem.
Dalším efektem, pojeným se ztrátou soukromí je povinnost pro všechny platformy oslabit, či úplně zrušit end-to-end šifrování. Díko toho budou platformy zásadně náchylnější pro hackery, kteří pak mohou krást intimní data a nákládat s nimi jak jen se jim bude chtít.
Co se týče efektivity, tam regulace taky výrazně pokulhává. Automatické skenery zpráv rutinně misidentifikují neškodný obsah, jako jsou fotky z dovolené, memy, nebo například třídní fotky poslané babičce obsahující děti, na tom nezáleží. Všechen tento obsah může být identifikován jako nelegální, což může zapříčinit falešná obvinění a vést ke zbytečné vyčerpanosti různých investigačních orgánů.
Zároveň různí experti (například i OSN) varují, že taková sledovanost nenapomáhá zneužitím, ale spíše naopak tím, že odhaluje soukromí všech.
Třešničkou na dortu pak je, že samotní politici pod hledáčkem nebudou (vztahuje se na ně tzv. “proffecional secrecy”).
Regulace je tedy přímo kontraproduktivní, odhaluje data všech uživatelů, může nadále vést k podomným opatřením, jako můžeme vidět ve Velké Británnii (identifikace v médiích, jako jsou Spotify, Twitter apod.) a může nám uškodit již jen pouze chybným vyhodnocením základního AI skeneru zpráv. Co mě však děsí ještě více?
Zneužitelnost. Nechápu, jak si lidé, kteří četli 1984, mohou myslet, že hromadné sledování veškeré komunikace na internetu může vést k větší utilitě a svobodě. Momentálně AI hledá pouze závadný obsah definovaný zejména jako obsah vedoucí ke zneužití dítěte, kdo však tento “závadný obsah” bude definovat do budoucna?
Já jsem kupříkladu anarchista. Pokud se k moci dostanou lidé, kteří budou brát anarchismus jako “vlastizradu” a “nepřítele státu”, co jim brání dát umělé inteligenci za úkol filtrovat všechny konverzace obsahující “zakázané” názory? Problémový obsah definují totiž politici, kteří mnohdy mohou chtít různé názory umlčet (jen se podívejme na Orbána, Fica a další).
Za komunistického režimu v československu to bylo těžší. Člověk musel svůj názor říct nahlas, někdo ho musel slyšet a usoudit, že je pro něho morální jedince udat. Následoval tak poměrně dlouhý a pracný proces identifikování a zatýkání “problémových” jedinců. Dnes by jim stačilo zadat jeden prompt do umělé inteligence.
Daná regulace tak není pouze potenciálně nebezpečná, ale taky velká hrozba pro svobodu slova srovnatelná s tím, co se děje v Číně, Rusku, nebo jiných totalitních státech. Pouze tentokrát jde o Evropskou unii.
Jaký je tedy můj názor? Daná regulace je velkým krokem proti svobodě, velkým krokem zpět. Má neuvěřitelně nebezpečný potenciál a v nejlepším případě zapříčiní “pouze” masivní úniky informací, normalizaci omezování svobody slova a falešná obvinění. Evropská unie ze začátku byla perspektivním projektem umožňující jednodušší cestování, sjednocení komunit a výhodnější obchodní podmínky mezi zeměmi. Přispívala k ekonomickému růstu a zjednodušovala život. Nyní však slouží už primárně jako pokladnička pro politiky a instituce omezující svobodu neefektivními regulacemi.
Velice rád bych zde nakonec napsal, co s tím vším dělat, jak se proti tomu ohradit, bohužel to sám nevím. Alespoň budu tedy veřejně vyjadřovat nesouhlas a doufejme motivovat ostatní k tomtéž.