Dítě musí dokázat, že je dítě

Na internetu jsme si zvykli dokazovat, že nejsme roboti. Hledáme semafory, přechody a požární hydranty na devíti rozmazaných obrázcích, zatímco robot na druhé straně obrazovky rozhoduje, zda jsme dostatečně lidští.

Teď se pomalu rýsuje další zkouška. Budeme dokazovat, že nejsme děti. Případně že děti jsme, protože algoritmus si o nás myslí něco jiného.

Meta se koncem srpna dohodla s americkými státy na urovnání sporů kvůli škodám, které měly Facebook a Instagram působit dětem a dospívajícím. Dohoda v hodnotě až 18 miliard dolarů počítá s časovými limity, omezením nočního používání, vypínáním některých notifikací a důslednějším určováním věku. Meta pochybení nepřiznala.

Na první pohled to zní rozumně. Děti nepotřebují, aby je telefon o půl druhé ráno upozorňoval na nové video člověka, kterého sotva znají. Nepotřebují nekonečný proud obsahu navržený tak, aby jejich pozornost nikdy nedostala příležitost odejít. A nepotřebují ani cizí dospělé v soukromých zprávách.

Problém začíná u otázky, kterou technologická řešení ráda schovávají pod přívětivé tlačítko: Jak přesně poznáte, že někdo je dítě?

Dohoda neznamená, že každý uživatel Facebooku a Instagramu bude muset zítra poslat občanský průkaz nebo natočit videoselfie. Meta však bude muset lépe vyhledávat účty dětí mladších třinácti let. Může při tom využívat hlášení ostatních uživatelů, sociální vazby, narozeninové příspěvky nebo zmínky spojené se školou.

Najednou tedy nejde jen o datum narození zadané při registraci. Jde o to, kdo ti píše, s kým se přátelíš, co o tobě říkají ostatní a zda se kolem tvého účtu neobjevují věci, které systém považuje za dětské. Každá z nich může být nevinná nebo úplně špatně pochopená. Dohromady mají vytvořit dostatečně přesvědčivý odhad.

Aby internet poznal dítě, musí nejdřív posuzovat všechny.

Slovo ověření přitom působí mnohem jistěji, než celý proces ve skutečnosti je. Věk lze ověřit pomocí dokladu nebo digitálního potvrzení. Lze ho také odhadnout z obličeje, vyvodit z chování nebo dopočítat z lidí kolem účtu.

To nejsou různé názvy pro stejnou věc. Jedna metoda potvrzuje údaj. Jiná hádá. A další sleduje okolí tak dlouho, dokud z něj nevznikne odpověď, které systém dostatečně věří.

Právě poslední možnost je pro platformy pohodlná. Nemusí obtěžovat každého žádostí o doklad. Mohou pokračovat v analýze chování, kterou už stejně provádějí, pouze jí tentokrát přidají ušlechtilejší účel.

Je v tom téměř dokonalý technologický kruh. Platforma sbírá informace o tom, co sledujeme, kde se zastavíme a s kým komunikujeme. Toto sledování pomáhá vytvářet prostředí, které může být pro děti škodlivé. Řešením má být další sledování, aby platforma poznala, komu má škodit opatrněji.

Věk býval jednou z nejjednodušších osobních informací. Člověk měl datum narození a z něj se něco spočítalo. V digitálním prostředí se z něj stává pravděpodobnost.

Systém neví, že je někomu sedmnáct. Určí pouze, že účet s určitou mírou jistoty připomíná účet sedmnáctiletého člověka. Rozdíl zní technicky, dokud kvůli němu někdo nepřijde o profil, zprávy, fotografie nebo komunitu, kterou si kolem sebe budoval několik let.

Někteří dospělí vypadají mladší. Některé děti vypadají starší. Fotografie může být stará, upravená nebo může zobrazovat někoho jiného. Člověk může psát o maturitě své sestry, sdílet vlastní dětskou fotografii nebo dostávat narozeninová přání založená na deset let starém vtipu. Algoritmus v tom nemusí vidět vzpomínku ani humor. Uvidí signál.

Lidé, kteří už někdy museli přesvědčovat formulář, že jejich jméno, adresa nebo rodinná situace nejsou chyba v databázi, ten princip znají. Systém něco předpokládá a člověk dostane práci navíc, aby dokázal, že existuje správně.

U dětí je ten paradox ještě zvláštnější. Chceme je chránit před příliš rozsáhlým sběrem dat, manipulativním designem a nepřetržitým sledováním. Abychom toho dosáhli, můžeme po nich začít chtít doklad, obličej, potvrzení rodiče nebo dostatek stop, ze kterých se jejich věk podaří vypočítat.

Dítě se tak nestává jen chráněnou osobou. Stává se podezřelým účtem.

Pokud kontrolu obejde, odpovědnost se snadno přesune na něj. Zalhalo o věku. Přihlásilo se přes zařízení rodiče. Použilo jinou fotografii. Našlo návod od někoho, kdo byl o tři kroky před systémem.

Jenže děti obcházejí zákazy. Dělaly to dlouho před sociálními sítěmi a budou to dělat i po zavedení dokonalejšího formuláře. Technologie, která funguje pouze za předpokladu, že dítě nebude zvědavé, vynalézavé ani tvrdohlavé, nestojí na příliš pevném základě.

V debatě o ověřování věku se často smíchají dvě otázky. Má mít malé dítě stejný přístup ke všemu jako dospělý člověk? Samozřejmě že ne. Znamená to, že kvůli němu musí každý návštěvník internetu dokazovat svou totožnost nebo dovolit algoritmu, aby ji odhadoval z jeho života? To už tak samozřejmé není.

Evropská komise prosazuje systém, který má umožnit prokázat pouze překročení určité věkové hranice, například osmnácti let, bez sdílení přesného věku, jména nebo dalších osobních údajů. Evropský sbor pro ochranu osobních údajů zároveň požaduje, aby podobné kontroly používaly co nejméně invazivní metody.

To je podstatný rozdíl. Web nemusí vědět, kdo přesně jsem. V některých situacích mu může stačit odpověď, že splňuji požadovanou věkovou hranici. Potvrzení vlastnosti není totéž jako odevzdání identity.

Ani soukromější ověření ale neřeší větší otázku. Proč věnujeme tolik pozornosti kontrole dítěte a méně prostředí, do kterého ho po úspěšné kontrole pustíme?

Časový limit může pomoci. Vypnuté noční notifikace také. Stejně jako omezení kontaktování cizími lidmi nebo méně agresivní doporučování škodlivého obsahu. Část těchto změn nová dohoda s Metou obsahuje.

Dobrý dětský internet však nemůže být jen dospělý internet s časovačem a rodičovským PINem.

Jestliže je nekonečné rolování, neustálé vyrušování, veřejné měření popularity a přesné profilování škodlivé pro dítě, stojí za to se ptát, proč stejný design automaticky považujeme za přijatelný pro dospělého. Osmnácté narozeniny nevytvářejí odolnost vůči manipulaci. Pouze odemknou verzi služby, která se už nemusí tolik omlouvat.

Ochrana dětí se může snadno změnit ve způsob, jak zachovat stejný obchodní model a pouze přesněji určit, komu bude doručen v omezené verzi. Platforma zůstane postavená na maximalizaci času, pozornosti a množství získaných údajů. Jen se u vstupu objeví lepší hlídač.

Děti navíc potřebují soukromí možná ještě víc než dospělí. Potřebují prostor zkoušet identity, hledat informace, mluvit s vrstevníky a někdy také něco skrýt před rodiči. Ne každé tajemství dítěte je nebezpečné.

Pro queer dítě, dítě hledající informace o zdraví nebo dítě vyrůstající v násilném prostředí může být soukromý přístup k internetu jednou z mála bezpečných věcí, které má. Rodičovský dohled proto není univerzální odpověď. Doklad totožnosti také ne. Sken obličeje už vůbec ne.

Bezpečí placené dalšími osobními údaji není bezplatná ochrana.

Rozumný systém by měl zjistit jen to, co skutečně potřebuje. Měl by nabídnout možnost nápravy, když se splete, a neměl by informace získané kvůli ochraně dětí používat pro reklamu nebo další zdokonalování uživatelského profilu.

Hlavně by ale platformy měly nést odpovědnost za prostředí, které samy postavily. Nestačí kontrolovat, kdo do něj přišel.

Možná nás internet jednou přestane nutit hledat semafory. Místo toho si nechá ukázat tvář, projde přátele, přečte narozeninová přání, odhadne věk a nakonec nám dovolí pokračovat v bezpečnější, ohleduplnější správně zařazené verzi stejného systému.

Dítě by nemělo dokazovat, že je dítě. Platforma by měla dokazovat, že k jeho ochraně nepotřebuje vědět víc, než je nezbytné.