Detstvo 2.0: Technológie zbierajú citlivé dáta detí výmenou za chvíľu pozornosti
Detstvo sa mení, deti vyrastajú obklopené technológiami – od smart hračiek cez sociálne siete až po chatboty s umelou inteligenciou. So zábavou, ktorú z online sveta dostávajú, však do neho väčšinou nevedome odovzdávajú aj množstvo údajov o sebe.
Pravidlá digitálneho prostredia sú navyše nastavené tak, aby platformy získali čo najviac ich pozornosti. Nejde o to, či chceme zakázať deťom sociálne siete, ale za akých podmienok chceme dovoliť digitálnym platformám prístup k našim deťom.
Od jedného lajku k bubline
Dvanásťročné dieťa si na sociálnej sieti pozrie video o chudnutí, ďalšie o obľúbenej speváčke, niečo vyhľadá, označí „páči sa mi“ či niekoho začne sledovať. Pre dieťa sú to obyčajné chvíle na mobile. Pre algoritmus sú to cenné signály.
Môže z nich postupne odhadovať jeho záujmy, správanie či citlivé charakteristiky a ponúkať mu ďalší obsah, ktorý udrží jeho pozornosť. Video o vzhľade tak môže viesť k obsahu o extrémnych diétach, poruchách príjmu potravy či sebapoškodzovaní. Iné témy môžu dieťa priviesť k zdravotným dezinformáciám, nenávistnému obsahu, nebezpečným výzvam alebo nabádať chlapcov na nerešpektovanie a dehonestovanie dievčat a žien. Z nevinného záujmu sa môže stať informačná bublina, v ktorej sa dieťa ocitá stále hlbšie.
Dieťa pritom nikde nevyplnilo, čo ho trápi alebo v čom je zraniteľné. Tento obraz môže vzniknúť jednoducho z jeho správania v digitálnom svete. A môže byť oveľa podrobnejší, než by sme ako rodičia chceli, aby svet o našich deťoch vedel.
Čo všetko môžu byť citlivé dáta?
Možno nám ako prvé napadnú fotografie a videá, ale môžu to byť údaje o správaní, záujmy a preferencie, poloha, kontakty a sociálne väzby, údaje, z ktorých algoritmus dokáže odhadnúť psychologický profil, zdravotné alebo iné citlivé informácie. Nejde teda len o to, čo deti zverejňujú, ale aj o to, čo všetko o nich dokážu algoritmy sietí zistiť bez toho, aby sme si to uvedomovali. Sociálne siete sú pritom len časťou digitálneho sveta.
Digitalizácia detstva
Je večer a dieťa sa cíti osamelo. Spolužiaci sa mu dnes vysmiali a bojí sa, čo si o ňom myslia ostatní. S mobilom v ruke sa namiesto rodičov obráti na chatbot: „V škole sa mi smejú.“ „Nikomu som ešte nepovedal, že…“ Chatbot môže pôsobiť ako kamarát či poradca, ktorému sa dieťa zverí v presvedčení, že ho nikto iný nepočúva.
Informácie o svojich obavách či problémoch pritom nemusí povedať priamo. Niečo môže systém odhadnúť z otázok, kontextu a spôsobu komunikácie. Sú aj ďalšie príklady. V online hrách dieťa zdieľa meno či prezývku, vek, hlas, fotografie a cez chat ho môžu kontaktovať iní ľudia, niektorí aj s cieľom vylákať osobné údaje. Smart hodinky dokážu vytvoriť detailnú mapu každodenného pohybu detí. Inteligentné hračky ich počúvajú, komunikujú a posielajú dáta do cloudu. Zdravotné, fitness či wellbeing aplikácie môžu pracovať s citlivými informáciami o spánku, menštruácii a duševnom zdraví.
Nie každý chatbot, hra či aplikácia sú automaticky rizikom. Otázka je, koľko toho technológie o deťoch vedia a čo s tým robia. Keď hovorím o ochrane dát detí v online svete, tak myslím na väčšie spektrum, než je debata o veku na sociálnych sieťach. Digitálny svet je oveľa väčší a zahŕňa celú osobnosť, nielen vek.
Únia zlyháva pri vymáhaní pravidiel
Základom európskej bezpečnosti online je Akt o digitálnych službách. Presadzovala som zákaz zneužívania citlivých dát a cielenej reklamy na deti založenej na profilovaní. Dlhodobo upozorňujem na nebezpečenstvo algoritmov a vplyvu toxického obsahu na duševné zdravie detí.
Dnes to konečne začína chápať aj Európska komisia. Aj na základe môjho tlaku preveruje TikTok či spoločnosť Meta pre ochranu maloletých, vekové overovanie aj fungovanie algoritmov. Európska legislatíva vyžaduje zákaz reklamy založenej na profilovaní pre maloletých. No slovenskí výskumníci z Kempelenovho inštitútu inteligentných technológií ukázali, že TikTok využíva odporúčacie algoritmy na to, aby deťom doručoval komerčný a influencerský obsah, kde nie sú označené platené partnerstvá, a profiluje ich záujmy päť- až osemkrát silnejšie než u dospelých.
Komisia minulý týždeň konečne navrhla komplexnejšie podmienky pre sociálne siete. Na základe tzv. EU Kids Aktu nebudú mať sociálne siete prístup k deťom do 13 rokov a deti od 13 do 15 rokov si budú môcť založiť bezpečnú verziu účtu iba pod dohľadom rodičov. Takéto účty budú musieť byť naprogramované bez návykových prvkov, ako je nekonečné skrolovanie, nočné notifikácie alebo odmeny za čas a aktivitu na sieti, a budú povinne súkromné a bez možnosti kontaktovať dieťa zvonku. Sociálne siete budú musieť dokázať, že ich účty sú pre maloletých bezpečné.
