V digitálním světě je třeba nových pravidel. Online data je možné zneužívat k ovlivnění lidí

Podle autorů textu jde v případě zneužití facebookových údajů společností Cambridge Analytica o víc, než jen o pouhý nedostatek v oblasti datové ochrany, jak to tvrdí představitelé Facebooku. Hlavním problémem je pak skutečnost, že prostřednictvím online dat lze s pomocí různých algoritmů předvídat a ovlivňovat lidské chování, aniž by si toho sami uživatelé byli vědomi.

Psychologické profily uživatelů

Cambridge Analytica s pomocí aplikace získala údaje o 50 milionech uživatelů největší sociální sítě na světě a s využitím analýz velkých souborů dat vytvořila takzvané psychografické profily. Poté vhodným digitálním obsahem a politickou inzercí oslovila část uživatelů internetu. Tímto způsobem mělo docházet k ovlivňování předvolebních kampaní po celém světě.

Nakonec taková myšlenka není nová. Už v roce 2014 provedl Facebook spolu s odborníky z Cornellovy univerzity psychologický internetový experiment s více než 600 tisíci nic netušícími uživateli, kterým s pomocí algoritmů posílali buď pozitivní, nebo negativní inzerci a následně sledovali změny v jejich chování.

Nástroj k ovlivňování

Výsledky pokusu skutečně ukázaly, že prostřednictvím sociálních sítí lze uživatele emocionálně ovlivnit, aniž by o tom věděli. Vědci tento fenomén pojmenovali jako emocionální nákazu. Experiment svého času vzbudil ostrou kritiku, ostatně podobně jako současná aféra s firmou Cambridge Analytica. Experti tehdy požadovali zavedení nových pravidel pro zacházení s údaji o uživatelích internetu.

Oba případy podle švýcarského deníku dokazují, že ochrana dat je ze strany Facebooku nedostatečná. V roce 2014 to byli vědci, kteří získali údaje k výzkumu, přestože směrnice sociální sítě se tehdy ještě o takovém použití informací nezmiňovaly. Letos data zneužila Cambridge Analytica, která s pomocí vlastní aplikace stáhla údaje nejen o samotných uživatelích, ale také o jejich přátelích.

Ochrana, co neochrání

Poslední aféra ukazuje na to, že pouhé vyřešení ochrany dat uživatele v digitální éře neochrání. Souhlas s podmínkami používání je předpokladem k přístupu k většině internetových služeb včetně Facebooku. Většina uživatelů ale podmínky akceptuje, aniž by je četla. To vzbuzuje pochyby o tom, jestli je takový souhlas dostačující, zamýšlí se Neue Zürcher Zeitung.

facebook|foto: CC0 Public domain

Z právního pohledu také není každý online souhlas s podmínkami platný. Americké soudy zneplatnily v roce 2012 část smluv jednoho velkého internetového obchodníka kvůli tomu, že si v nich vynutil možnost jednostranné změny podmínek.

Onora O'Neillová, emeritní profesorka filozofie na Cambridgeské univerzitě tehdy argumentovala tím, že proces udělení souhlasu ze strany uživatele musí probíhat bez zmatečností a nátlaku. Lidé podle ní navíc musí mít možnost svůj souhlas odvolat. Jak švýcarský list podotýká, zdá se ale, že jak mainstreamoví, tak i alternativní poskytovatelé digitálních služeb možnost pro uživatele kontrolovat používání jimi vytvořených internetových obsahů spíše znesnadňují.

Boj o podvědomí

Vedle zabezpečení dat je tak zapotřebí kontrolních mechanismů, které by umožnily reagovat na náhlé události po celou dobu používání online služby, včetně opatření zabraňujících ztrátu kontroly nad rozhodováním, emocemi a způsobu chování ve světě internetu, myslí si autoři textu. Velká část poskytovatelů digitálních služeb dnes podle nich bojuje jen o to, jakým způsobem se dostat do podvědomí uživatelů. Strategiemi takových firem jsou například cílená reklama a upozornění, která zvyšují rozvoj závislého chování.

V tomto směru už se také začali angažovat různí výzkumníci, kteří požadují vytvoření pravidel, jež by omezila využívání výkonných neurotechnologií k získávání informací a manipulaci s nimi. Takzvaný social computing do češtiny někdy překládaný jako „využití sociálních sítí“ – dokazuje, že není bezpodmínečně nutné umět číst mozek, ale že k manipulaci stačí sbírat a analyzovat data, která uživatelé pravidelně a často nevědomě zveřejňují.

Demokracie versus digitalizace

Jeden z navrhovaných mechanismů se týká takzvané kognitivní svobody, tedy svobody člověka kontrolovat vlastní poznávání. Kognitivní svoboda zdůrazňuje právo člověka na sebeurčení, kontrolu vlastních myšlenek, emocí a přesvědčení, vysvětlují autoři článku. Jak dodávají, jedná se přesně o ty oblasti, které se pokusila ovlivnit Cambridge Analytica.

V loňském roce se odborníci na mezinárodní úrovni zabývali otázkou, jestli demokracie přežije digitalizaci a umělou inteligenci. Odpověď zčásti závisí na tom, jestli společnost dokáže ochránit svobodu jednotlivců, konstatuje komentář švýcarského listu Neue Zürcher Zeitung.