Jak ničit demokracii online: Příběh firmy Cambridge Analytica

Civilizační fórum 67

Miroslav Bárta, 18. října 2024

Jak ničit demokracii online:
Příběh firmy Cambridge Analytica

V roce 2013 vznikla o několik let později nechvalně proslulá britská firma Cambridge Analytica. Ta se specializovala na využívání osobních údajů uživatelů Facebooku. Po jejich získání je následně použila tak, aby ovlivnila preference nerozhodnutých voličů v USA a Británii. Podle všeho i s přispěním této firmy vyhrál americké prezidentské volby Donald Trump a v Británii byl většinou zvolen odchod z Evropské unie, tzv. Brexit.

Pište na autori@datarun.cz

Vznik Cambridge analytica

Myslím, že některé vlastnosti naší společnosti nabývají v čase na relevanci. Jednou z nich je mimo jakoukoliv pochybnost to, že čím jsme technologicky vyspělejší, tím se také stáváme mnohem křehčími. Cambridge Analytica (dále uváděna jako CA) byla založena v roce 2013. Hlavní náplní její činnosti měly být inovátorské metody pro analýzu dat a jejich následné využití zejména na sociálních sítích. CA vycházela z původní firmy nazvané SCL Group. Ta se zaměřovala na psychologické operace a informační válku.

CA se stala záhy po svém vzniku dominantním hráčem právě na poli formování a ovlivňování názorů v online prostředí sociálních sítí. Jejím cílem bylo cílení individuální reklamy na jednotlivé uživatele podle jejich chování – CA měla vypracováno celkem 5000 referenčních bodů na každého ze zhruba 80 milionů uživatelů Facebooku, s jejichž daty pracovala. Podle CA bylo možné na základě těchto dat z facebookových profilů proniknout do mechanismů lidského uvažování a sofistikovaně ho manipulovat.

Klíčovým momentem v historii CA bylo navázání spolupráce s akademikem Aleksandrem Koganem. Kogan pracující v letech 2012-2018 na univerzitě v Cambridge zkoumal souvislosti mezi oxytocinem a sociálními procesy. Výsledky Koganova výzkumu ukázaly, že osoby s variantou GG genu pro oxytocinový receptor jsou považovány za důvěryhodnější. Kogan na základě svých výzkumů prakticky dokázal, že oxytocin souvisí s pozitivními emocemi, způsobem myšlení i chování. Kogan také vyvinul aplikaci This Is Your Digital Life. Ta byla původně osobnostním testem, který se ale v rukou CA stal nástrojem nejen masového sběru dat, ale vedl především k jejich zneužití bez vědomí jejich majitelů.

Uživatelé, kteří si aplikaci nainstalovali, totiž nic netuše poskytli přístup nejen ke svým vlastním datům, ale i k datům svých přátel na Facebooku. Tak CA získala přístup k informacím desítek milionů uživatelů; byl v rozporu s podmínkami poskytování služeb Facebooku a porušoval základní principy ochrany soukromí. Již tehdy byla získaná data analyzována pokročilými algoritmy. Výstupem pak byly psychografické profily jednotlivých osob zahrnující jejich osobnostní rysy, hodnoty, politické i osobní preference, úzkosti i přání.

Tyto profily se staly základem pro cílenou politickou reklamu, která byla šířena prostřednictvím sociálních médií a dalších online platforem. CA vytvářela personalizovaná sdělení, která byla navržena tak, aby zapadala do psychologického profilu a preferencí cílových skupin. Tato manipulativní taktika měla za cíl vyvolat specifický účinek, posílit specifické postoje a ovlivnit volební chování cílových jedinců.

CA se postupně zapojila do řady politických kampaní po celém světě. CA tvrdila, že dokázala identifikovat a ovlivnit klíčové skupiny voličů, čímž přispěla k vítězství Donalda Trumpa, odchodu Velké Británie z EU a dalším politickým výsledkům. Následovala bouřlivá debata o etice a legitimitě politického profilování jednotlivých osob a jejich manipulaci personalizovanou reklamou. Kritici poukazovali na to, že metody CA jsou netransparentní a manipulativní a že ohrožují integritu demokratických procesů. Obavy vzbuzovala i otázka zahraničního vlivu a vměšování do voleb.

Kdo jsou Chris Wylie a Brittany Kaiser

To, že se svět v roce 2018 mohl dozvědět, co je vlastně AC zač a jakou obrovskou roli hrála v politických kampaních, bylo zejména díky dvěma osobám, které ale původně pro CA pracovaly. Byli to Chris Wylie - kanadský datový vědec a whistleblower - a Brittany Kaiser – americká aktivistka, která se mimo jiné účastnila i kampaně Baracka Obamy – pomáhala s kampaní na Facebooku. Wylie pracoval v CA jako ředitel výzkumu, a tím pádem byl zodpovědný za vývoj sběru a analýzy dat využívaných k vytváření psychografických profilů uživatelů a cílení politické reklamy.

V roce 2018 však Wylie informoval o způsobu manipulace veřejnosti ze strany soukromé CA deníky The Guardian a The New York Times. Jeho svědectví odhalilo, jakým způsobem společnost zneužila údaje desítek milionů uživatelů Facebooku k ovlivňování volebních kampaní, včetně prezidentských voleb v USA v roce 2016 a referenda o Brexitu.

Bezpochyby šlo o nejrozsáhlejší známé nezákonné ovlivňování voleb v dějinách. Wylieho svědectví spustilo obrovský mezinárodní skandál a ostrou kritiku Facebooku a CA. Následovalo vyšetřování, byly ustaveny vyšetřovací komise v USA i Velké Británii, rozběhly se soudy, a to vše nakonec vedlo k novým regulačním opatřením. Facebook musel zavést mnohem přísnější pravidla pro ochranu osobních údajů – vyvázl ale relativně snadno – pokud si odmyslím psychickou újmu Marka Zuckerberga během a po řadě výslechů. Evropská unie přijala Obecné nařízení o ochraně osobních údajů (GDPR). Wylie o svém působení v CA napsal knížku s názvem Mindf*ck, která vyšla česky v roce 2021. Je to fascinující čtení a najdete v ní řadu reálných jmen z politiky, která nejsou neznámá ani v Čechách.

Druhou významnou aktérkou celého příběhu je americká aktivistka Brittany Kaiser. Ta před kariérou v CA pracovala pro různé organizace, včetně Amnesty International a OSN. V roce 2014 vstoupila do CA, kde pracovala na kampaních pro neziskové organizace, což uměla nejlépe. Nakonec ale udělala raketovou kariéru a stala se obchodní ředitelkou. Díky tomu měla možnost skutečně nahlédnout do těch nejcitlivějších procesů a práce s daty. Kaiser se rovněž osobně podílela na jednáních s klienty, ke kterým patřila kampaň Donalda Trumpa a kampaň Leave.EU. Stejně jako Wylie, i ona se rozhodla v roce 2018 veřejně vystoupit proti CA. Krátce poté mj. spolupracovala na dokumentárním filmu The Great Hack (dostupný na Netflixu), který popisuje způsob práce CA a její přímé dopady na politiku jak v USA, tak ve Velké Británii. Zároveň je i autorkou knihy Targeted, ve které popisuje své vidění CA.

Po odchodu z CA se Kaiser vrátila ke své kariéře aktivistky bojující za digitální práva a reformu ochrany osobních údajů. Spoluzaložila organizaci Own Your Data Foundation, která se zaměřuje na vzdělávání v oblasti digitálních práv a ochrany osobních údajů.

Aftermath

To, o čem jsem tu stručně psal – a opravdu doporučuji přečíst si jak zmiňované knížky, tak se podívat na film – je vlastně již antikvovaná historie našeho bouřlivého rozvoje. Jde o totiž o využití, respektive zneužití osobních dat uživatelů sociálních sítí na základě dostupných technologií kolem roku 2015. Dnes jsme o deset let dál a s nesmírným rozvojem AI máme všechny důvody se obávat, že manipulace s daty, modifikace veřejného mínění a indoktrinace populace se mohou stát neodolatelným lákadlem pro určité firmy či skupiny politiků. O to více se jeví jako strategické rozhodnutí budovat a prohlubovat odolnost společnosti vůči takovýmto manipulacím. A zde hraje naprosto kritickou roli vzdělávání na základním a středním stupni, schopnost orientovat se s pomocí dostupných nástrojů ve stále složitějším a mnohovrstevnatém světě.

Skandál s CA byla ve všech ohledech, jak ostatně popisuje i Wylie ve své vynikající knížce, převratná, ohromující a šokující událost do té míry, že tomu zpočátku odmítala uvěřit většina politiků (kromě těch několika na obou březích Atlantiku, kteří věděli…), stejně jako veřejnosti. CA byla prvním globálním varováním toho, jak důležité je chránit osobní data, dbát na etické zásady v oblasti technologií a kriticky hodnotit a třídit informace, které se k nám dostávají online. Zároveň je výzvou k aktivnímu zapojení do debaty o budoucnosti demokracie a k hledání řešení, která zajistí, aby technologie sloužily lidem, a ne naopak. Demokracie totiž není produkt, který přetrvává bez ohledu na čas a okolnosti, ale proces. A jako taková se přirozeně vyvíjí a proměňuje – k lepšímu či horšímu. A jak to bude dál, to záleží především na nás.

Odebírejte naše další newslettery

Nechcete už odebírat naše e-maily? Odhlaste se zde.