Zdroj: Meta

Americký soud v Novém Mexiku uložil společnosti Meta pokutu 25 miliard dolarů, což po přepočtu představuje závratných 540 miliard korun. Jde o jeden z vůbec největších finančních postihů jako důsledku soudního sporu v historii USA. Technologického giganta zastihlo toto rozhodnutí v době, kdy na trh agresivně uvádí nové AI nástroje a slibuje uživatelům maximální bezpečí.

Rozsudek, který podepsal okresní soudce Francis Mathew, přichází po zářijovém verdiktu tamní poroty. Ta jednoznačně shledala, že Meta dlouhodobě a záměrně klamala spotřebitele ohledně ochrany soukromí uživatelských dat. Původní matematický výpočet na základě státních zákonů přitom hrozil částkou přesahující 219 miliard dolarů, kterou soud nakonec „snížil“ na zmíněných 25 miliard.

„Tento rozsudek dává jasně najevo, že mocné technologické firmy nestojí nad zákonem,“ uvedl k rozhodnutí generální prokurátor Nového Mexika Raúl Torrez. Vedení Mety však reagovalo ostře. Hlavní právní zástupce C. J. Mahoney oznámil, že společnost se odvolá, a dodal, že přístup státu prakticky znemožňuje v regionu rozumně podnikat.

Ozvěny kauzy Cambridge Analytica

Původní žaloba podaná v roce 2021 má své hluboké kořeny v politických skandálech kolem britské poradenské firmy Cambridge Analytica. Ta neoprávněně vytěžovala osobní data až 87 milionů uživatelů Facebooku prostřednictvím třetích stran a kvízových aplikací. Získaná data následně sloužila k tvorbě detailních psychografických profilů a cílené politické propagandy během americké předvolební kampaně v roce 2016, v níž uspěl Donald Trump.

Přestože tehdejší šéf Facebooku Mark Zuckerberg veřejně proklamoval, že firma data uživatelů neprodává a situaci důkladně prošetří, interní audit podle soudu zcela selhal. Vedení firmy totiž dlouhodobě tlačilo na snižování nákladů a efektivní kontrolní mechanizmy jednoduše chyběly. Firma věděla o širokém přístupu třetích stran, ale tolerovala to, protože to prospívalo jejímu byznysovému modelu.

Konkurují si i další žaloby, ohroženy prý byly miliony dětí

Meta rozhodně nemá na růžích ustláno a pokuta z Nového Mexika je jen dalším dílkem do velmi složité právní mozaiky. Firma aktuálně čelí tisícům žalob a masivnímu tlaku zákonodárců kvůli dopadu svých platforem na mentální zdraví dětí. Probíhající proces v Kalifornii řeší obvinění, že Facebook a Instagram byly záměrně vyprojektované jako vysoce návykové pro nezletilé uživatele.

Zatímco šest jiných států uzavřelo loni v srpnu mimosoudní vyrovnání v rámci obřího multistátního balíčku, Nové Mexiko odmítlo ustoupit a šlo vlastní cestou až k soudnímu procesu. Jen letos na jaře navíc Nové Mexiko vysoudilo stovky milionů dolarů v dalších sporech kvůli nedostatečné ochraně mladistvých před sexuálním obtěžováním.

Kapka v moři, nebo varování pro Silicon Valley?

Z čistě finančního pohledu se pětadvacet miliard dolarů může zdát jako zvládnutelná zátěž. Americká společnost totiž ve třetím čtvrtletí roku 2026 utržila 64,6 miliardy dolarů (v přepočtu 1,4 bilionu korun) a její tržby meziročně vzrostly o 26 procent. Jak ale upozorňují kritici z neziskového sektoru, nejde jen o samotné peníze, ale o nebezpečný precedent pro celý obor.

V době, kdy technologický gigant na trh uvádí pokročilé AI asistenty a láká uživatele na sdílení těch nejcitlivějších dat od bankovních účtů až po soukromé lékařské záznamy, podobné verdikty ukazují jediné. Trpělivost regulátorů s volným přístupem k soukromí definitivně končí a éra beztrestnosti technologických gigantů naráží na své pevné mantinely.

O co šlo v kauze společnosti Cambridge Analytika?

Kauza společnosti Cambrige Analytica (CA) se dostala na veřejnost v roce 2018 díky whistleblowerovi, jejímu bývalému zaměstněnanci a jedním z vedoucím výzkumu Christopheru Wyliem, který se rozhodl odtajnit způsob nakládání s daty v CA.

CA se snažila ve velkém měřítku analyzovat zájmy a chování uživatelů Facebooku za účelem vytvoření jejich psychografických profilů a následného velmi přesného cílení politických kampaní. Ty v mnohém využívaly metody známé z dezinformačních operací Ruské federace, zasévání strachu a polarizace, spíše než pozitivní podporu konkrétního politického subjektu.

Vraťme se ale k datovému vzorku, na kterém své podvratné řemeslo postavila. Hlavním nástrojem byla velké akvizice uživatelů do facebookové aplikace „thisisyourdigitallife". Za získání jednoho uživatele zaplatila CA až 3 dolary a celkové náklady se prý pohybovaly okolo 1 milionu dolarů. Díky tomu se do aplikace přihlásilo na 270 tisíc lidí.
Ti ale při vstupu do aplikace odklikli, že dávají přístup také k profilům svých přátel. Díky „thisisyourdigitallife" tak CA získala možnost nahlédnout do profilů 50 milionů Američanů (soud v Novém Mexiku nyní uvádí 87 milionů uživatelů, pozn. red.). Dle podmínek Facebooku jde něco takového udělat, ale pouze za účelem zlepšení uživatelské zkušenosti aplikace. Takto získaná data nesmí být přeprodaná ani nijak využitá k cílení reklamy. Další řádky ovšem prozradí, že schopnost vynucení těchto podmínek nebyla ovšem nepřekonatelná. A to je právě jeden ze základů aktuální žaloby společnosti Meta. Nebyla součástí této operace, ale umožnila ji. A lhala uživatelům o tom, co se může s jejich daty stát.

Lajky o vás prozradí vaši politickou i sexuální orientaci

Skrze „thisisyourdigitallife" byla CA schopna prohledat u uživatelů jejich lajky a komentáře, Wylie dokonce tvrdí, že v některém případě i soukromé konverzace. Každá digitální stopa, kterou po sobě zanecháváme, je přitom do určité míry otiskem naší osobnosti. A dle Cambridge Analytica může pouhá kombinace několika lajků naznačit životní postoje nebo charakterové vlastnosti.


CEO Cambridge Analytica, Alexander Nix, při prezentaci o psychografickém modelování cílových skupin voličů z podzimu 2016.

Pokud máte rádi hranolky řezané do vlnek (tzv. curly fries, pozn. red.) a k tomu kosmetickou značku Sephora, naznačuje to prý vaši inteligenci. K politické profilaci relevantní je například i lajkování Hello Kitty, o sexuální orientaci pro změnu vypovídá obliba FB stránky „Being confused after waking up from naps" (v překladu „Po probuzení ze šlofíka bývám zmatený", pozn. red. ). Výše uvedené příklady pochází z článku publikovaného v roce 2013 v akademickém časopise Proceedings of the National Academy of Science. „Málo uživatelů bylo spojeno s lajky explicitně odhalujícími jejich atributy. Například méně než 5 % lidí, u nichž byla odhadována homosexuální orientace, bylo spojeno s explicitně gay skupinami...," uvádí se v něm dále.

Přesně v tomto spočívá kouzlo psychometrie. Dokáže na vás prozradit i to, co říct nechcete. Z hlediska vašich vnitřních motivátorů pak umí dokonce identifikovat i ty, o kterých nevíte. A právě ty jsou pak nejefektivnější pro cílení reklamou. Christopher Wylie na to ve věku 24 let dohlížel. V tu dobu postgraduální student zaměřující se na predikce trendů v módním průmyslu se najednou nabourával do mysli amerických voličů. Původcem myšlenky takto psychometrii využít byl ale Steve Bannon, jedna z hlavních postav Trumpovy první prezidentské kampaně a později jeho hlavní strategický poradce po Trumpově usednutí v Bílém domě. Ten také nazval využití těchto taktik jako volební bitevní nástroj.

Christopher Wylie v rozhovoru pro Guardian také uvedl:

„Šlo o velmi neetický experiment, protože si hrajete s celou zemí, s psychologií celé země bez souhlasu nebo vědomí lidí. Navíc si hrajete s psychologií celé země v kontextu demokratického procesu."

Cambridge Analytica tvrdí, že jejich data nejsou zdaleka jen z Facebooku. Ta mají být párovaná s daty z jiných zdrojů. Dle Wylieho ale právě neoprávněně získaná data z Facebooku tvořila základ algoritmu CA. Část rozhovoru Christophera Wylieho můžete vidět níže:

Cambridge Analytica jako stroj na propagandu

Obrovský set dat byl využit k tvorbě algoritmu, který pak dokázal dávkovat správná sdělení té správné cílové skupině. „Rámování příběhu, téma, obsah, tón," vypočítává Wylie, co všechno bylo určeno daty. Toto stále v mnoha ohledech zní jako „normální práce marketéra", možná s neeticky získaným datovým základem. Právě díky němu ale šlo cílení a tvorba obsahu hlouběji než například za propagaci článků označujících Hillary Clinton jako zkázu horníků v určitých uhelných oblastech v Pensylvánii. Na to byste pravděpodobně přišli i bez tak podrobného průzkumu dat.

CA pracovala s obsahem díky hlubšímu porozumění lidské psychiky uživatelů na jiné úrovni. Tu prozradil managing director v Cambridge Analytica, Mark Turnbull, za značně neobvyklých okolností. Britský kanál Channel 4 pro svůj investigativní pořad vytvořil postavu zájemce o služby CA, který chce ovlivnit volby na Srí Lance. Právě na schůzce s ním v Londýně se do záznamu skrytých kamer Turnbull rozpovídal:

„U lidí jsou dva základní hybatelé pro efektivní přijetí informací: naděje a strach. Mnoho z nich je nevyslovených nebo dokonce podvědomých. Nevíte, že ve vás ten strach je, dokud jste neviděli něco, co ve vás onu reakci vyvolalo. Naší prací je spustit vědro níž do studny než kdokoliv jiný, abychom porozuměli tomu, co jsou ty skutečně hluboko usazené strachy a obavy. Nemá smysl bojovat v politické kampani s fakty, protože ve skutečnosti je to vše o emocích."

Na YouTube zveřejněná část pořadu Channel 4

Mnohé indicie přitom naznačují, že právě vytěžení těch nejhlubších strachů bylo děláno s pomocí konspiračních teorií, fake news ne nepodobných těm, které používala dle Kongresu pro ovlivnění amerických prezidentských voleb ruská strana.

Níže pro ilustraci naleznete reklamy, které jako distribuované ruskými trolly označil Facebook. Je z nich poznat, že taktikou ruských trollů nebyla pouze podpora Trumpa. V některých postech — v tomto případě mířených na homofoby — vyzýval příspěvek k vybarvení omalovánek podporujících dalšího kandidáta demokratů, Bernieho Sanderse. Spojitost Bernieho Sanderse s LGBT komunitou mu měla uškodit.

Celkové zaměření příspěvků ruských trollů ale bylo zřejmé. Volily sdělení, které vyznívalo negativně pro Hillary Clinton. Stránka „Army of Jesus" ji dokonce zobrazovala jako ďábla bojujícího s Ježíšem. Zaměření na silně nábožensky založené uživatele je očividné.

This graphic of Jesus and Hillary Clinton is an actual post shared by the Russian page “Army of Jesus,” released during #TechHearings. pic.twitter.com/XKFLGnoXu4

— Mark Warner (@MarkWarner) 1. listopadu 2017

Ukázky reklam cílených Cambridge Analytica k dispozici nemáme. Právě podobná forma je nicméně zcela v souladu s výše popsanou taktikou.

Mark Turnbull a chief data officer v CA, Alex Taylor, prozradili na schůzkách natáčených Channel 4, že CA už ovlivnila kampaně V Africe, Austrálii, Malajsii, Mexiku a chystají se do Brazílie. Veřejně známé je i jejich angažmá na straně podporovatelů Brexitu. Channel 4 pak uvádí, že CA využila své triky i v České republice.

Po prozrazení praktik Cambridge Analytica zahájil Facebook očisťovací proces  

Facebook po této kauze zahájil očisťovací proces svého jména. Ostatně i ona byla jedním z důvodů rebrandingu na Meta Platforms. Je také potřeba dodat, že společnost Marka Zuckerberga zpřísnila možnosti cílení v mnoha oblastech, politické a volební kampaně v sobě mají vnořena pravidla transparentnosti zadavatele (od října 2026 jsou dokonce v EU v reakci na nové unijní regulace zakázány, pozn. red.). Po útoku Trumpových podporovatelů na Kapitol 6. ledna 2021 to po nějakou dobu vypadalo, že se Meta alespoň snaží na svých platformách potírat či uvádět na pravou míru dezinformace a nenávistný obsah, ale to s nástupem druhého volebního období Trumpa pominulo. Z hlediska federálních úřadů Meta dnes žádné žaloby v popsaných oblastech nehrozí. Aktuální rozsudek po žalobě státu Nové Mexiko je tak spíše jen důkazem nezávislosti soudní moci. Dodejme ovšem, že je nepravomocný a o nějakém zásadním převratu fungování Meta jako jeho důsledku zatím nemůže být řeč.

Kam dál? 

Přečtěte si více v článku Skandál Cambridge Analytica poukazuje na ohrožení demokracie Facebookem. Mark Zuckerberg se bude zpovídat.