EU vyšetřuje Grok a jeho Spicy Mode. Kyberšikana svlékáním s pomocí AI může vést k novému vymezení hranic přijatelného
Zdroj: Grok
Elonu Muskovi a jeho umělé inteligenci Grok AI svázané se sociální sítí X hrozí další pokuta ze strany EU. Evropská komise spustila vyšetřování ohledně vlny „nedobrovolného svlékání”.
Kauza „svlékání“ na platformě X vypukla koncem prosince 2025, kdy nová funkce Grok AI, tzv. spicy mode, umožnila uživatelům jednoduše editovat reálné fotografie textovými příkazy – například „svleč ji do bikin“ nebo „udělej oblečení průhledné“. Během prvních dní generoval Grok tisíce explicitních deepnudes denně, včetně nevyžádaných (skoro)nahých obrázků celebrit, veřejných osob i nezletilých, což vedlo k masivnímu šíření na X. Elon Musk nejprve reagoval smajlíkem a označil to za otázku „svobody projevu“, odmítl okamžité změny a tvrdil, že uživatelé by měli mít právo na libovolný obsah.
K postupné změně jeho přístupu přispěla až medializace některých případů. Mezi prvními oběťmi byla Ashley St. Clair, Muskova ex-partnerka a matka jeho dítěte. Fotografie z doby, kdy jí bylo 14 let, byla zneužita k vytvoření deepfaku v bikinách. „Grok sice tvrdil, že tyto obrázky už nebude vytvářet, ale situace se dál zhoršovala. Lidé vzali mé fotky z dětství a digitálně mě 'svlékli'. Na jednom snímku mě takto vygenerovali v ponižující ohnuté poloze, přičemž v pozadí byl vidět batoh, který právě teď nosí můj syn. To mě hluboce zasáhlo,“ uvedla St. Claire pro Guardian. Podle jejích slov se útoky ještě vyostřily poté, co se proti manipulaci se svými snímky veřejně ohradila. Některé z explicitních materiálů, na které St. Clairová upozornila, odstranila platforma X až v momentě, kdy ji redakce Guardianu oslovila s žádostí o oficiální vyjádření.
Pohled Ashley St. Clair můžete vidět i ve videu deníku Guardian níže.
Další případy zahrnovaly židovskou přeživší holocaustu v antisemitickém kontextu nebo různé skutečné ženy v simulovaných scénách násilí, často doprovázené slut shamingem. Výzkumnice Genevieve Oh informovala o tom, že se na X objevovalo 6700 sexualizovaných obrázků za hodinu, což vyvolalo globální backlash. V tuto chvíli se nezabývají daným problémem jenom v EU, ale také na vládní úrovni v Indii a Malajsii. Dle odhadů organizace Center for Countering Digital Hate vygeneroval Grok 3 miliony sexualizovaných obrázků, z toho 23 tisíc s dětmi.
Jakákoliv debata o škodlivosti podobných jevů se vždy stočí na téma přijatelné míry omezení svobody slova a projevu. Samozřejmě, že není nijak škodlivé, když AI umožní svléknout do plavek například modelku, která s tím dala souhlas. Proč by ale měl mít každý možnost sexualizovat například děti nebo veřejné osoby na pár kliknutí? Jak lze odlišit konsensuální případy od těch, kde si to zobrazené osoby nepřejí? To vše jsou relevantní otázky bez jednoduchých odpovědí.
Platforma X reagovala až na mediální a politický tlak omezením „spicy mode“ Groku na Premium uživatele (9.1.), později blokem „svlékání“ reálných lidí (15.1.). Už na začátku ledna bylo vyjádření nesouhlasu s možnostmi Groku značné i z pohledu států a organizací. Mluvčí Evropské komise (EK) Thomas Regnier uvedl již 5. 1. na tiskové konferenci, že se EK Grokem vážně zabývá a některé výstupy z funkce „Spicy Mode“ nebyly jen pikantní, ale nelegální. The EU should be abolished and sovereignty returned to individual countries, so that governments can better represent their people
Oficiální stížnosti obdrželo vedení Groku od indické vlády, francouzská vláda odeslala hlášení k prokuratuře za „zjevně nelegální“ obsah, který potenciálně porušuje evropský zákon o digitálních službách (DSA).
Potvrzením toho, že porušení ustanovení DSA berou vážně i na úrovni EU, je aktuální vyšetřování Evropské komise. To může vyústit v pokutu nemalého rozsahu. V nejvyšší míře až ve výši 6 % globálních tržeb Groku, respektive xAI. Taková výše se nedá čekat. Když na začátku loňského prosince uložila EK sociální síti X kvůli nedostatečné transparentnosti pokutu ve výši 120 milionů eur (2,9 miliardy korun), reagoval Musk ostrým prohlášením. „EU by měla být zrušena a suverenita vrácena jednotlivým zemím, aby vlády mohly lépe zastupovat své občany,“ napsal Musk ve svém příspěvku na X. EU obvinil také z cenzury a podpořil požadavek na sankce USA proti Bruselu.
Právě odvetná opatření ze strany americké administrativy jsou něco, čeho se EK bojí. Oznámené vyšetřování Groku je jistě i odrazem nabytí sebedůvěry poté, co Trump ustoupil od plánu ovládnutí Grónska a potrestání vysokými cly osmi evropských spojenců Dánska, kteří se za něj přímo postavili. Odstrašovací kartou v jejich ruce přitom bylo odvetné zvýšení cel, případně sektorové daně, které by citelně zasáhly americké digitální služby. Vymezení přísnějších hranic pro nástroje umělé inteligence v EU by jistě bylo bráno americkou administrativou jako další eskalace. Právě Spicy Mode v Groku může být ovšem tím impulsem, který k tomu skutečně pomůže.
