Článek
Druhý den pár pobouřených diváků pošle podnět ke stížnosti na mediální radu, která vzápětí odpoví, že dle vyjádření majitelů televizního kanálu nedošlo k porušení pravidel, a tím je záležitost vyřízena. O tři dny později je s velkým humbukem a pokutou stažena z vysílání reklama prodejce hraček, protože jeho inzerovaná panenka byla příliš štíhlá a pod sportovním tričkem bylo k vidění něco, co mohlo naznačovat prsní bradavky. Spravedlnosti bylo učiněno zadost, regulace mediálního trhu fungují.
Scéna z nového pokračování noirového filmu Sin city? Absurdní postapokalyptická sci-fi? Nikoliv, běžná realita jedné části mediálního trhu, který přesvědčil (jakými prostředky?) politiky všech západních zemí, že žádným mediálním trhem není.
Pokud vám předchozí příměr přišel přitažený za vlasy, tak nebyl. Ani trochu. Spíše se krotil. Pojďme se podívat na skutečný obrázek sociálních sítí dneška. V době rozvíjející se generativní umělé inteligence a všeobecného informačního chaosu. Začněme s Markem Ebenem.
Před pár měsíci se objevila na síti společnosti Meta reklama, kde Marek Eben vyprávěl dojemný příběh o tom, kterak po letech trápení s klouby konečně našel řešení. Ten recept mu poradil pan profesor Kolář. Stačí kliknout, návod je zdarma. Marek Eben samozřejmě nikdy nic takového neřekl a klik možná zdarma byl, ale vše za ním už ne. Když jsem tuto reklamu nahlásil, přišlo mi od Facebooku oznámení, že chápou, že se mi reklama nemusí líbit, ale že neporušuje pravidla komunity. Pak se začaly objevovat další podobné s prezidentem Pavlem a dalšími. Na úplně stejném principu. Ty už si vyžádaly mediální pozornost, a tak byly staženy. Nicméně podobné deepfake reklamy na Facebooku kolují dále. Lze na ně narazit prakticky denně a když se je pokusíte nahlásit, dostane se vám stejné odpovědi. Zato v jiných oblastech je Facebook aktivní, a tak odstraňuje fotografie uměleckých děl, kde jsou vidět obnažená prsa a ano, už došlo i na ty panenky. Také vám rychle smaže příspěvek, kde publikujete upozornění na nějakou manipulaci s patřičným screenshotem nebo textem. Šup, dejte si pozor, šíříte manipulaci a porušujete zásady komunity! O pozastavených nebo zrušených účtech poté, co se vám na účet sesypali proruští boti (ať ti naprogramovaní nebo ti lidští), a začali ho nahlašovat, protože jste uvedli nějakou informaci, která se jim nelíbila, snad ani nemluvím.
Kdyby se podobného jednání dopustila média spadající pod mediální zákony, nejen že by dostala pokutu, ale za popsané opakované jednání by jim byla odebrána licence. Na sociálních sítí žádný problém. Mark se jednou za rok vypláče před americkým senátem, v emotivním projevu slíbí nápravu a jede se dál. Reálným výsledkem je pak ještě zhoršení situace.
Sociální sítě jako detašované pracoviště oddělení lidských zdrojů mafie
Zločinci na celém světě jsou si tohoto absurdního stavu na mediálním trhu moc dobře vědomi, a tak čím dál tím více a častěji naprosto beztrestně využívají sociální sítě k náborům svých členů, výhrůžkám a k sebeprezentaci. Interpol v březnu tohoto roku ve své zprávě upozorňuje na celosvětový trend zneužívání digitálních technologií organizovaným zločinem, a to v široké škále. Od phisingových útoků, ransomwarových kampaní po využívání generativní umělé inteligence, sociálních sítí atd.
A protože jsou si zločinci vědomi dosahu a síly těchto sítí, berou své PR aktivity vážně a nenechají si tam kazit pověst. Takže když se v roce 2017 sedmnáctiletý youtuber opřel do jednoho z nejhledanějších narkobaronů světa, El Mencha, o měsíc později, před zraky návštěvníků baru, skončil jeho život s patnácti kulkami v těle.
Mexičtí narcos si budují na sítích svou image nejen drastickými záběry poprav, ale i videi z „charitativních“ akcí, kterak rozdávají chudým vesničanům dárky, ale také záběry z luxusních apartmánů, večírků pro vybranou společnost ověšenou diamanty. Jejich strategie funguje. V očích mnohých mladých má tento romantizující pohled na zločin své kouzlo, a tak mnoho profilů těchto zločinců na Facebooku, Instagramu a Tiktoku má velké množství příznivců a obdivovatelů, kteří se podle nich oblékají, poslouchají stejnou hudbu a skrze své profily jim dělají v online světě reklamu.
Pro kartely pak není vůbec žádný problém, když potřebují nové členy, verbovat právě přes tyto populární profily. Stačí pod svůj profil do zprávy napsat: nabíráme. (Funguje to i obráceně, když naopak někdo „práci“ shání) Tyto praktiky zdokumentoval třeba deník The Wall Street Yournal.
V různých typech podvodů je, jak bylo ukázáno na příkladu s Markem Ebenem, hojně využívána i generativní umělá inteligence. A to od vytváření, šíření a amplifikace textových obsahů, přes fotky neexistujících událostí, až k deepfake videím včetně klonu hlasu skutečné osoby. Autoři téměř všech známých modelů generativní inteligence se snaží toto zneužívání potlačit. Většinou tak, že prompt (výraz, povel, který popisuje, co má být pomocí GAI vygenerováno) podléhá nějaké kontrole na „škodlivé“ výrazy. Když pomineme, že většinou stačí trochu snahy a prompt lze tzv. hacknout, tak tu máme i modely, které jsou otevřené, tzn. že každý si může doprogramovat požadovanou funkcionalitu, anebo modely komerční, které nic takového neřeší. Jedním z nich je třeba tento měsíc uveřejněný model Grok-2, který vyvíjí společnost Elona Muska. Ihned po zavedení zaplavily jeho sociální síť X obrázky, na kterých třeba Donald Trump hladí těhotné bříško Kamaly Harris, ale třeba také „fotografie“ amerického exprezidenta s namířenou pistolí na fotografa či na dítě s tmavou pletí. Podobné obrázky zobrazují samozřejmě i další známé osobnosti. Výtvory neobsahují žádný vodotisk ani jiný prvek, který by je identifikoval jako obrázky generované AI. Vítejte ve světě absolutní svobody slova v podobě, jakou ji hlásá Elon Musk.
Obrázek vytvoření generátorem umělé inteligence - Grok-2
Naprostým dark netem v oblasti sociálních sítí se stává i síť Telegram. Na konci července stoupl počet jejích uživatelů na 950 milionů. Telegram je zcela neregulovanou sociální sítí, a tak zcela zákonitě část nárůstu tvoří i odběratelé ryze propagandistických kanálů jako jsou v ČR a na Slovensku oblíbené cz24. news, netCT24 a další. Telegram je rájem pro různá antisystémová hnutí, ale také pro drogové dealery, pro zločince a teroristy a na rozdíl od mexických kartelů tam dominují Rusové. A tak není divu, že nedávné inzeráty s objednávkou „drobných“ teroristických útoků v Evropě se objevily právě tam.
Nefunkční legislativa i algoritmy
Používání algoritmů pro detekci škodlivého obsahu, a to včetně detekce pomocí AI, se ukazuje dlouhodobě jako nefunkční a vede spíše k do očí bijícím excesům typu panenka s prsy zmíněných na začátku. AI nedokáže rozlišit, jestli násilí na obrázku je záběrem z reálné popravy zběhlého člena narcos nebo screenshotem z akčního filmu. Nahlašování příspěvků a následné odstraňování, jak bylo řečeno, také nefunguje, a ještě je zneužíváno obráceně. Stačí dostatečně velký roj trolů a příspěvek informující o pošlapávání lidských práv v Rusku zmizí jak mávnutím kouzelného proutku.
Mnozí sázejí na nastupující evropskou legislativu známou jako DSA (Digital services act). Dovolím si být k tomuto očekávání skeptický, a to z několika důvodů.
Prvním je, že regulace se vztahují pouze na velké hráče, což je definováno počtem uživatelů. Telegramu se tak například, alespoň zatím, vůbec netýkají. Dalším z důvodů je, že země, jejichž společenské uspořádání stojí na hodnotách demokracie a humanismu, nejsou jen z EU a digitální informační prostor nezná hranice. Se stejnými problémy se perou i země další, v čele s USA, Velkou Británií atd. USA po létech váhání začaly pracovat na různých řešeních týkajících se ochrany veřejného informačního prostoru, ale bude to velmi pravděpodobně běh na dlouhou trať.
DSA zahrnuje řešení, kdy velké společnosti provozující sociální sítě budou muset zřídit kontaktní místa jak pro orgány, tak pro uživatele, kde se budou prohřešky moc hlásit (jak to třeba vypadá v podání Facebooku, jsme si už ukázali), musí spolupracovat s vládami v oblastech integrity politických voleb, poskytovat údaje Evropské komisi, podrobovat se auditům atd.
Výsledkem budou nekonečná vyjednávání, vykrucování se, řešení marginálností, další uplakaný Mark, výmluvy na to, že nefungují algoritmy na detekci deepfake, prodlevy při odstraňování příspěvků, soudy atd.
Řešení?
Ne vždy je řešení komplexních společenských problémů jednoduchou věcí. Naopak, v této oblasti bývají řešení komplikovaná, složitá, ne-li občas nemožná. Nicméně v tomto případě toto jednoduché řešení existuje.
Stačí přestat on-line platformy považovat za něco jiného než tradiční média, která jsou za publikovaný obsah zodpovědná, protože podléhají mediálním zákonům. Ano, bude to pro majitele těchto sítí drahé, protože budou potřebovat ohromný nárůst lidské i výpočetní síly. Budou se vymlouvat na to, že to zničí jejich byznys, že to není možné atd. Nakonec se ukáže nejen, že to jde, ale že to přinese nové pracovní příležitosti a tlak na inovace v technologických řešení. Ano, reálné je, že tyto továrny na peníze budou minimálně v krátkodobém horizontu generovat roční zisky o pár miliard menší než nyní.
To, že těmto společnostem stále skáčeme na jejich výmluvy, má v důsledku tak negativní důsledky na společnost, že se to nepodařilo ani desítky let neřízenému průmyslu, který vypouštěl zcela neregulovaně jedy do řek, ovzduší a zaměstnával lidi za podmínek, které byly blízké práci otrocké. A kdyby dnes přišel někdo z nich s pláčem, že mu čistička odpadních vod, skládka nebezpečného odpadu a zajištění hygienických a bezpečných podmínek pro své zaměstnance prodražují byznys a že žádá o výjimku, asi bychom si klepali na čelo. Proč si na něj neklepeme v případě nebohých miliardářů (nejen) ze Silicon Valley, jejichž platformy destruují samotné základy naší společnosti, je opravdu znepokojivou otázkou. Protože věřit někomu, že to sice vypadá jako kachna, kejhá jako kachna, chodí jako kachna, ale není to kachna, bylo omluvitelné možné ještě před patnácti lety. Dnes, po mnoha letech investigace, výzkumů, práce odborníků a ohromném množství důkazních materiálů o extrémně negativních externalitách spjatých s tímto typem neregulovaného podnikání, už to značí pouze naprostou ztrátu pudu sebezáchovy.
Zdroje
Facebook Employees Flag Drug Cartels and Human Traffickers: https://www.wsj.com/articles/facebook-drug-cartels-human-traffickers-response-is-weak-documents-11631812953
Telegram roste a konspirační a dezinformační účty na něm posilují: https://www.investigace.cz/telegram-roste-a-konspiracni-a-dezinformacni-ucty-na-nem-posiluji-blizi-se-vsak-jeho-regulace/
