Článek
Niklas Luhmann popsal moderní společnost jako soubor relativně autonomních sociálních systémů. Každý z nich komunikuje podle vlastního binárního kódu, který určuje, co je pro daný systém relevantní. Ve vědě je tímto kódem pravda/nepravda, v právu právo/bezpráví, v ekonomice platba/neplatba, v politice moc/opozice. Kód není morálním pravidlem ani cílem společnosti; je to mechanismus, který umožňuje systému redukovat složitost okolního světa a rozhodovat, jaká komunikace bude pokračovat.
V době digitálních platforem se objevuje nový typ komunikačního systému, který Luhmann ještě nemohl analyzovat. Sociální sítě nejsou pouze technologickou infrastrukturou ani médiem přenášejícím informace. Jsou autonomními komunikačními systémy, jejichž fungování je řízeno algoritmy strojového učení. Tyto algoritmy však nejsou neutrální, jsou optimalizovány podle jediné cílové funkce. Právě tato optimalizační funkce představuje moderní podobu komunikačního kódu.
Na první pohled se může zdát, že Facebook, Instagram, TikTok nebo X usilují o šíření informací. Ve skutečnosti jejich algoritmy nesledují pravdivost sdělení ani jejich společenskou hodnotu. Nehodnotí, zda je příspěvek vzdělávací, kulturní nebo vědecky správný. Jedinou otázkou, kterou algoritmus řeší, je pravděpodobnost, že uživatel zůstane na platformě o několik sekund déle. Optimalizační funkcí není o správnosti či pravdě, ale o pozornosti. Proto lze říci, že komunikační kód sociálních sítí má podobu:
udržení pozornosti / ztráta pozornosti
Veškerá komunikace je následně hodnocena podle tohoto jediného kritéria. Příspěvek, který vyvolá silné emoce, bude šířen více než příspěvek věcný, konflikt bude upřednostněn před konsensem, krátké video před dlouhým textem, okamžitá reakce před promyšlenou argumentací. Algoritmus nedělá žádné ideologické rozhodnutí, maximalizuje pouze svou optimalizační funkci. Samozřejmě není ideální, když Ministerstvo školství, mládeže a tělovýchovy vydává krátká videa, jimiž komunikuje svá témata a odklání tím relevantní komunikační tok nejrůznějším směrem.
Algoritmus připomíná architekturu Transformer představenou v článku Attention Is All You Need. Také zde existuje mechanismus pozornosti, který každému slovu přiřazuje váhu podle jeho významu pro další výpočet. Rozdíl je ovšem zásadní. V Transformeru je attention technickým mechanismem pro výpočet relevance mezi jednotlivými prvky textu. U sociálních sítí je attention lidskou pozorností, tedy omezeným psychologickým zdrojem. Architektura může být podobná, ale optimalizační funkce je zcela odlišná. Jazykový model se při tréninku učí minimalizovat chybu předpovědi dalšího tokenu. Sociální síť maximalizuje očekávanou dobu sledování.
Právě zde se ukazuje obecnější princip fungování umělé inteligence. Algoritmus sám o sobě nemá žádné hodnoty. Nerozhoduje, co je dobré, nebo špatné. Chová se přesně tak, jak je definována jeho cílová funkce. Pokud je optimalizačním kritériem délka sledování, začne preferovat obsah, který uživatele udrží co nejdéle. Pokud je kritériem počet kliknutí, začne zvýhodňovat obsah s nejvyšší pravděpodobností kliknutí. Jestliže je cílem maximalizace reklamních příjmů, bude algoritmus postupně měnit podobu komunikace tak, aby podporovala právě tento ekonomický cíl.
Z pohledu systémové teorie lze říci, že optimalizační funkce převzala roli komunikačního kódu. Zatímco dříve byla selekce komunikace prováděna společenskými institucemi – redakcemi novin, vydavateli nebo odbornými komunitami –, dnes ji provádějí algoritmy strojového učení. Tyto algoritmy nehodnotí obsah podle jeho významu, ale podle matematicky definované účelové funkce. Vzniká nový typ sociální racionality, v níž se rozhodování přesouvá z lidí na optimalizační procesy.
Důsledky jsou dalekosáhlé, neboť lidská komunikace se začíná přizpůsobovat algoritmu. Tvůrci obsahu intuitivně poznávají, co algoritmus preferuje, a své příspěvky tomu přizpůsobují - mění titulky, zkracují délku videí, mění způsob sdělení, vypisuje se řečený text, extremizuje se emocionální náboj. Algoritmus tak nejen vybírá obsah, ale postupně formuje samotnou podobu komunikace. A naopak, použije-li tvůrce pomoc algoritmu umělé inteligence, dostane výsledek, jenž bude pravděpodobně pro konzumenty atraktivní. Vzniká zpětnovazební smyčka: algoritmus zvýhodňuje určitý typ sdělení, tvůrci jej začnou produkovat častěji a uživatelé si na něj postupně zvykají. Komunikační prostředí se samo optimalizuje podle jediné funkce.
To vysvětluje, proč jsou na sociálních sítích úspěšnější konfliktní témata, moralizace nebo jednoduché příběhy než složité odborné analýzy. Nejde o selhání společnosti ani o úmyslnou manipulaci jednotlivých programátorů, resp. vedení konkrétních organizací. Je to přirozený důsledek optimalizační funkce. Algoritmus vybírá obsah, který maximalizuje pozornost, a tím současně mění evoluci celého komunikačního systému.
Zajímavé je, že stejný princip lze aplikovat i na jiné digitální systémy. Vyhledávač optimalizuje relevanci výsledků. Navigace minimalizuje dobu cesty. Překladač minimalizuje chybu překladu. Jazykový model optimalizuje pravděpodobnost správného pokračování textu. V každém případě existuje jediná účelová funkce, která určuje chování celého systému. Není proto rozhodující použitý algoritmus, ale to, co se algoritmus učí maximalizovat.
Tím se nám nabízí i nový pohled na Luhmannovu teorii společenských systémů včetně systému vzdělávání. Komunikační kód již nemusí být chápán pouze jako symbolicky generalizované médium společnosti. V digitálním prostředí se stává explicitní matematickou funkcí. Optimalizační funkce algoritmu představuje formalizovaný komunikační kód, který určuje, jaká komunikace bude pokračovat, jaká bude potlačena a jakým směrem se bude celý systém dlouhodobě vyvíjet. Nahrazuje tedy selekci významů, resp. selekci smyslu, který každý společenský subsystém v rámci své sebereference provádí.
Pokud se daný společenský systém nebude do budoucna aktivně bránit a rezignuje na terminologickou přesnost popisující reálné situace (např. skrze učební osnovy ve školství), potom podlehne komunikačnímu chaosu, který umělá inteligenci apmplifikuje. Lidská pozornost, resp. interakce je pro skutečnou lidskou komunikaci bazální. Jakmile se pozornost stane univerzálním měřítkem úspěchu digitální komunikace, začnou všechny ostatní hodnoty ustupovat do pozadí. Naslouchání se stane iluzorním pojmem. Lidé si vytvoří stínový svět podobný Platónově jeskyni, který však bude promítat nikoliv stíny, nýbrž obrazy barvitější než je reálný svět, jenž je často plný nejrůznějších komplikací a problémů.
Luhmann říká, že v médiu komunikace se smysl objevuje skrze samotnou komunikaci. Dodatečné hodnoty důležité pro určité společenské systémy, které závisí na tradici a evoluci sémantiky pojmů a konceptů jako pravda, vzdělávání, estetická kvalita, kulturní hodnota, veřejný prostor či občanská odpovědnost se stávají druhotnými, protože nepřispívají k udržení uživatele na obrazovce a pro algoritmus jsou neměřitelné, tudíž irelevantní. A právě zde se otevírá jedna z nejdůležitějších otázek současné informační společnosti: zda dokážeme navrhovat digitální systémy, jejichž optimalizační funkce nebude pouze maximalizovat pozornost masy skrze kvantitu komunikace, ale dokážeme regulovat kvalitu veřejné komunikace, která povede k porozumění mezi aktéry a k dlouhodobému společenskému prospěchu. Systém vzdělávání se svými tradicemi a zkušenostmi by tomu měl napomoci na prvním místě.
Zdroj:
https://proceedings.neurips.cc/paper_files/paper/2017/file/3f5ee243547dee91fbd053c1c4a845aa-Paper.pdf
