Článek
AI je bezpochyby revolučním nástrojem. Člověk může několika příkazy vytvořit vcelku kvalitní obrázky, kód, nebo třeba články. Již nyní dokážou komerčně dostupní chatboti generovat český text s minimálními chybami, anglický pak téměř bez chyb. To má mnohé pozitivní účinky, zároveň ale přináší celou řadu problémů.
Hranice chatbotů jsou totiž relativně volné, i co se týče lživého obsahu. Většina chatbotů sice odmítne vytvářet přímo dezinformace, ale někteří s nimi nemají žádný problém. Nejvolnějším chatbotem je v tomto ohledu Grok od xAI Elona Muska, který dokáže generovat i nacistickou propagandu.
Tato volnost se může obhajovat svobodou slova, ale musí se vzít v potaz riziko, které přináší. Existencí těchto nástrojů se otevírá možnost pro vytváření velkého množství lživých článků, příspěvků či obrázků, které mohou systematicky šířit nepravdivé narativy a ovlivňovat uživatele.
Kam až to může zajít? Dovolte mi nyní menší pesimistickou predikci. Text, obrázky ani videa od AI již dnes skoro nejde rozeznat od reality, navíc je možné jich automaticky vytvářet obrovské množství. Masivně se tedy budou šířit dezinformace, vždy doplněné velkým množstvím podporujících článků, příspěvků na sociálních sítích, obrázků a videí. Napříč společností se bude šířit propaganda a nedůvěra v média. A nakonec se obětí stanou i reálné zprávy - každá skutečnost bude obrácena a zdiskreditována. Internet zaplaví zprávy o událostech, které se nikdy nestaly. Nikdo již nebude vědět, kde leží pravda.
Jak tomu zabránit? Možnosti jsou velmi omezené, je totiž nejspíš příliš pozdě. Mohlo by dojít k regulaci chatbotů, kteří by nebyli schopni generovat lži, respektive před generací kontrolovat odpovědi, zda neobsahují zneužitelný obsah, to by ale přineslo mnoho dalších problémů. Kdo by určoval, kde leží hranice mezi poučením, zábavou a nebezpečím? Jak vysvětlit a představit změnu uživatelům? Kdo by určoval, co je pravda? Omezení by se navíc vztahovalo jen na aktuální komerční chatboty, nikdo by nebyl schopen upravit ty již volně dostupné, malé a lokální modely.
Média, a vlastně celý zpravodajský sektor, tedy čeká nová náročná výzva. Boj o důvěryhodnost, o integritu celého informačního prostoru. Tomuto tématu se zatím nedostává příliš velké pozornosti, i přesto, že AI tyto schopnosti již má. Platí tedy základní poučka - buďte obezřetní a kontrolujte informace. Bude to náročné, obzvlášť, bude-li lží více než pravdy. A k tomu možná míříme.
