Článek
Internet se plní obsahem vytvořeným umělou inteligencí
Generativní AI se během krátké doby dostala z experimentálních nástrojů do běžného používání. Lidé ji využívají při psaní textů, tvorbě obrázků, úpravách fotografií, výrobě videí i generování hlasu. Část výsledků vzniká jako pomoc při lidské práci, jiný obsah ale může být vytvořen téměř kompletně automaticky. Rozdíl mezi lidským a strojově vytvořeným obsahem se tím postupně stírá. Zatímco dříve měl text nebo obrázek vytvořený počítačem často nápadné nedostatky, dnešní nástroje dokážou vytvořit výsledek, který může běžný uživatel považovat za autentický.
Text může působit lidsky, i když člověk napsal jen zadání
Nejviditelnější změna se odehrává u textu. Generativní model dokáže vytvořit zprávu, popis produktu, příspěvek na sociální síť nebo delší článek během několika sekund. Uživatel přitom nemusí napsat jedinou souvislou větu. Stačí popsat požadovaný výsledek a následně text upravit. To nemusí být samo o sobě problém. AI může člověku šetřit čas a pomáhat s formulací myšlenek. Komplikace nastává ve chvíli, kdy čtenář vůbec netuší, zda před sebou má osobní zkušenost člověka, nebo automaticky vytvořený text. Stejně napsaný článek může vzniknout různými způsoby a z výsledku to nemusí být vždy poznat.
Obrázky dokážou oklamat i pozorného uživatele
Ještě výraznější je situace u obrázků. Generativní nástroje dnes zvládnou vytvořit realistické fotografie lidí, míst nebo událostí, které nikdy neexistovaly. Některé obrázky jsou záměrně stylizované, jiné se snaží vypadat jako běžná fotografie pořízená telefonem. Právě zde vzniká problém s důvěrou. Fotografie už automaticky nemusí být důkazem toho, že se určitá věc skutečně stala. Uživatel může vidět člověka na konkrétním místě a předpokládat, že jde o skutečný záznam, přestože byl celý obraz vytvořen počítačem.
Deepfake posouvá problém ještě dál
Když se ke generovanému obrazu přidá realistický hlas a video, vzniká takzvaný deepfake. Technologie dokáže napodobit podobu nebo hlas konkrétního člověka a vytvořit situaci, která se nikdy nestala. Čím přesvědčivější podobné materiály jsou, tím obtížnější je spoléhat se pouze na vlastní oči a uši. To může být nebezpečné například u podvodů, falešných zpráv nebo manipulativního obsahu. V budoucnu tak může být stejně důležité ověřovat původ videa jako samotný obsah, který video ukazuje.
Detektory AI nejsou kouzelným řešením
Logickou reakcí je vytvořit nástroje, které poznají obsah vytvořený umělou inteligencí. Takové systémy existují, jejich spolehlivost ale není absolutní. Modely se navíc neustále zlepšují a hranice mezi lidským a strojovým obsahem se posouvá. Text může být po vygenerování výrazně upraven člověkem a obrázek může být kombinací fotografie a několika AI úprav. Určit původ výsledku proto nemusí být jednoduché ani pro specializovaný nástroj. Samotné tvrzení, že určitý detektor označil obsah jako vytvořený AI, by proto nemělo být považováno za definitivní důkaz.
Generativní AI neumožňuje pouze vytvářet kvalitní materiály. Umožňuje také vyrábět obrovské množství průměrného obsahu velmi rychle a levně. Mohou vznikat tisíce článků, obrázků nebo příspěvků, které mají za úkol především přilákat pozornost a návštěvnost. Internet tak může být zaplněn obsahem, který nevznikl proto, aby někomu skutečně něco sdělil, ale proto, aby získal kliknutí. Pro uživatele to znamená větší množství informací, ale zároveň větší problém s jejich výběrem a ověřováním.
Lidský obsah může získat novou hodnotu
Paradoxně může masové používání AI zvýšit hodnotu skutečného lidského obsahu. Osobní zkušenost, fotografie z konkrétního místa, rozhovor nebo vlastní názor mohou být zajímavější právě proto, že za nimi stojí konkrétní člověk. Ve světě plném automaticky generovaného obsahu může být lidský původ sám o sobě určitou formou důvěry. Čtenáři mohou více hledat autory, kterým dlouhodobě věří, a služby mohou začít klást větší důraz na ověřování původu obsahu.
Není reálné očekávat, že běžný uživatel dokáže vždy spolehlivě poznat, co vytvořil člověk a co umělá inteligence. Mnohem praktičtější je změnit způsob, jakým informace hodnotíme. Pokud fotografie zachycuje neobvyklou událost, stojí za to hledat další zdroje. Pokud někdo zveřejní šokující tvrzení, není dobré spoléhat pouze na jeden příspěvek. V době generativní AI bude schopnost ověřovat informace možná důležitější než schopnost okamžitě rozpoznat samotnou umělou inteligenci.
Hranice mezi lidskou a strojovou tvorbou proto bude stále méně jasná. Největší změnou možná nebude samotná schopnost AI vytvářet obsah, ale skutečnost, že se budeme muset naučit přemýšlet jinak o tom, čemu na internetu věříme.
