AI bude stále více přetvářet náš lidský svět a fungování společnosti

K palčivým otázkám naší přítomnosti, jako jsou zánik zastupitelské demokracie, úpadek biodiverzity nebo existenciální izolace, tato dokumentární esej přistupuje z pozice umělé inteligence, která vlastními nástroji dešifruje „fosilní“ filmový materiál, pozůstatky zaniklé lidské civilizace. Chatbot snažící se interpretovat vzdálenou historii vede dialog s digitálním avatarem režisérky Viery Čákanyové, zastupující myslící biologické bytosti. Po filmu FREM, natočeném z hlediska posthumánní entity, a intimním, introspektivním filmovém deníku Bílá na bílé, představují Poznámky pozoruhodné završení trilogie, která si na nejzákladnější úrovni klade otázku, co z nás nyní, v době, kdy vývoj AI postupuje mnohonásobně rychleji než vývoj společnosti, dělá lidi.

Poznámky z Eremocénu jsou prezentovány jako závěrečný díl postlidské trilogie zabývající se představami možné budoucnosti civilizace. Věděla jste od začátku, že chcete téma rozložit do tří filmů a že po sobě budou následovat v tomto pořadí, nebo se to stalo z nějakého jiného důvodu?

Z důvodu špatného plánování. Měl to být jeden film, ten první, který vznikl – FREM. Z něj se ale v procesu tvorby stal konceptuální tvar, zpřítomňující jen pohled nějaké nelidské entity nebo umělé inteligence v těle dronu. FREM začíná krátkým osobním intrem natočeným na filmový materiál. Poznámky z Eremocénu, které k analogu odkazují mnohem víc, jsou vlastně rozšířením toho intra. Druhý film, Bílá na bílé, zas vznikl spontánně z materiálů natočených na Antarktidě, nebyl předem plánovaný jako samostatné dílo. Narativ trilogie vznikl částečně z marketingových důvodů. Nebylo to od začátku takto vymyšlené, a tím pádem ani to pořadí není nijak striktně dané.

Na pořadí jsem se ptal i proto, že si dokážu představit i jinou posloupnost. Například v Poznámkách v jednu chvíli mimo obraz mluvíte, respektive vaše filmové alter ego mluví o pocitu, že nepatříte do této doby a zamýšlíte odplout na Antarktidu, kde se odehrávají předchozí dva filmy. A takových podobností a souvislostí, vedoucích nás k vytvoření určitého narativu, je mezi jednotlivými filmy víc.

Ano, i proto bych nebyla nějak dogmatická v tom, jaké pořadí je správné. Každý si může zvolit takové, jaké sám bude chtít. Ty filmy by měly fungovat samostatně, není nutné, aby člověk viděl nejdříve FREM a Bílou na bílé, aby se pak mohl podívat na Poznámky z Eremocénu. Vlastně může být zajímavé, jak a co si z toho různí lidé poskládají a jak nad tím přemýšlejí na základě pořadí, ve kterém ty filmy viděli, což jsem ale zatím blíž nezkoumala.

Rád bych se vrátil k úplnému počátku, k vývoji a financování. Jak náročné bylo zafinancovat Poznámky z Eremocénu, film, který je výlučný nejen v rámci slovenské kinematografie?

Problém s financováním byl částečně spojen s tím, že to nebylo od začátku plánované jako trilogie. Dělala jsem původně jiný film o tématu blockchainu, který byl podpořen slovenským Audiovizuálným fondem, ale v určité chvíli jsem se rozhodla, že by se mohl stát základem Poznámek z Eremocénu. Už ale existovaly určité produkční podmínky nastavené v smlouvě s Fondem, kterými jsme byli limitováni. Tím pádem jsem to musela udělat v takovém low-budget módu, což bylo v něčem vyčerpávající, protože mnoho funkcí jsem musela zastat sama, hlavně při střihu a celkově v postprodukci, kdy nebylo možné zaplatit další lidi.

Vyžadovalo to tedy z vaší strany nějaké tvůrčí ústupky od původní vize?

Těžko říct. Neexistoval totiž pevně daný scénář. Vedle omezení to přineslo i svobodu. Ve střižně jsem si sama hrála s posbíraným materiálem, a protože jsem si nemohla dovolit nějaké extra „vytuněné“ digitální efekty, nacházela jsem, někdy i dílem náhody, různá lo-fi řešení, která ale jsou ve výsledku zajímavá nebo specifická. Taky jsem byla nucena víc a kreativněji využívat found footage, který jsem v rámci svých jednoduchých možností různě upravovala. Jsou tam například záběry z kosmu vytvořené simulátorem vesmíru, které původně měly sloužit jen jako reference pro finální verzi, ale nakonec ve filmu zůstaly v této podobě. Byl to takový živelný proces.

Poznámky z Eremocénu kromě slovenského Audiovizuálného fondu podpořila i RTVS (Rozhlas a televize Slovenska). Dokážete si představit, že byste podporu těchto institucí získala i za stávající politické situace na Slovensku?

Změny na Slovensku nemíří dobrým směrem. Dochází ke snaze ovládnout veřejnoprávní médium a udělat z něj státní televizi, která bude podřízena ideologickému programu současné vlády. Zatím ale ještě nejsme v bodě, kdy by vše procházelo cenzurou, takže se mi těžko vyhodnocuje, co přesně to bude znamenat pro kinematografii. Témata mého filmu jsou ale univerzálnější nebo abstraktnější než to, na co se zaměřuje a o čem uvažuje současná vláda, nacházejí se mimo její myšlenkový obzor, takže by nemusela tolik „vadit“. Je ale možné, že vadit bude všechno, co nebude prvoplánově oslavovat vlast, propagovat různá takzvaně vlastenecká a národní témata. Myslím, že procházíme fázi transformace. Uvidíme, k čemu povede.

V souvislosti s politikou a volbami mě napadá, že důležitou linií filmu je snaha té umělé entity pochopit určité emoce. Mluví se tam o samotě, nostalgii, depresi, ale také o iracionálním podléhání dezinformacím třeba během voleb. Vnímáte sama lidskou emocionalitu jako něco dvojsečného, co nás na jednu stranu činí jako lidi unikátními, ale co taky může představovat hrozbu pro demokracii?

Určitě, ten film s daným rozporem pracuje, a vidíme to i v každodenním životě. Technooptimisté hledají způsoby, jak využít umělou inteligenci nebo blockchain k dokonalejšímu, od emocí oproštěnému řízení společnosti, kdy bude všechno převedeno na přesné výpočty. Je to pro ně svatý grál, ke kterému se chtějí dostat. Reálně se ale děje spíš opak, kdy se nástroje AI používají k ovládání lidí a jejich emocí. Algoritmy sociálních sítí dokážou velmi přesně rozpoznat, co na nás na nějaké bazální, pudové úrovni funguje, a nabízet takový obsah, aby uživatele uzavřeli do určité „bubliny“ a vmanipulovaly tam, kam potřebují.

Když jsem se připravoval na náš rozhovor a poslouchal debaty s různými, převážně českými odborníky na strojové učení nebo robotiku, překvapilo mě, že AI berou jako něco daného, co se tady prostě najednou objevilo, a téměř vůbec nereflektují, kdo za těmi technologiemi stojí, čí zájmy jsou naplňovány.

Samozřejmě, je důležité klást si otázku, kdo potřebuje, abychom se rozhodovali konkrétním způsobem, protože ty algoritmy zatím nefungují zcela autonomně, jsou za nimi korporace hledící na vlastní zisk. Samotná umělá inteligence je podle mě jenom nástroj, který může být dobrý, nebo zlý na základě toho, kdo jej používá, ale v současnosti kolem sebe vidím spíš ty negativní efekty, různé formy zneužívání toho, že jsme iracionální tvorové.

Slovo eremocén z názvu filmu vychází z úvah amerického biologa a entomologa Edwarda Osbornea Wilsona, který tvrdí, že pokud neopustíme současný životní styl, vstoupíme kvůli vymření jiných forem života do věku samoty. Krom toho ve filmu pracujete s koncepty jako futarchie, DAO (decentralizované autonomní organizace) nebo botomori. Předpokládám, že jste se věnovala četbě vědeckých či filozofických textů. Můžete uvést další autory, autorky nebo třeba i romány, které vás ovlivnily při promýšlení toho, jak by mohla vypadat naše budoucnost?

Třeba sci-fi literaturu vlastně až tolik nečtu. Četla jsem ale hodně populárně-vědeckých i čistě vědeckých článků o fungování umělé inteligence, bitcoinu, blockchainu atd. Pro tu základní ideu filmu byl dost zásadním autorem Ralph Merkle, kterého tam přímo cituju a který přišel s konceptem DAO demokracie, nebo Robin Hanson se svým konceptem „futarchie“, což je vládnutí založené na predikčních trzích. Ale jiné věci jsem si vymyslela. Je tam spousta neologismů vycházejících čistě z mé imaginace, z hry se slovy. Takže je to spíš subjektivní než vědecky podložená vize budoucnosti.

Film kombinuje materiál natočený na 8 a 16 mm s různými digitálními deriváty analogu. Měla jste na začátku nějaké pravidlo, pro které záběry použít který materiál?

Analogové záběry mají být odkazem člověka, který vytvořil svůj testament, zprávou o stavu zanikající civilizace. Jejich autorkou jsem já sama, fyzická osoba z naší současnosti. Pak jsou tam grafický vektorový prostor a vizualizace virtuálního světa, pro kterou jsem využila technologii LiDAR (technologie dálkového průzkumu zemského povrchu využívající k měření laserové pulsy, pozn. red.), protože mi přišlo, že dobře zpřítomňuje onen datový svět, ačkoli v době natáčení její rozhraní ještě nebylo tak dobře uzpůsobené mým záměrům. Ve filmu pak dochází k tomu, že si umělá inteligence přivlastňuje analogový materiál, snaží se jej přečíst, přeložit do svého jazyka, což je vyjádřeno morfingem obrazu a jinými efekty.

Napadá mě, že téma jazyka a překladu také propojuje všechny tři filmy, a že je přítomné i ve vaší předchozí tvorbě, například filmu Olda, deníku paní s Alzheimerovou chorobou. Vždy sledujeme snahu komunikovat navzdory odlišným slovníkům a způsobům dekódování reality. Je to pro vás důležitý motiv?

Rozhodně, jazyk coby nástroj pro popis světa v tom filmu hraje důležitou roli. Bez komunikace je navíc těžko možná nějaká empatie a porozumění. O to se snaží i ta virtuální entita: pochopit svět biologických bytostí, svých předků. Proto se ptá, co znamená deprese nebo osamělost, aby rozklíčovala emoce, které jsou jí cizí. Jakkoli je to možná trochu sci-fi klišé, ta představa o emocionálním chladu, distancovanosti umělé inteligence. Vektorový prostor, který ve filmu vidíme, se využívá k vizualizaci toho, jak uvažuje umělá neuronová síť, když se snaží porozumět přirozenému jazyku. Šlo zároveň o pomůcku, která mi pomohla líp vysvětlit některé pojmy, třeba ty neologismy.

K jazyku se vztahuje ještě jedna „praktická“ rovina Poznámek. Ve filmu mluvím slovensky, což je marginální jazyk, který používá jen pár milionů lidí. Mým záměrem bylo vyjádřit smutek nad tím, že moje řeč nejspíš jednou vymře, protože v globalizovaném světě si vystačíme s angličtinou. Je to takový pokus o rekonstrukci mrtvého jazyka.

V návaznosti na téma umělé inteligence a komunikace mě napadá myšlenka Slavoje Žižeka, podle kterého největší nebezpečí nespočívá v tom, že si lidé začnou chatboty plést se skutečným člověkem, ale v tom, že komunikace s chatboty může způsobit, že sami začneme mluvit jako chatboti: budeme přehlížet nuance a ironii, sdělovat jen holá fakta.

Do nějaké míry se jako lidé asi přizpůsobujeme řeči strojů, dochází ke zploštění a ochuzení jazyka, když místo slov využíváme různé emoji, gify a nálepky. Na druhé straně se umělé jazykové modely rychle vyvíjejí. Třeba můj anglický hlas, který slyšíme ve filmu, je digitálně naklonovaný. Když jsem film před pár lety připravovala, ta technologie ještě nebyla tak dokonalá a umožňovala vyjádřit pouze jednu emoci. Teď už je ale možné zadat, že chcete, aby věty zněly například ironicky, vesele nebo smutně, což dává smysl, protože ty nástroje přece jen vytváříme k imitování a naplňování svých vlastních komunikačních potřeb.

Sama teď experimentuju s umělou inteligencí pro generování obrázků a videí, kde se výsledek odvíjí od přesnosti verbálního zadání, promptu. V jistém ohledu se takhle učím komunikovat s neuronovou sítí, abych jí uměla co nejsrozumitelněji sdělit, co od ní požaduju. Ve skutečnosti jsme to my, kdo se stává otroky technologických nástrojů, kdo se jim musí „přizpůsobovat“, i když se může zdát, že opak je pravdou.

Jak sama vnímáte využívání AI při výrobě filmů? Zaznamenal jsem totiž, že část filmařské obce to rezolutně odmítá z obavy, že když to jednou připustí, třeba i v malém rozsahu, už nebude cesty zpět.

Asi je dobré mít předem vymezené, jak tyto nástroje používat třeba z hlediska autorských práv. Ukazuje se, že některé oblasti tvůrčí činnosti, které se zdály nenapodobitelné, dokážou algoritmy dobře napodobit. Copywriteři budou zřejmě nahraditelní snáz než lidé využívající při práci jemnou motoriku nebo více schopností najednou. V tomto směru postupuje vývoj robotů pomaleji. Co se týče filmu, dokážu si představit, že se AI bude používat k vytváření generického žánrového obsahu se snadno napodobitelnou strukturou. Tam vám stačí určitý mustr. Je otázka, jak to bude fungovat třeba v dokumentárním filmu, kde jedinečnost a autenticita hrají zásadní roli.

Například u dokumentu Vítejte v Čečensku se hodně diskutovalo o využití deepfake technologie k anonymizaci sociálních herců, queer lidí, kteří utekli z Čečenska před perzekucí. Takto jsme se na jejich prožívání mohli napojit snáz, než kdyby měli rozpixelované obličeje. Čili asi bude opět záležet na konkrétním použití a jeho transparentnosti.

Ano, skýtá to různé možnosti. Stejné nástroje lze ale použít k manipulaci s reálným obsahem a šíření propagandy, což se děje stále častěji. Vždy to bude mít více rovin, ale AI určitě postupně promění celé audiovizuální odvětví a budeme se s tím muset naučit kriticky pracovat a vyjasnit si priority. Možná nás umělá inteligence přiměje, abychom si redefinovali, na čem v umění i životě záleží.

Záběry, které ve filmu vidíme, byly pořízeny v různých zemích a různých časech, mimo jiné v USA během festivalu Burning Man, na demonstraci za klima v Německu či na slovenském setkání „kotlebovců“. Natáčela jste je se záměrem, že je použijete v tomto filmu, nebo jde opravdu – jak zazní v mimoobrazovém komentáři – o „hezké náhodné obrázky“, o nichž jste původně nevěděla, k čemu poslouží?

Ta věta o náhodných obrázcích je odkazem na FREM, kde zazní v onom analogovém prologu. Část Poznámek vznikla jako součást produkce FREMu, například scény z Nového Zélandu. Když později vznikl finální koncept Poznámek, ten proces už byl řízenější a vizuální materiál jsem sbírala cíleně. Hodně jsem toho natáčela sama s Bolex kamerou, což nevyžadovalo velký rozpočet.

Co se týče záběrů ukazujících slovenskou politickou scénu, tak to bylo dáno opět iomezeným rozpočtem. Mohla jsem natočit záběry, kde budou ideu populismu a toho, jak dnes funguje zastupitelská demokracie, reprezentovat třeba Trump nebo Bolsonaro, což by asi bylo mezinárodně srozumitelnější, ale takovou možnost jsem neměla. Natáčení navíc probíhalo během covidu, čímž jsem byla limitována. Ale myslím, že ve výsledku je to funkční i s tím lokálním kontextem.

Ještě bych se chtěl vrátit k postprodukci, které už jste se dotkla, konkrétně k práci se zvukem: Jak jste přistupovala k němu?

Bylo třeba vytvořit prakticky celou zvukovou stopu nanovo, od nuly. Velkou zásluhu na tom má sound designer Marek Buranovský. Museli jsme si nějak definovat atmosféry, různé zvukové vrstvy a singulární i repetitivní motivy, které budou odpovídat těm vizuálním.Najít způsob, jak do zvuku „přeložit“ proces „čtení“ záznamu virtuální entitou nebo umělou inteligencí.

Ohledně soundtracku by mě zajímala ještě jedna věc. Když virtuální entita z jukeboxu vybírá náhodnou píseň, jde o skladbu „Higgs Boson Blues“ od Nicka Cavea, která výborně umocňuje nostalgickou atmosféru vyprávění. Protože mám Cavea rád, chtěl jsem se zeptat, proč jste se rozhodla právě pro něj.

Taky ho mám ráda, a do jisté míry je to osobní film, takže to byl jeden z důvodů. Ten song pojednává o elementárních částicích, které vše drží pohromadě, hodil se tam i tematicky. Takže jsem věděla, že ho tam chci mít a obětovat tomu část rozpočtu. Podobně jsem věděla, že na konci filmu chci mít "Boat Song"od Woodkida, protože dobře funguje se scénou odplutí na moře. Tam jsem taky věděla, že potřebuji přesně tuhle skladbu, a taky to nebyla nejlevnější záležitost.

Jak v případě Poznámek z Eremocénu, které z dramaturgického hlediska představují velmi neortodoxní tvar, probíhala spolupráce s dramaturgyní Klárou Tasovskou?

S Klárou se známe dlouho, je to má kamarádka, rozumíme si a oceňuji její otevřenost. Navíc dramaturgovala už FREM a Bílou na bílé. Nejvíc jsme řešily míru srozumitelnosti – nakolik vysvětlovat určité věci pomocí dialogu, který slouží jako vodítko pro diváka. V jisté fázi tam bylo dialogů a vysvětlování mnohem víc. Došlo ale také k opačnému extrému, kdy se ve filmu nevysvětlovalo nic. Existovala i verze bez dialogu, která měla blízko k FREMu, kdy je divák odkázán jen na vlastní představivost. Největší výzvou tak bylo nalezení nějakého kompromisu mezi oběma extrémy. Řešily jsme také pořadí jednotlivých sekvencí a témat, ale když už existoval dialog poskytující základní kostru, šlo převážně o ladění proporcí.

Když se ohlédnete za celou trilogií, máte pocit, že jste se její realizací přiblížila zodpovězení otázek, které stály na samotném začátku procesu?

Šlo mi víc o samotné kladení otázek než o jejich zodpovídání. Pro mě jsou ty filmy o současnosti, o snaze vymezit témata, která teď rezonují a budou rezonovat ještě víc. Umělá inteligence bude stále víc přetvářet náš lidský svět a fungování společnosti. Považuju za důležité umět to reflektovat, ptát se, co to pro společnost bude znamenat.

Plánujete se tímto tématem dál zabývat i ve svých následujících filmech, nebo už je po Poznámkách z Eremocénu považujete za uzavřené?

Myslela jsem si, že je mám prozatím uzavřené, ale teď připravuju film – který měl být původně krátký, ale postupně se rozšiřuje a stává komplexnějším –, v němž používám počítačově generovanou animaci. Takže zase pracuji s neuronovými sítěmi a zase to bude pohled na lidskou činnost z perspektivy budoucnosti. Zároveň je to ale námět vycházející ze zcela konkrétního problému. Jde o ekologickou zátěž v oblasti Bratislavy a okolí, území silně kontaminované průmyslovou činností.