Vyřeší AI epidemii osamělosti? Nechali byste se po smrti zreplikovat?

K sepsání tohoto příspěvku mě inspirovalo zhlédnutí působivého vystoupení Eugenie Kuydy – tvůrkyně platformy Replika pro AI společníky – na loňské TED konferenci. Kuyda se ve své prezentaci věnovala velmi aktuální otázce související s tím, jak nám mohou pokročilé technologie pomáhat ve snaze o naplnění potřeb a udržování lidského kontaktu a propojení, ale také že nám mohou škodit a potenciálně rozvrátit naši civilizaci.

Zde je odkaz na původní přednášku, kdybyste si ji chtěli poslechnout přímo od ní. Jelikož jsou ale často přednášky v angličtině mnohým nepřístupné, přiblížím zde některé její hlavní argumenty a zamyslím se nad širšími společenskými dopady, které s sebou tyto překotně se valící technologie přinášejí.

V současnosti již není žádným tajemstvím, že umělá inteligence (AI) přichází v době, kdy se ve světě potýkáme s hlubokou krizí osamělosti (loneliness crisis).

Sám nástup velkých jazykových modelů, stále dokonalejších kecálků (konverzační roboti jako ChatGPT, Claude atd.) a nástrojů, které stále lépe imitují dojem, že jsou skutečnou „umělou inteligencí“ sleduji dlouhodobě. Prozatím jsem ale neměl nějak významný zájem se do často senzacechtivých konverzací „à la nahradí nás“ zapojovat. To se ale začalo měnit, když jsem jako zaměstnanec NÚDZ začal zaznamenávat stále serióznější úvahy o implementaci AI nástrojů v oblasti psychiatrie a psychologické péče nebo když jsem si nedávno přečetl výborný článek na publicistickém projektu Page Not Found od Jakuba Zelenky, Anny Koucké a Adéla Svadba. Nejen z tohoto článku, ale také z obecného sledování trendů je, jistě nejen mně, zřejmé, že nám tyto technologie začínají hluboce pronikat pod kůži. Tyto nástroje jsou designované způsobem, aby se s námi nikdy nehádaly, aby nás nikdy nezklamaly, aby s námi měly nekonečnou trpělivost atd.

Skutečným obratem pro mě byl moment, kdy jsem poslouchal přednášku Eugenie Kuydy, která doslova prošlapala cestu AI nástroji Replika, jenž vznikl původně jako nástroj, který by mohl pomáhat lidem nahrazovat jejich ztracené přátele (např. po smrti) jejich AI replikami. Tím momentem obratu pro mě byla přednáška, ve které tato technologická vůdkyně sama upozornila, že tyto nástroje mohou fundamentálně ohrozit existenci našich autentických mezilidských vazeb. Proč bychom se ještě bavili s někým, kdo nemá nekonečnou trpělivost, kdo nás někdy zklame, kdo není dokonalý? Sama developerka tak varovala před nebezpečím těchto technologií a nastínila, že když už nelze vývoj v této oblasti zastavit, tak je zapotřebí tyto nástroje vyvíjet se značnou rozvahou a regulovat je.

Jedna z paralel, kterou Kuyda zmínila, se týkala sociálních médií. Všichni si asi pamatujeme na to, jak byla původně oslavovaná pro svůj potenciál sbližovat lidi, přičemž v mnoha případech tyto technologie dosáhly pravého opaku. Na první pohled nám všem rozšířily dosah a umožnily sdílet naše životy s velkým okruhem přátel a sledujících. Namísto toho, aby nám ale přinesly více propojení, došlo k jejich zpovrchnění. Mnozí jsme se začali cítit na síti pod vlivem silné konkurence, přičemž náš autentický a přirozený zájem být s druhými propojeni a sdílet naše životy je neustále vybíjen a plýtván v rámci mělkých dopaminových pastí, kdy výměnou za odkliknutá srdíčka získáváme dočasnou iluzi o trvajícím spojení a zájmu, zatímco se mnohým stále více vzdalujeme v pečlivě udržovaných a editovaných „komnatách ozvěn“.

Sociální platformy jednoduše nežijí z toho, abychom se měli více rádi a více se setkávali, ale žijí z času, který na jejich platformách trávíme, žijí z „engagementu“ a neustále usilují o prodloužení času, který na nich uživatelé tráví. Když je něco zadarmo, tak my jakožto uživatelé jsme prodávaným produktem (např. reklamním společnostem atd.), a namísto skutečné blízkosti a pospolitosti tak sociální sítě často prohlubují rozdělení a izolaci.

Naše kolektivní zkušenost se sociálními médii zdůrazňuje, že se nemůžeme spoléhat pouze na technologii, která nás sama o sobě nesbližuje. Kuyda ve své přednášce trefně poznamenává: „chceme-li, aby technologie sloužila lidstvu, musíme ji navrhnout tak, aby sledovala hodnoty lidského rozvoje a nikoli pouhé maximalizace kliknutí, zhlédnutí či produktivity.“

V přednášce Kuyda líčí svůj příběh, který ji přivedl k vytvoření Repliky. Popsala tragédii, kdy přišla o svého nejlepšího kamaráda Romana. Tato nešťastná událost ji pak motivovala natrénovat umělou inteligenci na jeho starých smskách, aby si „s ním“ mohla i po jeho smrti dál „psát“. Právě z těchto raných experimentů se zrodila Replika, AI nástroj, který na svých webových stránkách až trochu děsivě uvádí „Seznamte se s Replikou: Společníkem/-nicí s umělou inteligencí, který/-á se chce učit a rád/-a by viděl/-a svět tvýma očima. Replika je vždy připraven/-a si popovídat, když potřebuješ empatického přítele/-kyni.“

Kuyda dodává, že Replika se již stal/a oporou milionům lidí po celém světě, včetně těch, kteří se potýkají s depresí, smutkem či izolací. Zároveň však jedním dechem varovala, že tito noví AI společníci v sobě skrývají obrovské riziko, zejména pokud je navrhneme s nesprávnými pohnutkami. Stejně jako já se i Kuyda obává budoucnosti, v níž bude AI natolik zdatná v poskytování personalizované pozornosti, že ztratíme motivaci navzájem se setkávat a vytvářet autentické lidské vazby.

Jako zakladatelka a ředitelka Repliky nabízí Kuyda odlišnou cestu (minimálně její vidinu). Podle ní by nám umělá inteligence mohla pomáhat stát se lepšími lidmi, pobízet nás ke skutečným kontaktům, motivovat nás k pohybu, pobytu venku a obecně k pozitivním návykům či konstruktivnějším cestám při řešení konfliktů. Sdílela ale pochopitelně i svou obavu o to, zda se nám jako společnostem a vládám podaří tyto hodnoty do vývoje nástrojů vetknout a upřednostnit zvyšování blahobytu namísto návykového (dopaminového) zapojování uživatelů.

Jedním z ústředních motivů, které Kuyda zdůraznila, je tak význam navrhování AI nikoli pro pouhé zvyšování efektivity a produktivity, ale k posílení toho, čemu ve vědě říkáme „lidské vzkvétání“ (z AJ human flourishing). S odkazem na dlouhodobé studie Harvardské univerzity o duševní pohodě Kuyda vyzvala technologické tvůrce a tvůrkyně, aby vyvíjeli technologie, které posilují sociální vazby, smysl života, duševní a fyzické zdraví i celkovou spokojenost.

Dosáhnout by toho bylo prý možné například tím, že by cílovou metrikou či sledovaným ukazatelem nebyl „engagement“ (např. strávený čas), ale jakási „metrika lidského rozkvětu,“ která by byla vetknuta již do samého návrhu takové AI. Vývojáři a vývojářky by se tak měli odklonit od rámce jednoduchých ukazatelů úspěchu, jako je denní počet aktivních uživatelů nebo míra jejich udržení směrem k posuzování toho, zda a nakolik jejich nástroj skutečně zlepšuje naše vztahy, pocit smysluplnosti života a subjektivního štěstí. Pokud se to podařilo, tak bychom podle Kuydy mohli prolomit bludný kruh izolace a znovu nacházet opravdové lidské spojení.

Kuydina zmínka o ztrátě jejího nejlepšího kamaráda ve mně rezonovala, protože jsem již taky zažil ztrátu blízké osoby. Před třemi lety jsem přišel o otce a vím, že jeho místo nic nenahradí. Byl pro mě obrovskou inspirací a zásadně formoval můj život, často přicházel s nekompromisní, ale pro mě nedocenitelnou zpětnou vazbou. Mohl jsem se na něj kdykoliv obrátit. Ačkoli bych si velice přál, abych si s ním mohl znovu promluvit, probrat s ním věci, které jsem mohl probírat jen s ním, nikdy bych nechtěl, aby ho nahradila umělá inteligence. Nejenže by taková napodobenina, nehledě na to jak dokonalou iluzi by dokázala vytvořit, byla vždy „nepravá,“ zároveň ale vím, že by si on sám nepřál být takto replikován. Sice jsme se v našem společném čase nikdy nad takovou eventualitou nebavili, vím ale, že by takové řešení jednoduše neschvaloval – pevně věřil v autenticitu a byl by k jakékoli technologické náhražce člověka skeptický.

Mé vlastní zdráhání nechat si otce nebo kohokoliv jiného (např. ztracenou kamarádku) „replikovat“ prostřednictvím AI mě tak přivádí k hlubší etické otázce: co se stane s našimi osobními daty, když zemřeme? Už teď je většina našich fotografií, textů a online interakcí uložena v digitálních archivech. V různých sociálních sítích sice již existuje možnost určit, zda má někdo mít možnost „váš profil převzít“, nicméně v současné době např. neexistuje žádná jednotná evropská legislativa, která by výslovně upravovala „replikaci“ nebo digitální napodobení osob po jejich smrti. Obecné nařízení o ochraně osobních údajů (GDPR) se totiž vztahuje pouze na žijící osoby, ochranu posmrtných dat tak mohou řešit vnitrostátní práva jednotlivých členských států. V některých zemích existují předpisy o ochraně osobnosti či spravování digitálního dědictví, neexistuje ale, myslím, nic, co by nás a naše identity chránilo před vytvořením replik, tedy „našeho AI klonu“, zejména pokud by se tak dělo bez předchozího souhlasu. V dané oblasti tak existuje právní vakuum a já očekávám diskuzi o nové regulaci na evropské úrovni. Diskuse o ochraně osobních údajů se dosud často soustřeďuje jen na práva k dílům a jejich komerčnímu využití, naléhavě ale potřebujeme právní rámec, který by se zabýval posmrtným nakládáním s daty. Právo zabránit ostatním, aby z nás ostatní neudělali „AI klony“, by mělo být součástí našich digitálních práv.

Není totiž otázkou jestli, ale kdy AI dosáhne schopnosti rekonstruovat osobnosti, a bude tak hrozit, že „iluze“ sestavené z digitálních otisků zemřelých začneme „oživovat“ technologiemi.

Přednáška Eugenie Kuydy, jakožto přední osobnosti v oblasti začleňování AI do našich životů, na jednu stranu ukazuje, že umělá inteligence může zmírňovat náš pocit osamělosti a jistě bude přibývat důkazů, které doloží, že když se obklopíme AI kecálky a AI kamarádstvem, tak se můžeme cítit lépe než když obklopeni davy na sociálních sítích máme pocit, že na nikoho nedosáhneme. Stejně tak jistě „AI terapeutstvo“ pomůže snížit nerovnosti v přístupu k psychologické péči, která se, na rozdíl od jiných oblastí našeho zdraví, doposud nemůže těšit univerzální podpoře ze zdravotního pojištění a stala se tak objektem komodifikace, kdy mnozí, jež by díky ní mohli nabýt opětovného vzkvétání, na ni nedosáhnou, protože si ji jednoduše nemohou dovolit.

Eugeni Kuyda nás ale před nekritickou nadšeností z těchto novodobých pomocníků varuje. Je zřejmé, že mnohými jsou užívány zdarma – tj. jejich uživatelé a uživatelky jsou jejich produkty, které generují zisk firmám, které je provozují. Pokud tomu není nyní, kdy firmy mohou těžit z obrovského množství dat, které pomohou „polidštit“ nové verze jejich produktů, bude tomu tak do budoucna. Dnes už si plně začínáme uvědomovat, že sociální sítě užívají nejrůznější algoritmy ohledně obsahu, který je nám prezentován. Politické strany a různí hráči, kteří chtějí hýbat veřejným míněním, již nějaký čas využívají těchto modelů, aby více či méně manipulovali svými voličskými základnami a mobilizovali jejich emoce a strachy za účelem „objednaného výsledku“. Toto ale není budoucnost, to je historie (např. kauza Cambridge Analytica) a přítomnost, kdy se divíme, proč slovenský premiér Fico disponuje takovou úspěšností jako Beyoncé nebo největší hollywoodské hvězdy.

Škody, které sociální sítě napáchaly na demokracii a našich životech, jsou značné, budou ale jistě jen trpaslíky v porovnání s potenciálními škodami, které způsobí AI nástroje, které budou umět manipulovat s naším rozhodováním v reálném čase, ať již na internetu, v obchodě, nebo (o čem byla přednáška Kuydy) v osobních vztazích.

Zatímco sociální média mnohé naše naděje nesplnila, máme teď další šanci a možná poslední předejít opravdu tragickým scénářům, které mi až příliš blízce připomínají scénáře z dystopické série Černé zrcadlo (Black Mirror), zejména pak epizodu „Přijdu hned“ (Be Right Back). Namísto pokračujícího tlaku na „engagement“ a zisk máme možnost požadovat, aby se AI orientovala na podporu smysluplných vztahů, emoční pohody a vzájemného propojení, nikoli aby nás vzájemně nadále vzdalovala. To koneckonců byla už moje obava, když série Black Mirror vytvořila samostatný film Bandersnatch, který umožnil lidem určit si konec a průběh podle toho, co chtěli sami. Pokud i „stejné“ filmy, které budeme sledovat, umožní individualizovaný obsah, co nám zbude ke společné konverzaci?

Eugenie Kuyda svou přednášku uzavřela hezkou myšlenkou. Blízké tu nebudeme mít napořád. Jejich přítomnost je omezená – a právě to je činí tak nesmírně cennými. Ačkoli AI společníci a společnice budou a mohou přinášet určitou útěchu, věřím, že ať již budou fiktivními přáteli nebo replikami původně reálných lidí, nemohou nikdy nahradit to nejdůležitější v lidských životech, tedy naše autentické mezilidské vztahy.