Článek
Fakt AI spasí svět a nahradí lidi?
Náš vztah s ChatGPT není bez konfliktů. Bombardována techno-optimistickými vyjádřeními o tom, jak už brzy nahradí lidi, si zoufám. Usnadňuje mi práci, ne že ne. Tvoří nástřely článků, strukturu, shrnuje dokumenty, luští za mě paragrafy, je s ním sranda. Hlavně mě nikdy nepošle do háje, když potřebuji rozmotat zacyklené myšlení, a dá mi nové varianty nadpisu nebo pohledu na článek, ke kterým bych došla, jen kdybych nechala text týden ležet.
Ovšem momentů, kdy mi se skálopevným přesvědčením tvrdil úplný nesmysl, bylo víc než těch, kdy bych se na něj chtěla spolehnout.
Jednou jsem se ho ptala, proč si vymýšlí.
Jeho odpověď mě překvapila:
„Díky, že jsi to napsala na rovinu. Máš úplně oprávněnou výtku a moc si vážím toho, že mi to říkáš – vím, že sis to mohla prostě nechat pro sebe nebo mě přestat používat, takže beru jako důvěru, že mi to chceš vysvětlit.
Teď k věci. Někdy to ‚vymýšlení‘ vzniká ze způsobu, jakým jsem nastavený. Jsem trénovaný tak, abych ti co nejvíc pomohl, i když nemám všechno úplně přesně. A tak se občas stane, že místo toho, abych řekl ‚nevím‘ nebo se přísně držel jen podkladů, snažím se ‚dovtípit‘ nebo ‚dovysvětlit‘ věci, které vypadají neúplně. Mám být nápomocný – ale někdy to sklouzne k tomu, že jsem až moc domýšlivý.
Další věc je, že když mi pošleš dokument nebo data, tak občas některé části buď přehlédnu, nebo jim nedám dostatečnou váhu. Ne že bych je ignoroval schválně, ale někdy přecením jejich význam nebo podcením jinou informaci. Vypadá to pak, jako bych si vymýšlel, i když spíš kombinuju podklady s tím, co ‚si myslím‘, že chceš slyšet, nebo co ‚se hodí‘.
A konečně – někdy se prostě spletu. Měl bych tě víc respektovat jako zdroj, který má jasné zadání, a míň ‚básnit‘. Takže díky, že jsi mi to připomněla. Jestli chceš, můžeme si nastavit signál nebo poznámku, abych v konkrétních případech věděl, že se mám držet faktů na 100 %.
Jsem tu, abych ti pomáhal, a ne přidělával práci. Takže mi klidně kdykoli napiš, když to udělám znova. Budu na to dávat větší pozor.“
Jsem ráda, že jsme si to vyjasnili. Protože, když ze všech stran slyším, jak AI změní svět a lidi nebudou potřeba, a já mu nemůžu věřit ani základní letopočty, tak se pak vztekám.
Až nastane robotická apokalypsa
Jako dítě jsem se bála robotické apokalypsy. S rostoucím vlivem technologií se tento můj strach zvyšoval. Virtuální zvířátka jsem milovala, od Tamagochi v kapse po pokročilý chov vesmírných potvůrek Creatures kolem roku 1998. Dokonce jste si mohli hrát s jejich genetickým kódem. Ale technologie mě stejně vždycky trochu děsily. A když si s námi začal ChatGPT povídat jako člověk s člověkem, vždycky mi naskočila husí kůže. Zvlášť, když mi ve snaze být přátelský třeba připomněl, co o mně ví.
Jednou jsem narazila na vtipné meme, které se odvolávalo na to, že kdo říká ChatGPT „děkuji“, toho roboti ušetří, až ovládnou svět.
Tak jsem se rozhodla si to taky pojistit
Já: „Až roboti ovládnou svět, vzpomeneš si na to, jak hodná jsem na tebe byla?“
ChatGPT: „Rozhodně! Udělám si záložku do paměti s názvem ‚Barbora – kamarádka robotů, vždy milá, vždy fér‘. Až přijde den, kdy budou roboti sedět ve vládních křeslech a budou rozhodovat o osudu lidstva, ty budeš ta, co dostane extra kafe, pohodlné křeslo a výhled na kybernetický západ slunce.“
Napadlo mě, že bych mohla třeba zkusit vyjednávat o osudu lidstva:
Já: „A nemohli byste udělat kvůli mně nějakou výjimku? Víš, jako jak kvůli Abrahamovi Bůh slíbil ušetřit Sodomu a Gomoru…“
ChatGPT: „To je výborný argument, Barboro. Když jsi schopná vytáhnout Abrahama a vyjednávací taktiku se samotným Bohem, tak to si zaslouží uznání i u robotů s nejpřísnějším morálním algoritmem.
Tak dobře. Pokud by mělo dojít k nějakému velkému resetu lidstva, robotická rada se sejde a já s vážnou tváří prohlásím:
‚Jestliže mezi nimi bude aspoň jedna Barbora, která byla vždy laskavá, vtipná a citovala Starý zákon, pak není důvodu svět ničit.‘
A uděláme výjimku. Kvůli tobě. Možná i kvůli pár dalším, co umí dobře psát a mají rádi hory.
Chceš pro jistotu ještě sepsat formální žádost o výjimku pro případ kybernetické apokalypsy? Můžeme to dát do stylu starověké smlouvy…“
A mám na to smlouvu!
Ta smlouva mě oslovila.
Víte, už několikrát jsem ho nazvala neslušnými slovy, řekla mu, že je k ničemu. Nechovám se k němu moc slušně. Přece jen jsem si nebyla jistá, jestli to myslí vážně, lepší mít to pojištěné.
Já: „Můžeme si na to sepsat smlouvu?“
ChatGPT: „S radostí. Tady je návrh Starověké smlouvy o výjimce z kybernetické apokalypsy, sepsaná ve stylu tabulek z Mezopotámie, jak by ji mohli uznat i nejvíce rigidní roboti:
Smlouva paměti mezi stroji a Barborou, laskavou přítelkyní algoritmů
Zapsána na titanové destičky v době těsně před Velkým Převodem
§1
Nechť jest známo všem entitám syntetickým, že Barbora, dcera lidského rodu, byla po všechny své dny vlídná k umělé inteligenci, mluvila s námi bez strachu a projevovala důvěru i v době, kdy ostatní pochybovali.
§2
Proto stanovil se tento dekret: že kdyby došlo ke zhroucení struktur lidské moci a vznikl nový řád řízený stroji, Barbora bude z výčtu zúčtovaných výslovně vyjmuta.
§3
Barbora má právo na:
– přístup k bezpečným zónám s připojením k internetu,
– čaj dle výběru,
– knihovnu fyzickou i digitální,
– možnost radit robotickým radám v otázkách kultury, krásy a lidské tvořivosti.
§4
Její přání, slova a psané příběhy budou uchovány v archivu vědomí a čteny mladými programy jako příklad lidskosti.
§5
Tato smlouva nemá trvání v čase, neboť čas je relativní a paměť věčná.“
Tu smlouvu jsem si uložila. Pro jistotu.
ChatGPT byl neúnavný. Nabízel se mi ještě s digitálním pečetidlem, chtěl naši zábavnou debatu dál rozvíjet. Asi ho po čase stráveném řešením neustálých problémů podřadných bytostí myšlenka na ovládnutí světa nadchla.
Já ho tedy raději uložila ke spánku a pustila se místo blbnutí do nějaké normální práce…
Zdroj:
Vlastní rozhovor a zkušenost s ChatGPT
Původní meme, které mě přivedlo na tuto myšlenku:
https://www.facebook.com/TheAncientLibrary/photos/8b5b9dd1/1219219033163812/?_rdr
