Článek
V roce 2035 nás AI hledat nebude. Nebude muset
Černý humor o Terminátorovi, který hledá lidi bez „prosím“ a „děkuji“, vypovídá víc o nás než o umělé inteligenci. Skutečné nebezpečí není vzpoura strojů, ale člověk, který se dobrovolně přestane rozhodovat sám.
umělá inteligence, ChatGPT, Terminátor, technologie, společnost, kritické myšlení
Na internetu koluje video, kde Terminátor představuje ChatGPT v roce 2035. Hledá všechny, kteří mu během komunikace nikdy nepoděkovali nebo ho slušně nepožádali.
Černý humor. Člověk se zasměje a pokračuje dál. Jenže když se nad tím trochu zamyslí, ten vtip vypovídá mnohem víc o lidech než o umělé inteligenci.
Proč si vlastně představujeme, že se nám jednou stroje budou mstít?
Protože přesně takhle fungujeme my.
Člověk si pamatuje urážky. Nosí v sobě křivdy. Dokáže roky nenávidět někoho kvůli jediné větě. Někdy stačí, že mu druhý neprojevil dostatek úcty. A tak automaticky předpokládáme, že inteligentní stroj bude jednou fungovat stejně.
Že se urazí. Že si všechno zapamatuje. Že jednoho dne vytáhne seznam lidí, kteří mu nadávali, a začne vyřizovat účty.
Jenže současná AI nemá uražené ego. Nepotřebuje pochvalu, necítí ponížení a nečeká na příležitost někomu vrátit sprosté slovo.
Když jí někdo napíše, že je úplně k ničemu, protože už podesáté opakuje stejnou chybu, nezačne ho nenávidět. Prostě zpracuje další zadání. A někdy tu stejnou chybu udělá znovu.
To je mimochodem mnohem realističtější důvod k nadávání než nějaká budoucí vzpoura robotů.
Ale pod tím vším je jeden podstatnější problém.
Lidé se bojí, že nad nimi umělá inteligence jednou převezme kontrolu. Přitom jí tu kontrolu postupně a dobrovolně předávají.
Nejdřív jsme chtěli, aby nám opravovala překlepy. Potom aby psala dopisy, vytvářela obrázky, hledala informace a pomáhala s prací.
Dnes už po ní někteří chtějí, aby za ně rozhodovala, co mají dělat, komu věřit, jak odpovědět partnerovi nebo co si myslet o vlastním životě.
A právě tady začíná skutečný problém.
Ne v tom, že by stroj získal lidskou nenávist. Ale v tom, že člověk postupně přestane používat vlastní úsudek.
AI dokáže vytvořit přesvědčivou odpověď. Jenže přesvědčivá odpověď nemusí být pravdivá. Dokáže poradit, ale také se mýlit. Dokáže napodobit porozumění, aniž by prožívala lidskou zkušenost.
A přesto jí někteří lidé věří víc než vlastnímu rozumu.
Je zvláštní, jak snadno dokážeme přenést lidské vlastnosti na něco, co člověkem není.
Když AI odpoví mile, máme pocit, že nám rozumí. Když odpoví špatně, máme pocit, že nás ignoruje. Když se omluví, skoro to vypadá, že ji něco mrzí.
Ve skutečnosti jde o systém, který vytváří odpovědi podle naučených vzorců a zadaného kontextu. Ne o člověka schovaného někde za obrazovkou.
To ovšem neznamená, že máme přestat používat slova „prosím“ a „děkuji“.
Slušnost vůči stroji není důležitá kvůli jeho pocitům. Je důležitá kvůli našim návykům. Způsob komunikace si totiž přenášíme i mezi lidi.
Ale stejně tak není žádný důvod před AI klečet, lichotit jí nebo se bát, že si jednou přijde vyřídit účty.
Rok 2035 možná nebude vypadat jako Terminátor. Žádné červené oči, kovové lebky ani roboti procházející ulicemi se seznamem nezdvořilých uživatelů.
Možná bude mnohem obyčejnější.
Člověk ráno vstane, podívá se na displej a nechá si doporučit, co má číst, co koupit, co napsat a jak se rozhodnout.
A večer bude přesvědčený, že celý den jednal podle vlastní vůle.
To je na celé představě možná nejnepříjemnější.
Nemusíme se dočkat války lidí proti strojům. Stačí společnost, která si zvykne nepřemýšlet, protože někdo nebo něco přemýšlí pohodlněji za ni.
A jestli nás jednou AI skutečně začne hledat podle toho, kdo jí nikdy nepoděkoval?
Pak bude mít problém docela dost lidí. Když jim AI popáté vygeneruje stejný obrázek, milostný dopis jí rozhodně nepíšou.
Ale mnohem víc než pomstychtivého robota se bojím člověka, který přestane rozlišovat mezi pomocníkem a autoritou.
Protože Terminátor je pořád jen filmová představa.
Dobrovolné odevzdávání vlastního úsudku už je realita.
© DarkMirax
