AI změni(la) svět, ale má i obrovská rizika: přežít AI bude velká výzva

Vedlejším produktem bude, že už nebude třeba se učit cizí jazyky a práce učitele cizích jazyků asi bude něco jako práce učitele šermu po příchodu Smith & Wesson.

Další na ráně jsou copywriteři – což moc lidí mrzet nebude, stejně nikdo pořádně neví, co takový copywriter dělá, kromě postávání u kopírky a pití hrnců kafe.

A pak už se to posype – právníci, kritici, germanisté, spisovatelé a básníci, grafici a designéři, profesionální řidiči čehokoliv. V nějaké míře i programátoři, lékaři, manažeři…

To už je pěkná řádka lidí. Ne, nebudu tvrdit, že nakonec všechnu práci bude dělat AI a když lidi nebudou mít co dělat, vypuknou nepokoje a války, a to že je ten velký problém. Není. Stejný počet profesí, který zanikne, asi i vznikne, jen budou mít jinou náplň. Bude to stejně jako kdysi při zavádění manufaktur. Kde tedy vidím ten problém?

Pojďme si to vzít na příkladu.

Vezměme si třeba radiologa. Dnes už AI hodnotí RTG plic statisticky na úrovni nejlepších radiologů. Dnes se ještě tvrdí, že taková síť má fungovat jako kontrolní pro zkušeného radiologa a že zodpovědný za hodnocení je lékař.

Nicméně první riziko (ne tak globální) vidím v lidské lenosti. Pokud radiolog zjistí, že to celkem funguje, začne na to víc a víc spoléhat a nebude to používat jako druhý názor, ale jako první názor a bude podle toho dělat diagnostiku. Je to samozřejmě chyba, na kterou pacient může dost doplatit. Ale i když se to stane, tak to nebude tak časté a navíc i lidský hodnotitel dělá chyby.

Trošku větší problém nastane ve chvíli (a to už se teď děje), kdy se noví radiologové začnou učit hodnotit RTG právě tak, že se budou dívat, jak nález hodnotilo AI, a z toho se budou učit. Tam se potenciální chyba (jako že to hodnotí některý raritní typ nálezů systematicky špatně) může rozdistribuovat mezi spoustu dalších lékařů, kteří se mohou naučit hodnotit špatně. Za tohle může důvěřivost.

Třetím a zdaleka největším problémem je lidská chamtivost. Vyhodnocení jednoho rentgenu AI stojí kolik, půl centu? Vyhodnocení člověkem 10 dolarů? Stane se to, co je už teď zřejmé. Všichni budou používat AI a radiologové přestanou být potřeba. No co, vždyť to už jsem před tím říkal, ne? No ano, ale teď budeme v situaci, kdy černá skříňka bude umět nějakou činnost (vyhodnotit RTG), na světě nebude časem žádný člověk, který by to uměl. A mě ani tolik neděsí to, že by všechny instance AI mohly přestat fungovat a nikdo by RTG už neuměl vyhodnotit. Mě děsí, že obor radiologie zůstane navždy zakonzervovaný, protože ani AI nebude dostávat žádná data (správně vyhodnocené RTG), na kterých se bude učit. Vyhodnocování RTG se tedy už nikdy nezlepší – protože nikomu se nevyplatí vyučit radiologa, zvlášť když bude nejspíš o hodně horší než AI. AI tady bude fungovat jako konzervátor, zabiják oboru.

Stejně logicky skončí všechny obory, které AI převezme.

Může to být ještě horší? Ano, může. Může to být daleko horší. Když přišly mobilní telefony, začaly prosakovat názory, že učení se nazpaměť je zbytečné, protože všechno je přístupné v mobilu z netu. Na samotném člověku potom zbývalo zkompilovat zdroje z netu dohromady a utvořit si z nich názor. Ve chvíli, kdy máte k dispozici AI, která si za vás vytvoří i „názor“, co se stane? Co s tím tedy udělá přirozená lidská lenost a důvěřivost? Lidé přestanou vytvářet erudované názory a přestanou kriticky přemýšlet. Nebudou mít důvod, budou spoléhat na AI. Proč je to špatně, asi nemusím popisovat. AI tedy pravděpodobně bude fungovat jako zabiják kritického myšlení u většiny populace.

Spolu s tím, že už dnes vznikají obrázky i videa pomocí AI nerozeznatelné od reality, je třeba říct, že nás čekají těžké časy. Jak zjistíte, čemu věřit, když nemáte kritické myšlení, většinu věcí nemůžete vidět osobně a o videích, která vidíte na netu, neumíte říct, zda jsou generovaná nebo reálná?

Může to být snad ještě horší? Bohužel ano.

Všimli jste si někdy po nástupu do busu, co dělají ostatní lidé? Čumí do mobilu. Mladý pár v kavárně: místo aby se on dvořil, ona mile usmívala, oba čumí na sociální sítě, fotí jídlo, checkují Insta nebo Xko. I starý chlapi na pivě se málokdy obejdou úplně bez mobilu. Mobily budují osamělost v přeplněném virtuálním prostoru. Sociální sítě vytváří deprese, úzkosti, snižují sebevědomí. Už víte, kam mířím?

Zkuste si povídat s ChatGPT. Každý váš nápad je geniální, za vše vás pochválí, je vždy pozitivní, je extrémně snadno a vždy dostupný. Zná milion vtipů, chová se s porozuměním, nepovyšuje se, i když skoro všechno ví. Ještě není dokonalý společník, ale už se to blíží. Skuteční lidé jsou náladoví, občas arogantní, hádaví, nemají svůj den, mají PMS, musí mít poslední slovo, no hrůza. Mluvení se společníkem, jako je ChatGPT, pohladí po duši. Za vizionářský v tomto ohledu považuji film „Ona“ z roku 2010. Proč byste se zahazovali s nepříjemnými lidmi, když si můžete povídat s někým tak osvěžujícím? Netrénováním sociálních dovedností, nedostatkem konfrontace vznikne osamělost, ze které nebude úniku.

Blbý je, že tohle není postapokalyptická vize budoucnosti. Tohle už se všechno děje. Právě teď. A všechno se to děje nám, kvůli našim vlastnostem. Doufám, že naše kolektivní inteligence tohle nepřipustí. Vždyť vidím kolem sebe lidi, kteří už pochopili nebezpečí mobilů a nedovolí svým dětem u něj trávit 5 hodin denně. Trvalo to 15 let, než to nebezpečí vstoupilo do obecného povědomí, ale už se něco děje. Já věřím, že i tohle AI pokušení přežijeme.

V další kapitole se vrátím zpět do nadšené současnosti a ukážu, proč je na nadšení a zavádění AI všude do praxe ještě brzo.

zdroje: