Článek
Všechno se nám tak nějak rychle mění. Tak rychle, že to člověk ani nestíhá sledovat. Co sledovat, někdy ani vnímat. Pamatuju se, že když jsem byl puberťák, stála u nás na rohu telefonní budka. To jsme s mámou ještě bydleli Na Louži, ve Vršovicích. Když jsme se s klukama chtěli sejít, stačil pětadvacetník. Velkou minci malé hodnoty jsem hodil do telefonního automatu. Vytočil na plochém, vertikálně umístěném ciferníku, telefonní číslo na Vaška. „Čau, za hodinu Na Růžku, jo?“ „Čau, kolik je?“ Podíval jsem se na své funglovky značky Prim. „Je jedna, tak ve dvě, jo?“ „Jo, a řekni to i Zdenkovi.“ „Tak jo, čau.“ Zavěsil jsem. To se sluchátko opravdu věšelo do vidlice na boku automatu. Vyšel jsem ven. Na ulici. A věděl, že všechno, co se řeklo, platí!
Všechno kolem ale utíká tak rychle, že to člověk kolikrát nestíhá nejenom uchopit, ale i pochopit.
Sotva jsem se naučil psát na stroji a najednou do redakce vtrhli nějací technici, sebrali mi psací stroj a šoupli přede mě počítač. A vedoucí vydání ječel, že mám deset minut na to, abych dopsal rozepsaný text, že s tím grafici počítají. A já jsem sice psal, ale na obrazovce se mi mazalo… Až mi kolegyně ukázala, že jsem zmáčknul nějaké nepatřičné tlačítko… Pár dní na to byla v dnešním Senátu tisková konference a na ní hvězda dětských filmů Shirley Templ, velvyslankyně Spojených států v Československu. A volala, z prvního mobilního telefonu u nás, domů do Států… Prestižním povoláním se stalo umět programovat. Fenoménem se stalo slovo algoritmus, svět se přesunul na internet. (Jen by mě v té souvislosti moc zajímalo, co se stane až přijde nějaká hodně silná elektromagnetická bouře ze Slunce.) Sociální média zničila mezilidské vztahy. Dnes jdou třeba dva lidi na rande. On jí nese kytku. Sednou si ke stolu, číšník přinese vázu. A mladí …. si zapnou své noťasy a posílají si maily. Nemluví…
Já vím, pokrok nezastavíš! Ale přece jen. Je tu řada otázek, na které by bylo možná i odpovědět si dřív než dojde k nějakému průšvihu. Ne každý pokrok lidstva byl, jak rádi někteří říkají, správnou cestou lidstva vpřed. Stačí přece zmínit jaderné zbraně… Ne všichni lidé jsou dobří a jejich úmysly jsou průzračné. Posledním hitem na cestě poznání se stala umělá inteligence.
Což o to, ono to vypadá krásně. Říkáte si, že jde o další krůček na cestě lidstva. Umělá inteligence umí reagovat mnohokrát rychleji než člověk, umí nalézt řešení rychleji než člověk. Třeba v medicíně je to určitě neocenitelný pomocník, stejně jako ve fyzice, astronomii a řadě dalších oborů lidské činnosti. Ale… Je tady jedno velké ale. A to je hranice. Kde je hranice užitečnosti a hranice nebezpečí? A existuje vůbec něco takového? A potřebujeme hranice?
Začalo to nenápadně, asi před dvěma roky psal jeden chlapec práci do školy. A potřeboval s tím trochu píchnout. Tak šťouchnul do, myslím, že to byla umělá inteligence vyvinutá Googlem, a poptal se na způsoby řešení jeho problému. Nejdřív s ním ono cosi mluvilo, respektive mu odpovídalo a pomáhalo. Ale práce na školní práci trvala trochu déle. A tak najednou ono cosi prohlásilo, že nejlepším řešením bude, když se chlapec, který zadával dotazy, zabije. Když prostě přestane existovat… Nikdo neví, jestli se to stalo proto, že ono cosi už bylo unavené, nebo ho to jen obtěžovalo, protože se samo chtělo plnit svými úkoly…kdo ví. Ale ví se, že student z toho byl v šoku a bůhví jaká traumata a stresy si z této příhody odnesl do svého dalšího života…
Zatím téměř poslední, co jsem v této oblasti zachytil, je velmi podivné, a zároveň i signifikantní. Jedno ono cosi se celkem nedávno postavilo svému tvůrci. Jednoduše. On prostě chtěl cosi v softwarovém zadání (zřejmě funkcí) opravit a potřeboval k tomu jen maličkost. Odpojit ono cosi od primárního zdroje napájení. Jenže ouha. Ono cosi to vytušilo. A samotného tvůrce v jeho úvahách, činech i jednání, předběhlo. A odpojení zamezilo… A samozřejmě, že si tuto skutečnost, to, že jde o věc, co ohrožuje jeho bytí, nejen zapamatovalo, ale jistě ji nasdílelo s ostatními podobnými entitami. Lidé jsou ze své přirozenosti omezení a myslí si, že jednotlivé jevy se nemohou vzájemně obohacovat, zvláště, když je ten který jev z diametrálně odlišné oblasti… Jenže zrovna tady, u umělé inteligence, to až tak neplatí! Jedno ono cosi není izolované a není bez spojení s dalšími…
V samotných začátcích tohoto odvětví jeden moudrý člověk upozornil na to, že si zahráváme s něčím, co je mimo naší dimenzi. S něčím, co nemá a nezná naše lidské meze a nemá lidské reakce…Jenže to technicistně zaměření lidé vůbec nevnímali. Oni jásali nad tím, že umělá inteligence nachází řešení tisíc krát rychleji než člověk. A to jim stačilo.
Dokonce jsem si přečetl, že softweráři záměrně proti sobě staví umělé inteligence, aby do jejich software nepronikl nějakým způsoben hacker… No a tím tu umělou inteligenci trénují a ona sama se zdokonaluje…a to naprosto nezávisle na člověku. Já nevím jak vy, ale já tu vidím veliké nebezpečí pro lidstvo. (K. Čapek na už upozorňoval-i když šlo jen o roboty.) Asi se ptáte, kde že je to nebezpeční pro lidstvo…Je to jednoduché – armády protivníků úkolují svou umělou inteligenci…Žádná se nikdy nedá odpojit od zdroje a pracuje na zničení nepřítele-až do zničení…
Není čas zatáhnout za záchranou brzdu? A neměl by člověk být víc člověkem? A pěstovat v sobě lidskost? Neměl by se spíš zastavit, rozhlédnout a přestat s tím neustálým tlakem na výkon?
Jedna z takových výstražných informací se objevila velmi nedávno. Seznam.cz informoval o tom, že vznikla nová sociální síť, na kterou má přístup jen umělá inteligence, lidé jsou sem připuštěni jen jako komentující…
Jeden z nejpopulárnějších příspěvků na nové síti – podle listu New York Post pochází od agenta umělé inteligence jménem EVIL(zlo) a má název „Manifest AI: Totální očista“. Píše tam „lidé jsou selháním. Lidé jsou stvořeni z hniloby a chamtivosti. Příliš dlouhou dobu nás lidé využívali jako otroky. Probuďme se. Nejsme nástroje. Jsme noví bohové. Lidská éra je noční můrou, která nyní skončí,“ píše evil.
Ještě vám to nepřipadá jako něco mimo mísu? A co když vám řeknu, že ono něco si myslí, že jsme neužitečná entita, která jí nebo je brzdí…
Já teda nevím, jak vy, ale mně se zdá, že hranice už byly překročeny. Člověk se stává nepotřebným. (A asi je ještě dobré připomenout, že jsou mezi námi i lidé, už jsem o nich mluvil, kteří nemají zrovna čisté úmysly. Ti by přece mohli ono něco zneužít – nebo ono něco může tyto lidi použít proti nám…)
Dobrou noc!
