Článek
Pak jsem jej sám vyzkoušel a začal se bát. Ovšem lidí. Totiž toho, jaký důraz na tento nástroj naše společnost obecně klade s vidinou zisku (společnost NVIDIA produkující čipy na podporu tohoto nástroje je nejhodnotnější firmou světa) i pohodlnosti. Pravda – prozatím mám větší zkušenost pouze s jedním „Vencou“, ze službou ChatGPT, ale i tak u mě budí výsledky tohoto systému rozpaky.
Na poměrně jednoduché otázky sice dostávám poměrně košaté odpovědi, ale když je začnu ověřovat…, tak se mi pak „Venca“ omlouvá, sype si popel na hlavu a v konečném důsledku se stále jen „opravuje“. To však nic nemění na tom, že jsou jeho výsledky nadále pofidérní a zkreslené.
V obdobné situaci technologického boomu se přitom naše společnost již jednou ocitla. Za průmyslové revoluce, kdy docházelo k provolávání hesel s obavami nad nástupem strojů. Že vezmou lidem práci.
Pracovní mechanizací ve výrobě však lidská práce nahrazena nebyla – byla pouze usnadněna, zrychlena a kvantifikována. Vždyť, kde by byl Baťa, kdyby výrobu od verpánku nezautomatizoval, aby mohl začít chrlit miliony párů bot a budovat své impérium?
Lidé se jen přesunuli od fyzické námahy k obsluze strojů a do kontrolních pozic. Začal být kladen větší důraz na vzdělanost pracovníků a… to byl počátek dneška. Dlužno dodat, že právě manuální práce je dnes svým způsobem stále „v pohodě“. Na druhou stranu - i sériová výroba je svým způsobem otročina a samoobslužné pokladny…
Dystopické snímky typu Terminátor I. a II., z 80. let a počátku 90. let minulého století, určily jako možnou dobu pro nadvládu strojů nad lidmi (po jaderném konfliktu) nejdříve v rok 1997. Autoři předpovídali revoluční typ mikroprocesoru, ale filmová fikce je přece jen něco jiného, než dnešní současnost a realita.
Přes nadšení investorů v oblasti umělé inteligence, když do jejího rozvoje „sypou“ miliardy dolarů anebo zápal vývojářů (ano, jsou to lidé, kteří tento nástroj vyvíjí), bychom však stále měli zůstat nohama na zemi. Učící se počítač totiž není to stejné, jako samostatně uvažující počítač. Současný nástroj, poněkud nešťastně označovaný jako umělá inteligence totiž pouze kombinuje dostupná data.
Pro nás je proto nyní určujícím prvkem pouze to, jak moc jsme ochotni se takto vyvíjeným algoritmům svěřovat. Ano, svěřovat. V krajních, ale nikoli nezanedbatelných případech se totiž lidé takto vyvíjenému systému dobrovolně svěřují i s osobními problémy. Už dnes však před vlivem informačních technologií, na osobní rozhodování člověka odborníci varují.
Co je neméně alarmující, že se na tyto technologie společnost spoléhá i v oblasti globálních systémových potřeb. Ne, že by byla lidská rozhodnutí přímo vyjmuta ze systému, ale kde je napsáno, že právě tento systém nebude napaden a nestane se terčem cíleného útoku…? Pro zisk?
Umělé inteligence – či spíše systému, který je pod tímto označením vyvíjen, se tedy bát (prozatím) nemusíme. Měli bychom se však mít na pozoru, jakou moc tomuto nástroji svěříme, aniž bychom jej zároveň kontrolovali.
Mimochodem, zadal jsem tento příspěvek „Vencovi“, aby jej krapet zradikalizoval a přiznám se, že mě jeho „úprava“ překvapila… ;)
Máme se bát umělé inteligence, nebo lidí?
Přiznám se, že dokud jsem se s umělou inteligencí osobně nesetkal, měl jsem z ní obavy. Z toho, co se o ní psalo.
Jakmile jsem si ji však vyzkoušel, můj strach se přesunul jinam. Nikoli k algoritmům, ale k lidem. K jejich nekritickému nadšení, k přehnané důvěře a k až nepochopitelné ochotě svěřovat tomuto nástroji víc, než je zdrávo.
Ano, mám zatím zkušenost jen s jedním „Vencou“ ze služby ChatGPT. Ovšem, i tak dostávám na banální otázky dlouhé a sebevědomě vypadající odpovědi, které však při bližším prověření neobstojí. Jakmile jsou konfrontovány s fakty, systém se omlouvá, a „opravuje“. Pak se ukazuje, že forma vítězí nad obsahem a že přesvědčivost je zaměňována za pravdivost.
Nejde přitom o nic zásadně nového. Lidstvo už podobnou „paniku“ jednou zažilo. Po průmyslové revoluci, kdy se lidé báli, že je stroje připraví o práci. Nestalo se. Stroje lidskou práci nenahradily – pouze ji zefektivnily. Umožnily vyrábět více, rychleji a levněji. Baťa by bez automatizace zůstal u verpánku a nikdy by nevybudoval své impérium. Lidé se posunuli od fyzické dřiny k řízení, kontrole a odpovědnosti. A právě tehdy začala být vzdělanost nutností, nikoli luxusem.
Problém umělé inteligence je však v něčem jiném. Neohrožuje nás fyzicky, ale náš úsudek. Nezbavuje nás práce, ale přemýšlení. Dystopické filmy typu Terminátor I. a II. nás sice varovaly před nadvládou strojů už po roce 2000, ale realita je mnohem přízemnější – ale o to nebezpečnější. Stroje nás nemusí ovládnout destruktivní silou, ale naší pohodlností.
Přes miliardové investice i nadšení vývojářů je třeba si připomenout jednoduchou pravdu: učící se algoritmus není myslící bytost. Nerozumí světu, pouze kombinuje data. Nemá svědomí, zodpovědnost a nezná ani kontext. Přesto mu stále častěji přenecháváme rozhodování – od pracovních procesů až po osobní dilemata.
A právě tady se dostáváme k jádru problému. Nejde o to, co umělá inteligence umí, ale o to, co jí dovolíme. Lidé se jí dnes svěřují s intimními starostmi, s rozhodnutími, která vyžadují empatii, lidskost, zkušenost, ale i pochybnosti. Odborníci proto dlouhodobě varují před tím, že technologie začínají nahrazovat individuální úsudek člověka. Přesto jim technologiím dál ochotně předáváme kontrolu.
Ještě víc alarmující je pak skutečnost, že tyto systémy začínají pronikat do oblastí našich základních společenských a systémových potřeb. Ne že by byl člověk ze systému zcela vyřazen. Zatím. Ale kde je psáno, že takový systém nemůže selhat, může být zneužit nebo člověkem, či celou skupinou cíleně napaden?
Možná tedy není otázkou, zda se máme bát umělé inteligence, nebo toho, že přestáváme být ochotní přemýšlet…
