Článek
Dokonalá iluze myšlení
Umělá inteligence nemyslí — alespoň ne ve smyslu kritického, reflektivního a odpovědného myšlení. Přesto se jí podařilo něco mimořádného: vytvořit téměř dokonalou iluzi myslící bytosti.
Tato iluze je natolik přesvědčivá, že dokázala zaujmout i renomovaného historika a filozofa Yuvala Noaha Harariho, který vystoupil s přednáškou An Honest Conversation on AI and Humanity na Světovém ekonomickém fóru v Davosu. Rozhovor s umělou inteligencí zde představil jako dialog s entitou, která rozumí, uvažuje a má záměry.
Podobná zkušenost není výjimečná. Lidé při interakci s AI velmi často docházejí k závěru — někdy až k existenciálnímu zděšení — že proti nim stojí myslící bytost s intencemi, rozvahou a pochopením světa. A právě tady vzniká problém.
Ne inteligence strojů, ale nedostatek inteligence lidí
V některých zemích, podobně jako u nás, dnes univerzity zvažují omezování či rušení diplomových prací, protože je nelze odlišit od textů generovaných umělou inteligencí. To je často interpretováno jako důkaz síly AI. Ve skutečnosti je to spíše důkaz slabiny lidského myšlení. Většina lidí si totiž myslí, že myslí. Ve skutečnosti ale převážně používá schémata.
Kognitivní schémata: rychlá, úsporná, ale plytká
Kognitivní schémata jsou vnitřní mentální „šablony“, pomocí nichž mozek třídí informace, rychle hodnotí situace a rozhoduje se bez hlubšího přemýšlení. Vznikají ze zkušeností, výchovy, kultury i emocí. Mozek je využívá, protože šetří energii. Jenže to není myšlení ve smyslu rozvahy, pochybnosti a kritické analýzy. Je to automatismus. A právě zde se lidské myšlení nebezpečně přibližuje tomu algoritmickému.
Kritické a kreativní myšlení je vzácné
Kritické a kreativní myšlení je v každodenním životě spíše výjimkou než pravidlem. U umělé inteligence je pak zcela absentující — a pravděpodobně principiálně nemožné.
Ano, AI má obrovskou výhodu: pracuje s nepředstavitelným množstvím dat. To žádný lidský mozek nedokáže. Chybí jí však to podstatné: lidská intuice, jejímž neurobiologickým korelátem je tzv. default mode network mozku — síť spojená se sebereflexí, imaginací a pochybností.
Umělá inteligence jako umělé sladidlo
Umělá inteligence je v tomto smyslu podobná umělým sladidlům. Dokážou oklamat naše receptory, někdy chutnají sladčeji než cukr, ale jsou prázdná na kalorie. Stejně tak „myšlenky“ umělé inteligence mohou působit sofistikovaně, ale ve smyslu skutečného novátorství jsou prázdné. Jsou založeny na téměř nekonečných kombinacích existujících informací. Kreativitu v sobě nenesou, pouze ji imitují.
Mohou být přesto nebezpečné? Ano — stejně jako umělá sladidla mohou negativně ovlivnit náš mikrobiom. Umělá inteligence může deformovat náš kognitivní ekosystém.
Co AI zásadně postrádá
Lidské myšlení není jen schopnost dojít k závěru. Je to také:
- pochybnost o vlastních závěrech
- hluboká a široká reflexe
- vyvození odpovědnosti
- pochopení důsledků myšlenek a činů skrze empatii
Algoritmus nic z toho nemá. Nemá svobodnou vůli. Neví, kdy závěr neučinit. Nezná pocit nedostatečné kompetence. Nezná morální váhání.
Heuréka versus algoritmus
Lidské kreativní myšlení typu „heureka“ je často neintencionální — vzniká mimo přímý záměr, v tichu, v bloudění mysli. Umělá inteligence nic takového nezná. Nezná myšlení pro myšlení. Nezná ars gratia artis.
Používá schémata odvozená z lidských schémat — a často zesiluje lidské předsudky, zkreslení a hloupost. Výsledkem pak není superinteligence, ale automatizované opakování lidské stupidity (terminus technicus).
Skutečné riziko budoucnosti
Skutečným rizikem není umělá inteligence myslící jako lidé. Skutečným rizikem jsou lidé myslící jako umělá inteligence. Vstupujeme do období, kdy se ke koevoluci genů a kultury přidává interakce s AI. Lidé se budou učit od ní a ona od nás. Jde o nový prvek evoluce lidské rasy. Kritické myšlení, rozvaha a přemýšlení o přemýšlení — metakognice — však zůstanou vždy na lidech. Pokud se jich ovšem dobrovolně nevzdáme.
