Článek
Hlavní (kognitivní) riziko spočívá v oslabení kritického myšlení: pokud AI generuje přesvědčivé a strukturované odpovědi, máme tendenci je přebírat bez ověřování.
Různé studie ukazují, že lidé přijímají doporučení AI i ve chvíli, kdy jsou zjevně chybná, protože formulace AI zní velmi sebejistě. Je to stejné jako u autonavigace: pokud vám při řízení v noci direktivně doporučí sjet po silnici vedoucí k lodnímu převozu do vody lipenské nádrže, uděláte to, i když vám hrozí smrt utonutím. Vidíte sice, jak se svodidla před vámi postupně noří pod hladinu, ale přesto jedete. Navigace přece pomáhá, navigace nelže.
Téměř každý řidič asi zažil při používání autonavigace situaci, kdy mu při vjíždění z vedlejší silnice na hlavní jen stroze zavelela „teď odbočte doleva“, aniž by předtím řekla „stůj, dej přednost v jízdě“ nebo „pozor, vjíždíte na hlavní silnici“. Absence tohoto hlášení mne kdysi docela hodně nepříjemně překvapila.
Ale zpět k tématu: vyzkoušejte někdy v dialogu s AI říci něco jako „to se mi nezdá, nebo zdá se mi, že nemáš pravdu, či to tvé tvrzení je chybné, protože je to tak a tak“. A náhle zjistíte, že AI vůbec není neomylná, protože se vám pojednou začne docela empaticky omlouvat za své dřívější pochybení, často i opakovaně.
Jenže jak kdy. Před časem jsem se v dialogu s AI docela zapotil. Už si nepamatuji na co jsem se jí ptal, ale vím, že v průběhu její hlasité odpovědi jsem si nechtěně odfrknul - mohlo to vypadat, jako kdyby se mi její odpovědi nelíbily nebo přišly směšné. Zarazila se a po chvíli mne důrazně - bez špetky empatie - ostře pokárala: „vyprošuji si takové reakce, jinak naše interakce nemá další smysl“.
Myslel jsem si, že jsem se přeslech, a proto jsem požádal manželku, zda mi může potvrdit, jestli slyšela to co já. Prý ano. Takže od té doby si při komunikaci s AI dávám pozor na zvuky které vydávám, aby v nich nemohla spatřit možné náznaky čehokoliv. Mít tehdy AI ruce, určitě by mne jimi pleskla přes papulu.
Špatně je, že když delegujeme vyhledávání, sumarizaci a strukturování informací na AI, protože náš mozek si přestává trénovat vytváření hlubokých paměťových stop. Postupně u něj dochází k jakési atrofii „pracovní paměti“. Místo pamatování si obsahu si pamatuje pouze to, „kde tlačítko zmáčknout“. Vlastně ani nemusíme přemýšlet nad kladením dalších našich otázek, kterými bychom rozvíjeli náš původní dotaz; až příliš ochotně totiž odklikneme jednu z přednabízených otázek pod poslední odpovědí.
Měření mozkové aktivity - např. při psaní esejí - odhalují, že lidé využívající asistenci AI vykazují výrazně nižší zapojení mozkových center zodpovědných za paměť, učení a tvůrčí řešení problémů.
Přiznejme si: prostě si odvykáme nalézat vlastní řešení, jsme pohodlní, líní a spoléháme se na naprogramovanou „chytrost jiných“.
Dobré ale je, že nám stále zbývá malá jiskřička naděje: stejně jako dříve elektronické kalkulačky nezničily schopnost lidí chápat matematiku, ani AI nemusí vést k našemu plošnému „zhloupnutí“.
Tím nejdůležitějším je totiž používat AI pouze jako trenažér a jakéhosi oponenta, ne jako náhradu za naše samotné přemýšlení.
