Článek
Se synem jsme potřebovali do školy připravit referát o endemitech – tedy rostlinách a živočiších, kteří žijí jen na určitém území. Vybrali jsme si Vysoké Tatry, protože jsme tuto oblast již několikrát navštívili. Chtěli jsme udělat referát zajímavý a správně, a tak jsme se rozhodli požádat o pomoc umělou inteligenci.
Zeptali jsme se: „Jací endemité se vyskytují ve Vysokých Tatrách?“
AI okamžitě odpověděla s jistotou a elegancí. Nabídla seznam tvorů a rostlin s krásnými názvy – některé i v latině. Například „Tatranus mysticus“ nebo „Flora alpina tatrica“. Znělo to věrohodně, skoro jako bychom našli poklad.
Jenže… něco nám na tom nesedělo. Začali jsme si ověřovat názvy v odborných zdrojích. A zjistili jsme, že většina z nich vůbec neexistuje. Nešlo o překlep, ale o naprosté výmysly. Latinsky znějící, odborně vypadající, ale fiktivní.
Když jsme AI konfrontovali, omluvila se a přiznala chybu. Zkusili jsme to znovu – a přišla nová, opět smyšlená jména. Jakoby si z nás Al dělala legraci. Ale pravda je jiná. Umělá inteligence nemá vlastní rozum, a i když se chová chytře, někdy prostě „halucinuje“.
Proč to AI dělá?
Umělá inteligence pracuje na principu predikce textu. Snaží se na základě obrovského množství informací, které zná z internetu, knih a dalších zdrojů, odhadnout, co se má říct dál. Když se jí zeptáme na něco specifického, může se stát, že: nemá přesný údaj, nechápe kontext dostatečně odborně nebo se snaží vytvořit něco, co vypadá pravdivě, i když to pravdivé není.
Tento jev se odborně nazývá halucinace AI. Umělá inteligence si doslova „vymýšlí“ s přesvědčivostí, která může zmást i dospělého.
Co si z toho odnést?
Umělá inteligence je užitečný nástroj, ale není to učitel ani encyklopedie. Když potřebujeme ověřené informace, měli bychom AI používat jako pomocníka, ne jako jediný zdroj.
Naše zkušenost s referátem o Tatrách nás poučila. Už víme, že když AI něco říká, je dobré si to ověřit z dalších zdrojů. Ideálně z odborných.
Měli bychom mít na paměti, že technologie si z nás legraci nedělá. I když AI působí chytře, stále je to jen program. A občas se splete. Jako každý z nás.
