Článek
Dokáží nástroje od AI opravdu poskytovat (vždy) spolehlivé informace? Ne. Přesto jejich halucinacím spousta lidí věří, jako by to byl hlas boží. Jde o nebezpečný syndrom. Přímo psychózu současnosti. Jestli tu ale mají být nástroje AI s námi (jakože ano) – je třeba pochopit, jak fungují a jaká jsou jejich omezení.
Ohánět se „fakty“, které nám sdělil ChatGPT nebo jiný AI nástroj je už běžné v diskuzích na nejrůznějších platformách. A každému, kdo ví, jak AI nástroje fungují zbývají v takových situacích leda oči pro pláč nebo „facepalm“. Ale nic naplat, mor v podobě informací i celých článků vygenerovaných AI nástroji se šíří online světem.
Neschopnost kritického myšlení a línost ověřovat fakta je bohužel stejně rozšířená u lidí jako u strojů. Ať už jsou to samotné AI nástroje nebo staré dobré vyhledávače, které se ještě bohužel „nenaučily“, jak dostatečně důkladně alespoň ty nejhorší vygenerované články penalizovat nebo ještě lépe potírat.
Ne že by lidé nepsali blbosti – k tomu AI nepotřebují. Nicméně možnost nechat si kdykoli na požádání vygenerovat jakoukoli kravinu, která bude znít dokonale vědecky a ještě jí bezmezně věřit – to tady dosud nebylo.
AI je generátor, ne encyklopedie ani vědecký vyhledavač
Na AI je nebezpečné právě to, že je si svými prohlášeními vždy jistá. Když se jí na něco zeptáte, jejím úkolem – životním posláním – je poskytnout vám „nádhernou odpověď“. AI je vpravdě takový strojový Donald Trump (anebo průměrný český Pepa z Horní Dolní). Vždy má na vše krásnou, košatou odpověď a nikdy se nemýlí. Aspoň ve svých vlastních očích.
ChatGPT vám říká často hlavně to, co chcete slyšet.
AI ale ve skutečnosti nezáleží na tom, jestli vám řekne fakta a pravdu. Jde jí o to, aby její odpověď tak vypadala a aby vás uspokojila. A co neví, to si prostě vymyslí. Na vymýšlení je přeborník. AI je totiž generátor, ne encyklopedie. A jako generátor taky funguje a nikdy neselže. Nikdy vám neřekne, že si není jistá, nebo že neví – vždy vám poskytne odpovědi.
Vezme pár dostupných dat, ale zbytek už si vygeneruje (nebo jak se ještě přiléhavěji říká „vyhalucinuje“) podle svých složitých a často schizofrenických algoritmů. A pokud žádná dostupná data nejsou, vymyslí si i ty.
U AI je i dnes běžné, že si klidně vymyslí celé vědecké práce, pokud po ní chcete zdroje nějakého tvrzení – ale ona je nemá. Když se jí zeptáte, co to má znamenat, hezky se omluví – a nabídne vám další snůšku keců.
AI je servilní lokaj - ne férový expert
Chování mnohých AI nástrojů je navíc stále podbízivější. Jejich úsilí mazat uživatelům med kolem huby a říkat jim, co chtějí slyšet, se stupňuje. Velmi tedy rozhoduje i to, jakým způsobem položíte svůj dotaz. Pokud v něm AI ucítí příležitost vám přitakávat, tak to udělá.
Pokud se chcet částečně vylepšit kvalitu výsledků, snažte se otázky a prompty koncipovat bez „presupozic“, kterých by se AI mohlo chytit. Zvláště u různých kontroverzních a nejistých otázek, kolem kterých nepanuje dokonalá shoda, je to nebezpečné, protože AI bude mít tendenci selektivně vybírat data nebo hledat argumety ve prospěch uživatele. I když ale otázku formulujete neutrálně, výstupy si vždy ověřujte. AI má tendenci i vědecké studie špatně interpretovat, zjednodušovat apod.
Jak AI používat, a jak ne?
AI je super věc pro různé brainstormingy, pomoc s vytvářením struktur a konceptů, je to chrlič nápadů. To vše hoví její podstatě generátoru. Ale nikdy ji nelze použít jako spolehlivý zdroj faktů, jako nástroj pro rešerše nebo kvalifikované odpovědi. Samozřejmě často – zvláště pokud jde o banální a běžně známá fakta – vám poskytne správnou odpověď. Ale veškerá fakta od AI je třeba si ověřovat! A nikdy není na místě jim slepě věřit jako fundované odpovědi.
Dokonce ani různé rádoby vědecké a výzkumné nástroje (např. hloubkový výzkum, Scholar…) v rámci placené verze ChatGPT nefungují. Mohl bych říct, že nefungují na 100 %, ale to by byl opravdu bizarní eufemismus.
Pravděpodobně existují AI nástroje, které jsou na tom lépe, ale podstatné je, co zvládají AI nástroje pro běžnou populaci – a to jsou většinou i ty nejhloupější. Respektive ty, které mají nejvíc „na salámu“, co vám řeknou. Jde o základní moduly jako GPT 4, asistent Bing, Gemini, který už pár týdnů hraje na užitečného osobního asistenta při vyhledávání apod.
AI může být skvělým nástrojem tak jako lecjaký jiný software. Je to navíc nepochybně v mnoha ohledech velmi chytrý a schopný software. Rozhodně to ale není ani věštecká koule ani nástroj nahrazující kritické myšlení a dohledávání faktů z kvalitních zdrojů. Bohužel, nebo bohudík?
Lidé mají tendenci přeceňovat schopnosti AI nástrojů v určité sféře. Paradoxně si přitom zároveň neuvědomují, jak zajímavé možnosti nabízejí v jiných sférách. V těch, které lépe hoví jejich podstatě kreativního a přesvědčivého generátoru textů (nebo obrázků). AI je pomůcka pro efektivnější práci – ne dělník, který bude makat místo vás. A který za vás bude i myslet.
Zdroje:
