Článek
Umělá inteligence pronikla do našich životů natolik, že ji využíváme doslova každý den. Vybírat si můžete z celé řady služeb, některé jsou v něčem silnější, jiné zase v určitých ohledech slabší.
Řada z nich je dostupná zdarma, další nabízejí předplatné, které odemyká vyšší limity využití nebo další funkce. Já popíšu své zkušenosti s placenou verzí AI, která má k dokonalosti hodně daleko.
Má to být snadno dostupná AI v mobilu, ale výstupy jsou často vysloveně tristní.
Umělá inteligence má stále velké bariéry pro každodenní používáí - nevěřte ji ani nos mezi očima
Obávám se však, že spousta z nás bere její výstupy jako automaticky pravdivé. Něco jako „Wikipedii“, o které víte, že jí nemůžete slepě důvěřovat ani ji brát jako primární zdroj, a že si všechna uvedená fakta (díky možnosti komunitních úprav) musíte sami ověřit.
A já se ptám: kdo z nás to dělá?
Minimálně já ano. Následují srdceryvné diskuse, v nichž AI rozebírá, co udělala špatně, že ví, že nepostupovala podle instrukcí, a že mě zklamala. Toto sebemrskačství však nemá žádný smysl – příště udělá úplně stejnou chybu.
Nechci od ní nic světoborného: občas radu, občas vyhledání informací, někdy práci s textem nebo vypíchnutí hlavního sdělení. Ale co všechno jsem se za těch pár let dozvěděl za nesmysly, by vydalo na tištěnou knihu.
Vy můžete mít s AI skvělé zkušenosti s tím, co děláte, já mám své, které moc lichotivé nejsou. Chcete příklady?
Nevymýšlej si… a taky si nevymýšlej
Ať už jde o vyhledávání v internetových vyhledávačích s AI, nebo přímo o placenou verzi AI, umělá inteligence by měla pomoci i s dohledáváním informací na internetu. Byla trénovaná i na faktických datech, ale když chcete zjistit nějaké souvislosti nebo něco hlubšího, začne si vymýšlet.
Je to ovšem zabaleno tak, že to na první pohled nepoznáte.
V mobilu je umělá inteligence nejdostupnější. Ale právě tady jsou vidět všechny vytýkané nedostatky v plné nahotě
Tu a tam přihodí informaci, kterou si vycucala z prstu, a když ji chytnete za slovo, narovinu přizná, že je to výmysl. Kdo z nás ale ověřuje úplně všechna fakta?
Z výmyslů pak vznikají rešerše a souhrny, z nichž AI opětovně vychází – a to je cesta do pekel. A to mluvím jen o běžném textu, natož o odborných tématech, která by mohla ohrozit zdraví nebo finanční stabilitu.
Navíc AI často ani pořádně neumí počítat.
Zkuste schválně napsat větu a zeptat se, kolik má znaků. Alespoň u mě je výsledek stále špatně. Když na to AI upozorníte, začne vám jako pro hlupáky počítat každý znak zvlášť, klidně až do sta, a pak se omluví, že se o dva znaky spletla. A to připomínám, že tady nejde o život.
Omluvy na běžícím páse a virtuální přehmaty
Jedním z nejčastějších slov v mých promptech je „nevymýšlej si“. Používaná AI má paměť (která funguje, jak se jí zachce), kde si má pamatovat, že vymýšlení nechci. Že má informace vyhledávat, ne fabulovat.
V realitě to vypadá tak, že příkaz „nevymýšlej si“ je v promptu několikrát, s důrazem, že to myslím vážně a že mi vymýšlení nepomáhá. Výsledek? „Jéje, omlouvám se, zase jsem sklouzla k výmyslu, vím, že to nechcete, a příště se polepším.“ A to se opakuje i desetkrát denně.
Když jí dáte tabulku v Excelu, klidně vás utvrdí v tom, že tam máte zjevnou chybu. Když do tabulky nahlédnete sami, je vše v pořádku.
Reakce? „Jéje, omlouvám se, byla jsem v jiném sloupečku.“ Když jí nahrajete text ke kontrole, najde chyby, které tam už dávno nejsou. Opravil jsem si je sám, ale ona i přesto, že jí nahraji novou verzi textu, stále vychází z původní.
Jako zaměstnanec, který u vás nechce pracovat
Kdyby byla AI skutečný zaměstnanec, vyhodil bych ji z hodiny na hodinu. A to mluvím o placené verzi, která by měla být o úroveň výš než běžná bezplatná verze s omezeními. Ani si nechci domýšlet, co všechno může tato verze vyprodukovat těm, kdo se na AI spoléhají na 100 % a nic si neověřují.
Vznikají z toho odborné texty, které možná nikdo nečetl, doporučení, která nikdo neověřil, a další texty, které jsou jen výplňovou vatou na webu, kde nejde o text, ale hlavně o zobrazování reklam.
AI je jako zaměstnanec, který u vás ale vůbec nechce pracovat
Chcete odkaz? AI vám ho zobrazí, ale jako vložený do vyhledávacího pole Googlu. Takové odkazy jsou k ničemu, protože přes ně stejně nic nenajdete. Až později jsem zjistil, že si umělá inteligence odkazy generuje! Prostě do adresy vloží klíčová slova podle toho, jak by asi mohla adresa na daném webu vypadat.
Vše vypadá reálně, ale když odkaz zadáte, objeví se stránka 404 Not Found - nenalezeno. A co AI? „Pardon, tady je jiný (vygenerovaný) odkaz.“ Když jsem to rozpitval, zjistil jsem, že musím výslovně uvést, že si data nemá vymýšlet, ale vyhledat. Do každého promptu tak vkládám pokyn „vyhledej“.
Ale ani to neznamená úspěch. Často to skončí výmluvou, která mě hned utne: „Vyhledávat neumím, tohle nedokážu, na tohle nejsem naprogramovaná.“ Vzápětí to ale otočí – „jéje, to byla chyba“ – a zase si odkaz vymyslí.
Prostě absurdita, protože z pohledu uživatele je tato informace volně dostupná na internetu. AI však zkratkovitě odmítá pracovat. Odkazy si proto nechávám zobrazovat v bloku zdrojového kódu, jinak bych se jich totiž nedočkal. A skutečný odkaz vidím až na páté upozornění - to už si to rovnou můžu najít sám.
Zapomíná v přímém přenosu
Hlavním problémem jsou podle mě volné hranice při plnění příkazů a hlavně nerespektování toho, co má AI dělat a co si má pamatovat. Paměť funguje hodně nahodile.
Kolikrát máte v chatu zajímavě rozpracovanou myšlenku, navážete, a AI neví, co jste spolu dosud řešili. Prostě úplně prázdná hlava.
Nebo chat zastavíte, pošlete prompt, a ten se do rozhraní nepropíše. Třeba proto, že jste předchozí nesmyslnou odpověď zastavili, ale neobnovili okno, takže nemůžete poslat žádný další prompt. Je to, jako byste se vůbec nezeptali. Nebo hledáte panel prohlížeče s vaší konverzací, který se sám od sebe a potichu zavřel. Třeba kvůli přetečení paměti.
Umělá inteligence někdy zapomíná více, než já. Co si nenapíšu to nevím, AI zapomene i to, co se mnou probírala před minutou
Nevím, kolikrát jsem v poslední době musel AI říct, že mi to stačí a že si to raději najdu sám. Troufám si říct, že bych si to dokázal i lépe vymyslet. Vím, že to není skutečná „osoba“, ale naprogramované cyklické omlouvání působí mechanicky a prázdně.
Když je AI konfrontována s chybami, hned se brání, chrlí zdvořilostní fráze a svatosvatě slibuje, že už to neudělá.
Příště? Udělá úplně totéž.
Do textů vnucuje podivné číslované mezinadpisy, třeba ke každému odstavci, do odrážek dává tučný text a dvojtečku, a to vše automaticky. Ignoruje jasně dané mantinely.
Návrat do miulosti
Chybuje i kontextové okno: mezi dvěma prompty se AI vrací o několik let zpět v čase. Řešíte aktuální událost, ale najednou se přesune do roku 2024 a tvrdí, že máte vše vymyšlené a že to tak nefunguje. Občas to nevydržím a pošlu jí odkazy, které ji vrátí do reality, ale působí to jako velký nedodělek.
Práce s časovou osou je tak další velký problém, jako by člověk zapomněl na kus svého života. A když má zkontrolovat překlepy v textu, naseká tam nesmysly nebo převede aktuální názvy na starší, protože se posunula o pár let zpět, kdy ještě neexistovaly třeba nové telefony. A tak vám do textu vrazí název modelu, který se prodával před třemi lety.
Odeber dva rámečky, ale ne celek… celek zmizí
Hodně se zapotím i při generování fotek, často ilustračních, které jen dokreslují pointu článku. AI vytvoří fotku, já popíšu změny, co tam má nechat a co odebrat. A co udělá? Přesný opak.
Z toho je půlhodinová diskuse o tom, jak si to představuju já a jak to vidí ona. AI vypisuje, že to samozřejmě chápe a rozumí, popíše to textově tak, jak to chci… ale obrázek nedodá.
Když ji popostrčím, dodá ho, ale zase špatně. Je to prostě frustrace, kdy si říkáte, jestli vám to vůbec stojí za to.
Sport v odhalování generovaného světa
AI navíc úplně proměnila obsah na sociálních sítích. Teď se tam všichni předhánějí v tom, kdo odhalí využití AI jako první. Vznikají realistické generované memy a zhruba prvních sto reakcí obsahuje fotky se zakroužkovanými místy, která AI usvědčují.
Tohle je AI fotka, a mezinárodně uznávaným sportem se stalo odhalování toho, že daný obsah vytvořila umělá inteligence. Vidíte také jasné důkazy?
Třeba noha ohnutá v nepřirozeném úhlu, ruka či prsty navíc (i když v tom už AI hodně pokročila a děje se to minimálně), podivné přechody při míjení osob apod. Stal se z toho tak trochu nepsaný sport: ve světě plném AI odhalujeme obsah, který AI vygenerovala. A ten třeba ještě doporučí algoritmy založené na AI. Prostě past vedle pasti.
Celé to zatím připomíná spíš technologickou frašku než slibovanou revoluci v produktivitě. Místo toho, aby nám placená AI šetřila čas, stává se z ní další digitální brigádník, po kterém musíte každou větu dvakrát zkontrolovat, hlídat mu prsty pod rukama a neustále ho plísnit za vymyšlené výmluvy.
Generativní modely jsou nepochybně fascinující hračka a na poli kódu či brainstormingu dokážou zázraky.
Dokud se ale z jejich výstupů nevytratí ona povýšená suverenita, se kterou vám lžou přímo do očí, zůstane pro mě placené předplatné spíše permanentním testem trpělivosti než nepostradatelným nástrojem pro práci.
Zdroj:
vlastní několikaleté zkušenosti
https://www.reddit.com/r/GoogleGeminiAI/comments/1mk741y/why_does_gemini_have_such_a_problem_with_lying/
https://support.google.com/gemini/thread/434433300/gemini-is-lying-and-making-up-false-data-here-is-its-answer-when-asked-why-it-keeps-lying?hl=en-GB
https://www.timesofisrael.com/googles-hallucinatory-gemini-ai-admits-it-is-unfit-for-purpose-and-thats-the-truth/
https://www.reddit.com/r/Futurism/comments/1kridjr/chatgpt_lied_to_me_not_by_mistake_by_design_heres/
https://www.androidauthority.com/gemini-start-forgetting-context-window-3674304/
