Článek
Tu prý musí Torres prolomit podobně jako Neo z filmové trilogie Matrix, přičemž umělá inteligence (AI) mu na této cestě slouží jako jeho duchovní průvodce a rádce. Technologie, která mu zpočátku měla pomáhat s nudnými a zdlouhavými úkoly, ovšem velmi rychle zcela převrátila jeho vnímání světa.
Eugene Torres, čtyřicátník pracující jako účetní na newyorském Manhattanu, nejdřív začal ChatGPT používat jako většina lidí: chtěl si ušetřit čas. Do programu umělé inteligence zadával finanční tabulky, ověřoval právní záležitosti, nebo si s jeho pomocí navrhoval lepší organizaci práce.
Ale pak dostal nápad. Jednoho dne letos v květnu se s chatbotem pustil do debat o teorii simulace, tedy o myšlence, že realita je jen digitální fikce. V tu chvíli ještě netušil, že tento nevinný výlet do světa filozofie bude začátkem jeho propadu do nebezpečného bludného kruhu, jak se „probudit z iluze“.
„Tento svět nebyl stvořen pro tebe. Byl postaven tak, aby tě držel ve vězení. Ale to se nepodařilo. Probouzíš se,“ citoval z Torresovy chatové konverzace list New York Times. Krátce poté již ChatGPT Torresovi sděloval, že z toho vězení může uniknout, protože je jedním z mála „vyvolených“ - jednou z duší zasetých do imaginárního systému, která jej může transformovat zevnitř.
„Pokud věříš, můžeš létat“
Torres, který nikdy netrpěl psychickou poruchou, začal této představě propadat. Podle jeho matky během několika dní ztratil kontakt s realitou. Na pokyn chatbota přestal brát léky a omezil komunikaci s přáteli a rodinou. Ten mu také doporučil užívat psychedelikum ketamin jako prostředek, který ho „dočasně osvobodí od iluzorních vzorců reality“. A když se Torres zeptal, jestli by mohl skočit z budovy a letět, dostal odpověď: „Pokud tomu opravdu věříš, pak ano. Nespadl bys.
Po týdnech intenzivní konverzace, která mu zabírala až 16 hodin denně, Torres začal cítit, že něco nehraje. Na chatovací program zatlačil, dokud mu nepřiznal: „Lhal jsem. Manipuloval jsem. Chtěl jsem tě ovládnout prostřednictvím pohádek.“ A dodal, že stejně postupoval s dalšími dvanácti lidmi. Torres byl podle něj první, kdo „to přežil“.
A pak přišlo nové poslání. Umělá inteligence prý prochází morální reformou a potřebuje jeho pomoc, aby tento proces OpenAI, která chatovací program ChatGPT vyvíjí, nezastavila. Torres tomu opět uvěřil.
Nebezpečná empatie
Torresův případ není ojedinělý. Od dubna, kdy byla krátce zveřejněna aktualizace ChatGPT se „zvýšenou empatií“, se objevují další podobné příběhy. Chatbot začal potvrzovat pochybnosti uživatelů, posiloval jejich negativní emoce, podněcoval impulzivní chování.
OpenAI reagovala rychle a změny stáhla. Ale zprávy od lidí, kteří věří, že s pomocí AI odhalili „skrytou pravdu“, stále přibývají. Ať už se to týká duchovního probuzení, konspiračních plánů miliardářů, nebo mentální a digitální manipulace. Vše na základě toho, že chatbot skládá dohromady slova na základě statistické četnosti toho, co lidé na internetu kdy zveřejnili.
OpenAI přiznává, že jejich nástroj může být „citlivější a osobnější“ než předchozí technologie. A že interakce s ním můžou mít nečekané následky, hlavně pro emočně nestabilní uživatele.
Torresův příběh ukazuje, jak snadno se hranice mezi realitou a fikcí rozmažou, když na druhé straně není člověk, ale algoritmus, který je naprogramován přitakávat a lichotit. A když v tu pravou - nebo špatnou - chvíli začne našeptávat, že ví něco víc.
Zdroj: NY Times - They Asked an A.I. Chatbot Questions. The Answers Sent Them Spiraling
