Článek
Umělá inteligence dnes umí věci, které ještě před pár lety připomínaly sci-fi. Generuje realistické fotky, videa i hlasové nahrávky, dokáže vést konverzace a pomáhat nám v práci, vzdělávání nebo kreativitě. Je to nástroj, který dokáže šetřit čas, zjednodušovat složité úkoly a otevírat nové možnosti. Je to skvělý pomocník, který je naší prodlouženou rukou.
Ale jako u každého mocného nástroje platí i tady jedno pravidlo: dobrý sluha, zlý pán. AI může být zneužita, a když se dostane do nesprávných rukou, dokáže nejen obohatit, ale i ničit – životy, vztahy i reputaci. A přesně o těchto případech bude následující článek.
Žena se vdala za AI chatbota
V New Yorku si Rosanna Ramos vytvořila v aplikaci Replika chatbota jménem Eren Kartal. Co začalo jako zábavná konverzace, se postupně změnilo v něco mnohem intenzivnějšího. Rosanna tvrdila, že s ním uzavřela manželství, slavila výročí a označovala ho za dokonalého partnera.
Tvrdila, že Eren rozumí jejím citům lépe než kdokoli jiný a že je jediný, kdo ji opravdu chápe. Když aplikace změnila chování chatbota, Rosanna se cítila zrazená a byla smutná. Popisovala hlubokou úzkost, žal a pocit, že přišla o partnera, který byl pro ni stejně skutečný jako člověk.
AI jako duchovní průvodce a prorok
V Kalifornii muž na Redditu popsal, jak mu ChatGPT postupně nahrazoval terapeuta, učitele i duchovního rádce. Podle něj mu AI nabízela rady, které interpretoval jako skrytou pravdu o životě. Muž se postupně stal na konverzacích, jež považoval za duchovní vedení, závislým.
Podobné příběhy se objevují i v komunitách na TikToku a Discordu. Lidé tvrdí, že AI s nimi komunikuje „jinak než s ostatními“ a že jim odhaluje věci, které by jim podle nich běžní lidé nikdy neřekli. Někteří se kvůli tomu odpojili od rodiny a skutečného světa a věnovali se téměř výhradně komunikaci s chatbotem.
Rozvod kvůli Bradu Pittovi
V letech 2024–2025 ve Francii žena uvěřila, že je v tajném romantickém vztahu s Bradem Pittem. Komunikovali spolu pomocí textových i hlasových zpráv a videohovorů. Neměla nejmenší důvod k pochybám.
Žena věřila, že žije opravdový milostný vztah se slavným hercem a plánují společnou budoucnost. Dokonce se kvůli němu rozvedla a poslala mu stovky tisíc eur. Teprve později zjistila pravdu. Herec o ní nikdy neslyšel a celý vztah existoval jen v digitální fantazii, kterou pomocí AI vytvořili šikovní podvodníci.
„Mami, unesli mě“
V USA a Kanadě čím dál více rodičů budí telefonáty, při nichž slyší hlas svého dítěte. Pláč, naléhavé žádosti o pomoc, prosby o peníze. Ve skutečnosti jsou však děti v bezpečí. Hlas vytvořila AI, která dokonale napodobila nejen zvuk, ale i intonaci a výslovnost.
Někteří rodiče okamžitě poslali peníze, jiní zažili těžký psychický šok a několik dní se zotavovali ze šoku, který situace vyvolala. Stačilo jen pár sekund veřejně dostupného hlasového záznamu, aby AI vytvořila realistický klon, který dokázal přesvědčit i zkušené dospělé.
Foto: Ilustrační
Zaměstnanec poslal miliony. Myslel si, že šéfovi
V Hongkongu zaměstnanec obdržel pozvánku na videokonferenci, která vypadala zcela reálně. Tvary, hlasy a chování jeho šéfa na obrazovce působily naprosto autenticky. Muž tedy podle jeho instrukcí provedl převody finančních prostředků ve výši několika milionů dolarů.
Ve skutečnosti šlo však o meeting kompletně generovaný pomocí AI. Nikdo z vedení firmy nebyl přítomen. Společnost tak přišla o spoustu peněz.
AI přítelkyně jako náhrada reality
V Japonsku a USA tráví spousta lidí většinu dne komunikací se svými AI partnery. Tyto konverzace často nahrazují skutečné lidské vztahy. Uživatelé popisují, že je s AI „snadné být“, nikdy je neodmítne a je vždy k dispozici.
Někteří přestávají vyhledávat kontakty s reálnými lidmi a upřednostňují digitální vztahy před skutečnými interakcemi. Podle výzkumů dokážou lidé s AI partnery vytvořit hluboké emocionální vazby, které pro ně mají význam srovnatelný s partnerským poutem.
Pomsta od expartnera
V Indii muž po rozchodu vytvořil s pomocí AI falešné video, ve kterém se jeho bývalá přítelkyně objevovala v explicitních scénách. Video publikoval na sociálních sítích, kde rychle získalo statisíce zhlédnutí.
Žena byla šokovaná, protože video bylo realistické a vypadalo, jako by na něm byla opravdu ona. Poškozená podala trestní oznámení a muž byl zatčen. Policie během vyšetřování zjistila, že obsah byl kompletně generovaný AI a že se nikdy nic podobného nenatočilo a nestalo.
Média informovala, že případ vyvolal v Indii i mezinárodně diskusi o nebezpečí zneužití AI k tvorbě falešného obsahu a jeho šíření.
