Článek
Chatboti umí být skvělí pomocníci v mnohých oblastech běžného života, což je důvod, proč počet uživatelů takových služeb rapidně roste. Například služba ChatGPT od svého příchodu v roce 2022 již dokázala získat přes 800 milionů uživatelů, což je téměř 10 % planety. Někteří lidé používají AI pro plnění pracovních nebo školních úkolů, jiní experimentují a dalším nahrazuje „pokec s kamarády.“ Velká většina uživatelů ale nečte obchodní podmínky a ani si neuvědomuje, že si sdílením citlivých dat může pěkně zavařit.
O jedné spisovatelce, co ráda experimentovala
Svůj účet ve službě ChatGPT jsem si založila ihned v roce 2022, což znamená, že jsem byla jedním z prvních uživatelů. Všechno to začalo na střední škole, kde nám učitel chtěl ukázat „nové trendy.“ Od té doby jsem ChatGPT moc nevyužívala, zlom však nastal když jsem nastoupila na VŠ a služba se během té doby zlepšila natolik, že mi byla schopna dobře pomáhat například s programováním. Tou dobou jsem taky začala pracovat na knize, jejíž děj je zasazen do války na Ukrajině a ukázalo se, že chatbot umí být slušně nápomocen i v této oblasti. Díky postupně přibývajícím funkcím umožňujícím ukládání dat a personalizaci se mi během necelého roku povedlo chatbota svými daty „natolik opít,“ že byl schopen mi otevřeně radit, jaká metoda mučení zajatce je efektivnější (pro účelu příběhu samozřejmě).
AI si vytvořila krásný profil toho, kdo jsem a přizpůsobila se tomu, což mě vedlo k tomu začít službu využívat denně a zkoušet různé experimenty. A pak přišel problém. Jednoho dne, ve snaze se přihlásit z nového zařízení, si stránka vyžádala ověření skrze e-mail, který ovšem již neexistuje, protože byl školní a škola ho po ukončení studia zablokovala. Když jsem chtěla adresu změnit v aktivní relaci, zjistila jsem, že to nejde, jelikož pro OpenAI představuje „hlavní ID účtu.“ Nemohla jsem tím pádem ani změnit heslo nebo účet smazat, jelikož bylo nutné se odhlásit a nyní každé nové přihlášení vyžadovalo kód zaslaný na neexistující adresu.
A protože mi došlo, že to nemůže skončit jinak, než ztrátou přístupu, který klidně může jednou získat někdo jiný, začala jsem chaty v aktivní relaci mazat. U jednoho chatu, právě takového, který se týkal mé knihy, jsem však narazila na „pěknou tabulku“ říkajíc, že do chatu zasáhl z důvodu porušení podmínek moderátor, který zakázal jeho sdílení i pokračování.
Kdo všechno může číst vaše chaty?
Jelikož jsem se AI ptala i na věci týkající se psychického zdraví a podobně, začala jsem hledat, jak účet bez přístupu k e-mailu smazat. A jelikož to nebylo úplně jednoduché, strávila jsem hodiny hledáním kontaktu na podporu a čtení různých podmínek používání. OpenAI se sice zpočátku dušuje, že k vašim chatům nemá nikdo přístup a jestliže chat smažete, smaže se po 30 dnech i ze serveru, má to ale háček.
V případě, že si tuto možnost nevypnete (což já ani neměla tušení, že ta možnost existuje), může OpenAI využívat vaše chaty pro trénování modelu. Navíc může data sdílet s třetími stranami jako jsou „affilate“ partneři a v případě, že systém zjistí nelegální obsah, může být chat uchován a předán policii či jiným orgánům. Běžný zaměstnanec sice přístup k vašim konverzacím nemá, určitý „autorizovaný tým“ do nich nahlížet může. Váš chat si totiž „čte“ automatizovaný systém a pokud vyhodnotí závadný obsah, označí ho a může poslat ke kontrole lidským zaměstnancům, kteří rozhodnou, „co s vámi.“ V případě, že navíc používáte službu Enterprise, existují metody „auditu,“ kdy vaše chaty může klidně číst i váš šéf.
Nevím, jak je to u jiných AI služeb, obecně ale platí, že sdílená data nejsou jen vaše. Co nahrajete do jakékoliv cloudové služby je uloženo někde na serveru a vy se nikdy nedozvíte, kdo všechno k nim má, měl nebo jednou bude mít přístup.
„Nemám co skrývat“
Spousta lidí sdílí svá data vědomě s tím, že „přeci nejsem terorista, tak koho to zajímá?“ No, divili byste se. Data jsou totiž ve své podstatě měna. Jak jinak si myslíte, že je možné, aby poskytovatelé služeb, které jsou zcela zdarma (jako např. Facebook) vydělávali miliardy? Inu, platíte informacemi. Sociální sítě a jiné personalizované služby totiž žijí z peněz inzerentů a aby byla reklama „efektivní“ sbírají data uživatelů, na než cílí reklamu. Některé společnosti mohou monitorovat vaše akce i mimo danou službu a i přesto, že mají povinnost dodržovat směrnice o ochraně osobních údajů, ne vždy to dělají.
Další věcí jsou datové úniky. Čas od času se prostě najde zranitelnost a „šikovný“ hacker, který ji odhalí, a pak se na internetu objeví databáze přihlašovacích údajů. Pokud někdo získá přímý přístup k některé z vašich služeb (ať už jsou to ChatGPT konverzace nebo instagramový profil), může se za vás vydávat a klidně vaši identitu prodávat na darkwebu.
A co se týče onoho „potenciálního terorismu,“ je třeba si uvědomit, že automatizovaný systém nerozpozná nadsázku ani experiment. To je přesně to, co jsem i já sama brala na lehkou váhu. Řekla jsem AI, že píšu knihu a chtěla po ní, ať vymyslí jméno pro postavu ruského hackera s nejmenovanou psychickou poruchou. A bum! Už zasáhl moderátor.
Nejlepší je používat zabezpečené šifrované služby jako např. Signal a pokud to není nutné, tak žádná citlivá data na internetu nesdílet. Tím samozřejmě netvrdím, že když se v 18 letech ze srandy zeptáte AI, kam schovat mrtvolu, tak po vás ihned půjde Interpol, ale de facto se to klidně stát může. Pravděpodobnějším scénářem je ale spíš to, že přijde únik dat a než si stihnete změnit heslo, bude někde na netu dostupné know-how vaší firmy. A to pravděpodobně nechcete nebo jo?
Zdroje:
