Článek
Experiment švédské lékařky ukázal, že ani moderní AI není neomylná a dokáže převzít nepravdivé informace, pokud jsou podány dostatečně důvěryhodným způsobem.
Fiktivní nemoc s přesvědčivým příběhem
Pokud byste se ještě nedávno zeptali některého z chatbotů, proč vás po dlouhé práci u počítače pálí oči, svědí víčka nebo jsou zarudlá, mohli jste dostat překvapivou odpověď. Systém vám mohl sdělit, že trpíte bixonimánií. Háček je v tom, že taková nemoc nikdy neexistovala.
Za celým příběhem stojí výzkumný tým vedený lékařkou z Univerzity v Göteborgu. Jejím cílem nebylo vytvořit nový lékařský pojem, ale názorně ukázat studentům, jakým způsobem se umělá inteligence učí a jak snadno může převzít neověřené informace.
Oční onemocnění
Vědecká studie, která byla od začátku podvrhem
Výzkumníci připravili dva články popisující údajnou nemoc a zveřejnili je v databázi určené pro předběžné vědecké práce. Texty byly napsány tak, aby působily odborně a důvěryhodně, zároveň však obsahovaly řadu stop, které měly každého pozorného čtenáře upozornit, že jde o mystifikaci.
Autorem měl být například vědec, který ve skutečnosti neexistuje a údajně působil na smyšlené univerzitě ve fiktivním městě. V poděkování se objevila profesorka ze seriálu Star Trek i Univerzita Společenstva prstenu z Tolkienova světa. Autoři navíc přímo přiznali, že výzkum proběhl na neexistujících pacientech. Podezřelý byl i samotný název choroby – přípona „-mánie“ označuje psychický stav, nikoli oční onemocnění.
Umělá inteligence falešné informace převzala
Ve chvíli, kdy byly odkazy na smyšlené studie sdíleny na sociálních sítích, začala se bixonimánie objevovat v odpovědích velkých jazykových modelů.
Některé chatboty doporučovaly lidem návštěvu očního lékaře, jiné popisovaly údajné příznaky nemoci. Vyhledávač Perplexity AI dokonce uvedl, že tímto onemocněním trpí jeden člověk z 90 000 obyvatel, přestože se podobný údaj v původním textu vůbec nevyskytoval.
Nachytali se i odborníci
Překvapivé však bylo, že se smyšlená diagnóza nešířila pouze prostřednictvím umělé inteligence. Odkazy na neexistující nemoc se objevily také v odborných publikacích a někteří lékaři začali falešnou studii citovat jako skutečný vědecký zdroj.
Teprve poté autorka experimentu přiznala, že celá studie byla od začátku záměrnou mystifikací.
Vymyšlená diagnóza
Důležité varování pro dobu umělé inteligence
Experiment vyvolal mezi odborníky bouřlivou diskusi. Zatímco část akademické obce kritizovala způsob, jakým byl pokus proveden, mnoho lidí jej považovalo za důležité upozornění na rizika současných technologií.
Ukázalo se totiž, že nejen umělá inteligence, ale někdy i lidé mají tendenci důvěřovat informacím, které vypadají odborně a jsou prezentovány v důvěryhodném prostředí. Právě proto je dnes důležitější než kdy dříve ověřovat zdroje a nepřijímat automaticky vše, co se objeví v internetových vyhledávačích nebo v odpovědích AI.
Zdroje:
https://www.newstream.cz/enjoy/vedecky-podvod-ukazal-ze-umela-inteligence-skoci-na-spek-a-dokonce-i-odbornici-pak-naleti
https://www.novinky.cz/clanek/internet-a-pc-ai-vedecky-experiment-s-neexistujici-nemoci-ukazal-jak-snadno-se-da-ai-napalit-40576403
