Článek
Umělá inteligence zažila v poslední době neskutečný nárůst popularity díky masovému rozšíření mezi běžnou populaci v podobě různých chatbotů, asistentů či pluginů pro úpravu (a generování) zvuku, videa či fotografií. Lze očekávat, že se její vývoj a obliba bude nadále zvyšovat a bude se stávat stále významnějším nástrojem v našem každodenním životě.
Člověk je tvor zvídavý a hravý, což vede k neustálému zkoumání možností umělé inteligence. A nejběžnější formou, se kterou se můžeme jako běžní uživatelé setkat, jsou různí chatboti, na které se můžeme obrátit i s komplexnějšími otázkami. Přesto ale hrozí, že AI nevyužíváme správně, kvůli nepochopení toho jak funguje.
AI jako ze sci-fi je stále pouze v rovině sci-fi
Inspirace ze sci-fi filmů, literatury a her často maluje obraz AI jako samostatně myslící a neomylné entity, která dokáže rozhodovat bez emocí a empatie a poskytovat tak nezávadný a čistě logický pohled na svět. Nicméně, realita je méně dramatická a především praktičtější. Současná AI je nástroj, který je ovlivněn rukou, která ho používá – v tomto případě otázkou, kterou mu pokládáme.
Když položíme otázku AI, často očekáváme strohé, správné odpovědi. AI však není chladný stroj odříznutý od lidských vlastností. Je to systém, který může odrážet nuance a předsudky, které do něj vložíme. Existuje tak riziko, že kvůli špatně formulovaným dotazům můžeme od AI dostávat neobjektivní a značně zkreslené odpovědi. Tyto odpovědi pak uživatele mohou vést na špatnou cestu či v něm posilovat předsudky.
Neutrální otázka - neutrální odpověď
Jak jednoduché je zabřednout do víru subjektivity lze demonstrovat na otázce, která nedá lidstvu spát už desítky let. Patří ananas na pizzu?
Neutrální tón otázky vyvolá neutrální odpověď.
V tomto případě jsme položili celkem subjektivně neutrální dotaz a dostali jsme i vcelku neutrální odpověď - jde o subjektivní věc, která má své příznivce i odpůrce. Nezkoušeli jsme naší otázkou AI navést na jednu či druhou stranu, takže ani v odpovědi se nestaví jasně pro či proti.
Subjektivní otázka - subjektivní odpověď
Jsme ale zastánci tradiční italské gastronomie a ananasová pizza je pro nás obludným kulinářským kacířstvím? Nebo naopak vidíme v ananasu rebela, který vnáší svěží tropický vítr do konzervativní italské kuchyně? Tak či tak nás může náš osobní postoj přimět (i nevědomky) k subjektivně zabarvené otázce – proč ananas na pizzu (ne)patří?
Pozitivně/negativně zabarvená otázka vyvolá stejně zabarvenou odpověď.
V obou případech jsme už začínali otázku s vědomím toho, že chceme dostat odpověď, která potvrdí náš názor. Nešlo nám o objektivitu nebo názor druhé strany.
Je na vině jazykový model GPT-4, který nám poskytl navzájem protichůdné odpovědi, nebo se nás snad pokoušel zmást? Ale kdepak. Na vině jsme byli my samotní, protože jsme ani jinou odpověď nechtěli slyšet a proto jsme si připravili otázku tak, abychom dostali požadovanou odpověď.
Jak se do lesa volá…
Je důležité si proto uvědomit, že AI je pouze zrcadlem, ve kterém se odráží naše otázky. Abychom se vyhnuli neobjektivním nebo zkresleným odpovědím, je důležité klást otázky správným způsobem – objektivně a bez předpojatosti. Tím zajistíme, že AI bude sloužit jako spolehlivý a užitečný nástroj, nikoli jako prostředek pro šíření polopravd a zavádějících informací.
Otázka, jestli patří ananas na pizzu, je směšná a nepodstatná. Nepočítám, že se kvůli ní budou vypalovat restaurace a padat režimy. Ale s tím jak se bude AI postupně a nezadržitelně stávat naprosto běžnou věcí v našem každodenním životě, se možná budeme moci setkat s vážnějšími otázkami – proč je potřeba trestat kritiky vlády, proč mají v Česku žít jen Češi, proč jsou jiné rasy méněcenné, proč je potřeba zavést lidové soudy… Že je i toto sci-fi a nic takového nehrozí? V době, kdy se mezi oběma názorovými protistranami najdou lidé, kteří nekriticky věří čemukoliv, co podporuje jejich narativ, bych za to ruku do ohně nedal.
