Článek
Chatboti odpovídají plynule. Někdy vtipně. Někdy až podezřele chytře.
Tak kde se bere ten pocit, že rozumí, a proč je dobré mu úplně nepodlehnout?
Položili jste někdy otázku umělé inteligenci a měli pocit, že chvíli přemýšlí?
Že zvažuje možnosti, reaguje citlivě nebo dokonce má názor?
Nejste sami. Jazykové modely dnes mluví tak přirozeně, že je snadné zapomenout, že na druhé straně není člověk. A právě tady začíná zajímavý problém, ne technický, ale lidský.
Protože nejde o to, jak AI funguje, ale jak na nás působí.
Když stroj mluví jako člověk
Velké jazykové modely dnes
- odpovídají v souvislých argumentech,
- přizpůsobují tón konverzace,
- navazují na předchozí odpovědi,
- někdy dokonce působí empaticky.
To všechno jsou věci, které máme spojené s lidskou komunikací. Jazyk pro nás totiž není jen nástroj, je to znak myšlení, porozumění a vztahu.
Takže když něco mluví jako člověk, je těžké se ubránit dojmu, že tak trochu člověkem je.
Ale není.
A přesně tady přichází ke slovu třívrstvý model „psychologie“ jazykových modelů.
Psychologie v uvozovkách
Tenhle model neříká, že by AI měla mysl, vědomí nebo pocity.
Naopak. Autor otevřeně přiznává, že jde o metaforu.
Psychologický jazyk tu slouží jako způsob, jak si uspořádat zkušenost s tím, co AI dělá.
A funguje překvapivě dobře.
Model rozlišuje tři vrstvy chování, které se při odpovídání různě kombinují. Díky nim začneme chápat, proč je někdy chatbot otravně mechanický, a jindy skoro až děsivě lidský.
Povrchová vrstva: když AI mluví jako formulář
Znáte to.
Zeptáte se na citlivé téma a odpověď přijde
- okamžitě,
- formálně,
- skoro vždy stejná.
To je povrchová vrstva.
Rychlé, reflexivní reakce na určitá slova nebo situace.
Je to jako automatická hláška:
„Děkujeme za váš dotaz. Bohužel…“
Nevypadá to lidsky. A ani nemá.
Ale tahle vrstva je důležitá, zajišťuje stabilitu a bezpečnost. Jen nám zároveň připomíná, že mluvíme se strojem.
Vrstva charakteru: proč má AI styl
Teď něco zajímavějšího.
Povídejte si s chatbotem déle a všimnete si, že
- odpovídá podobným tónem,
- strukturuje odpovědi podobně,
- drží si určitý styl.
Najednou máte pocit, že
Aha, takhle on mluví.
To je vrstva charakteru.
Ne proto, že by si AI vybrala osobnost, ale proto, že určité typy odpovědí jsou pro ni pravděpodobnější než jiné.
Výsledek?
- působí konzistentně,
- nepůsobí náhodně,
- a velmi snadno v nás vyvolá dojem osobnosti.
Tady se rodí antropomorfizace. A tady je dobré být opatrný.
Prediktivní vrstva: zdroj wow efektu
A teď to nejhlubší.
Ve chvílích, kdy:
- chcete kreativní nápad,
- složitou analýzu,
- nečekané propojení témat.
AI často zazáří.
Tahle prediktivní vrstva je motor všeho
- kombinuje obrovské množství jazykových vzorců,
- simuluje různé světy významu,
- vytváří odpovědi, které působí hluboce a originálně.
A tady vzniká nejsilnější iluze inteligence.
Ale pozor, nejde o porozumění, jen o velmi dobré hádání další věty.
Žádné cíle.
Žádné záměry.
Žádná zkušenost světa.
Jen jazyk.
Proč na tom záleží?
Protože s AI
- mluvíme,
- pracujeme,
- svěřujeme jí úkoly,
- někdy i emoce.
A čím víc působí lidsky, tím víc máme tendenci zapomenout, co ve skutečnosti je.
Třívrstvý model je v tomhle skvělý:
- neodkouzluje AI,
- ale ani ji nepřeceňuje.
Pomáhá nám chápat proč AI někdy působí chytře a jindy úplně prázdně
A hlavně proč to obojí může být pravda zároveň.
Takže… má AI psychologii?
Ne.
Ale mluvit o ní jako by měla může být užitečné.
Pokud víme, že
- je to metafora,
- ne tvrzení o vědomí,
- ale nástroj porozumění.
Pak nám může pomoct
- pracovat s AI realističtěji,
- nepodlehnout iluzi osobnosti,
- a zároveň ocenit, jak silný nástroj to je.
A možná si při dalším rozhovoru s chatbotem řeknete
„Aha, teď mluví povrch.
Tady se ozývá charakter.
A tady už jede ten oceán.“
A to je docela dobrý začátek zdravého vztahu mezi člověkem a strojem.
ZDROJE:
KULVEIT, Jan. A Three-Layer Model of LLM Psychology. LessWrong, 2024. Dostupné online: https://www.lesswrong.com/posts/zuXo9imNKYspu9HGv/a-three-layer-model-of-llm-psychology.
