Článek
Uživatelé a výzkumníci Whisper však hlásí zajímavý fenomén postihující asi 1% nahrávek. Přepsaný text obsahuje věty, které v místnosti nikdo nevyslovil. Případně tiché úseky vyplňuje podivnými slovy, naprosto nesouvisejícími s původním kontextem. Vedou se dlouhé debaty o příčinách.
Fenomén dostal název halucinace. Pravděpodobně se jedná o výsledek způsobu, kterým neuronová síť AI interpretuje přijatá data. Ovšem objevují se domněnky, že technologie komunikuje s duchy nebo nahodile zachytává radiový signál. Na sociálních sítích najdeme mnoho diskuzí, kde uživatelé konkrétní jevy řeší. O co se vlastně jedná?
- Vytváření neexistujících odkazů: Whisper generuje odkazy na různé weby a začne o nich sám od sebe aktivně informovat. Žádné takové stránky ale reálně neexistují. Jde například o hamskey.com.
- Falešné jména a identity: Model může přiřazovat falešná jména osobám v nahrávkách, nebo vytvářet celé fiktivní identity.
- Záhadná slova: Vypsání slov a vět, které vůbec nezazněly. Občas s nepříjemným až děsivým významem. Například výrazy teror, zabitý, nůž vyvolávají ve fantazii uživatelů nepříjemné otazníky. Není se čemu divit, že citlivější povahy Whisper spojují s nadpřirozenými entitami.
- Titulky vytvořil JohnyX nebo Díky za sledování: Tyto fráze souvisí s tréninkem na datech z platforem typu Youtube. AI se pravděpodobně domnívá, že k obvyklé konverzaci patří. Pokud je nezaregistruje, považuje to za technickou chybu a do přepisu je automaticky doplní.
I když většina vědců považuje vzniklé chyby za důsledek algoritmických nedostatků, část veřejnosti v těchto výstupech hledá skrytý význam. Lidská fantazie je nevyčerpatelná a s postupující technologickou úrovní AI se můžeme těšit na stále zajímavější fenomény, které lidský mozek nebude schopen uspokojivě vysvětlit.
Zdroje:
Blog zivotDEVky - Whisper AI se svěřil uživatelům: „Co neřeknete, to si domyslím! Hehe.“
Cornell University - AI speech-to-text can hallucinate violent language
Uměligence - Titulky vytvořil JohnyX: Když AI slyší duchy
Jean Louise Quéguiner - What went wrong with Whisper by OpenAI
