Článek
Kosmonaut se probral. Byl ve stínu v náručí rychlého robota Rychlíka.
„Ježkovy voči, co tady děláte?“, ptal se vyplašeně robot. „A co já tady vlastně dělám?! Vůbec nevím co se stalo.“
Kosmonaut vše naráz pochopil.
Robot ho pak dopravil do kosmické lodi a vše se tím skončilo.
Problém byl v tom, že Rychlík, když byl u selénového jezírka zjistil, že může být pro něho nebezpečné a chtěl se vrátit. Ale když se otočil, příkaz člověka donést selén převážil a otočil se zpátky k jezírku a tak dokola. Tento zacyklený stav vyřešil tím, že začal jezírko obíhal maximální rychlostí aby byl v rovnováze mezi příkazem člověka a nebezpečím z jezírka. Kdyby totiž selen nenabral, člověku by tím neuškodil a sebe poškodil takže ho nabrát nemohl. Nemohl však ani odejít nebo se vrátit.
Jediný způsob jak ho ze zacyklenosti dostat bylo vystavit se riziku života co způsobilo že robot okamžitě jak to spozoroval protrhl zacyklenost a přiběhl na pomoc.
Tohle je tedy jedno z nebezpečí AI - robot může ve snaze člověku pomoct člověku uškodit - když je například pomalý … nebo se ztratit, když neví co dál.
