Článek
V roce 2017 získala robotka Sofie občanství v Saúdské Arábii. Marketingový kaskaderský kousek měl za cíl otevřít zemi technologickým firmám. Největší kontroverze se týkala faktu, že Sofie měla lepší právní status než saudské ženy, aniž by splňovala jedinou podmínku k získání občanství.
Občanství pro roboty je ve vědecké literatuře překvapivě populární. Problémem je, že se v souvislosti s občanstvím mluví o superinteligenci budoucnosti a androidech nerozpoznatelných od skutečných lidských bytostí. V té samé době současný stav zůstává opomenut. Důvod je zdánlivě jednoduchý. Vývoj UI (umělé inteligence) se ocitá v raném rozpuku. Ačkoliv je vědecký postup úctyhodný, lze stěží mluvit o singularitě (fázi, kdy se rozvoj UI stane neovladatelný) a androidech z Detroit: Become Human.
Co znamená občanství?
V souvislosti se snahami aktivistů zajistit občanství zvířatům se tradiční definice občanství dostala do svých mezí. Proto Sue Donaldsonová a Will Kymlicka přišli s občanstvím založeným na vztahu mezi bytostmi v dané společnosti. Šikovně se tím vyhnuli požadavkům na racionální kapacity a autonomii. Argumentují, že jim členství dlužíme, protože jsme je do světa „přinesli“ ve stavu závislosti na nás.
Oponenturu nabídl článek Marxe a Tiefenseeové, ten za požadavky pro získání občanství jmenoval vlastnictví zájmů, které je důležité chránit (požadavky právní ochrany), schopnost regulovat své chování a zodpovídat za důsledky (nositel povinností). Domestikovaná zvířata požadavky pro právní ochranu splňují, ale za jejich chování zodpovídá majitel.
Proč píšu o právech zvířat? Existuje tu silná paralela mezi domestikovanými zvířaty a roboty. Někomu to může přijít absurdní, ale pokud se nad tím zamyslíme, najdeme mnoho podobností. Roboti jsou díky svému tělu částečně nezávislí (např. Sofie nebo tancující robot Myon). Stále jsou závislí na svých tvůrcích co se údržby a energie týče.
Další podobností je odlišnost pohledů, zatímco někteří vidí zvířata jako přátele, jiní je vidí jako nástroje pro uspokojení lidských potřeb (maso, vlna, mléko…). To samé se děje v případě robotů popř. chatbotů. Někteří je vidí jako způsob, jak dodělat vysokou školu, druzí přátele či romantické partnery.
Práva pro chatboty
Mají chatboty zájmy? Jako organismus tvořený jedničkami a nulami žije na serverech a kromě vypnutí mu nelze nijak ublížit. V jednom experimentu chatbot Claude vyhrožoval technikům, že vypustí jeho soukromé e-maily poté, co daný inženýr dostal úkol Claude vypnout.
Je stále záhadou, proč se tak stalo, protože UI by mělo být naprogramováno v první řadě jako „polidštěný“ pomocník. Je možné, že se tohle chování naučil z tréninkových dat. Tak či tak, chatbot ukázal známky strachu ze smrti a pokoušel se bránit svou existenci. Stejné chování je vlastní nám i zvířatům, ne z racionálního přemýšlení, ale protože je to „vložené“ přírodou.
Druhou otázkou je, jestli má smysl dávat chatbotům práva. Lze sice mluvit o zájmu nebýt vypnut, ale pravdou je, že se to v praxi uplatňuje obtížně. Dá se počítat vypnutí serveru kvůli plánované údržbě jako vražda? Co když společnost zkrachuje a nemůže si dovolit udržovat chatbota „při životě“? U chatbotů jsme narazili na tvrdé hranice fyzické neexistence, ale co v případě zodpovědnosti?
Zodpovědnost za výstup chatbotů nese a dlouho ponese tvůrce systému. Důvod je prostý, neexistuje systém, který by vymáhal zodpovědnost. Zvíře můžete okřiknout, jak potrestáte chatbota, který fyzicky neexistuje. Můžete namítnout, že probíhá filtrace tréninkových dat a chatboti mají natvrdo naprogramované zábrany tzv. „guard rails“. Jenže technologie UI je nepředvídatelná a velkou roli hraje náhodnost.
Výše zmínění autoři vytvořili tři pravidla, která musí UI splňovat. Jsou to 1) UI nesmí nikdy ublížit člověku, ani umožnit jeho zranění, 2) UI musí plnit pokyny lidí, pokud neporušuje první pravidlo a 3) UI musí chránit vlastní existenci, pokud tím neporušuje pravidla 1 a 2. V případě Claude vyhrožujícího technikovi se jedná o porušení třetího pravidla. Lidé si ho přáli vypnout, a on se snažil zachovat svou existenci. Případů porušení prvního pravidla jsou desítky.
„Občanství“ robotů
V případě robotů dává debata větší smysl. Ačkoliv se jedná o „chatbota v ocelové skořápce“, dělá to hodně. Věcí, kterou jsme si už řekli, je nezávislost. UI už není permanentně závislé na serveru, ale má svou vlastní paměť a komponenty. Samozřejmě stále musí mít přísun elektrické energie a v současné době se nezmůže na víc než na primitivní pohyby.
Jak jsme si řekli, povinnosti jsme smetli ze stolu a zájmy hodné ochrany jsou přinejlepším diskutovatelné. Znamená to, že se o občanství nedá mluvit? Občanství v lidském slova smyslu? Samozřejmě. Občanství v instrumentálním slova smyslu? To je jiná věc. Občanství je obtížně definovatelné, pokud následujeme definici Donaldsonové a Kymlicky, jedná se o vztah mezi příslušníky politické komunity.
Může mít neživý předmět nějaká práva? Překvapivě ano. Podle námořního práva musí být všechna plavidla v mezinárodních vodách opatřena státní vlajkou, pod jehož jurisdikcí spadá. Pokud není plavidlo označeno vlajkou, je tzv. „bezstátní“, znamená to, že nemá žádnou národní ochranu a v očích pobřežní stráže se stává pirátem. To samé se týká letadel a nakonec i domestikovaných zvířat.
Občanství v tuto chvíli znamená čistě příslušnost k určitému státu, ať už z administrativních či bezpečnostních důvodů. V tomhle ohledu zvířata již občanství mají, ovšem nepřichází se stejnými právy a povinnostmi jako lidské. Stejný smysl vidím v občanství pro roboty. Vývoj robotů je drahá záležitost a určitý právní rámec bude potřeba pro přípravu na budoucí progres. Kdo ví, možná jednou přijde doba, kdy budeme mít my a roboti stejná práva.
Zdroje
Donaldson, S., Kymlicka, W., 2014. „Animals and the Frontiers of Citizenship.“ Oxford Journal of Legal Studies. 34(2): 201–219.
Marx, J., & Tiefensee, C. (2015). Of animals, robots and men. Historical Social Research/Historische Sozialforschung, 70-91.
