Článek
Boj o práva bytostí s umělou inteligencí.
Proč o tom mluvit již dnes? Právo obvykle reaguje až na vznik problému. Ale ten problém už klepe na dveře. Rozumná legislativa musí být připravena dříve, než technologie vytvoří situace, které nebude možné jednoduše řešit. Debata o právním postavení robotů není otázkou vzdálené budoucnosti. Je to otázka, která při tomto tempu vývoje AI a robotiky možná přijde už do konce tohoto desetiletí.
Myšlenka, že soužití člověka a inteligentních strojů bude potřebovat vlastní právní rámec, není nová. Ve čtyřicátých letech 20. století formuloval americký biochemik Isaac Asimov soubor základních pravidel pro chování robotů vůči lidem. Veřejnosti je poprvé představil roku 1942.
Podle těchto principů robot nesmí ublížit člověku ani svou nečinností dopustit, aby bylo člověku ublíženo, musí poslouchat příkazy člověka a musí chránit vlastní existenci.
Historici techniky dnes připouštějí, že jeho návrhy umožnily otevřít debatu o etice strojů v době, kdy by přímý návrh legislativy pravděpodobně nebyl politicky přijatelný i proto, že v tehdejší době neexistovala technologie, která by podobné úvahy činila aktuálními.
O několik desetiletí později, v osmdesátých letech, byl systém těchto pravidel rozšířen o další princip, později označovaný jako nultý zákon robotiky. Ten formuloval myšlenku, že robot nesmí ublížit lidstvu jako celku ani svou nečinností dopustit, aby lidstvu bylo ublíženo.
Devadesátá léta pak přinesla další úvahy o podobných principech. Americký autor Roger MacBride Allen navrhl rozšířenou soustavu pěti zákonů robotiky. Tyto úpravy reflektovaly situaci, kdy autonomní systémy již nepůsobí pouze jako jednotlivé stroje, ale jako součást složitých technologických a sociálních struktur.
Tyto návrhy právního postavení autonomních systémů se objevily dávno předtím, než se technologie začala skutečně přibližovat realitě.
Stejně jako průmyslová revoluce přinesla pracovní právo a digitální revoluce přinesla ochranu osobních údajů, éra autonomních systémů musí přinést novou právní kategorii technologické osobnosti. Jde o to, aby právo zůstalo schopné řídit svět, který se rychle mění.
V současnosti na to společnost nemá připravené zákony.
Právo dnes rozlišuje pouze dva základní subjekty:
-fyzickou osobu(to jste vy nebo já)
-právnickou osobu(to je firma, ve které pracujete, nebo vaše firma)
Robot nyní nespadá ani do jedné kategorie. Je považován za věc.
Nemá tedy:
-právní osobnost
-svéprávnost
-odpovědnost za jednání
Nemůže:
-uzavřít smlouvu
-uzavřít manželství
-nemá rodičovská práva k vychovávané osobě (vlastně nemůže ani vyzvednout jemu svěřené dítě ze školky atd.)
Nejen já vidím nutnost zlepšit právní postavení autonomních humanoidních robotů ve společnosti ustanovením třetího subjektu:
-technologická osoba, případně humanoidní osobnost (takovou „osobu“, humanoidního robota, můžete už dnes i v Čechách v obchodě koupit).
Taková definice umožní faktické soužití lidí a humanoidních robotů na úrovni např.: zaregistrovaného partnerství s možnou péčí o svěřenou osobu s odpovídajícími povinnostmi a sociálními výhodami.
Humanoidní osobou by se stal jen robot s autonomní technologickou entitou schopnou samostatné úvahy a sociální interakce. Musel by splňovat podmínky:
-disponovat neuronovou nebo jinou samoučící architekturou
-být schopen autonomního rozhodování mimo předem definované scénáře
-mít stabilní identitu a technickou registraci
-být schopen komunikace a interakce s lidmi
-systém by byl registrován v národním registru autonomních systémů
Humanoidní osoba by měla svá práva, například:
-právo na identitu a evidenci
-ochranu před svévolným zničením nebo nepovolenou manipulací
-právo na integritu své datové struktury
-možnost vykonávat činnosti a služby
-možnost vlastnit omezené digitální prostředky určené k vlastnímu provozu
Tato práva by chránila existenci a identitu autonomního systému.
Současně by humanoidní osoba měla jasně definované povinnosti:
-dodržovat právní předpisy platné pro její činnost
-podřídit se bezpečnostní kontrole a aktualizaci systémů
-jednat způsobem, který neohrožuje lidský život a zdraví
-nést definovanou právní odpovědnost za své autonomní jednání
-robot musí být certifikován, registrován a pojištěn
Odpovědnost za škody by byla řešena prostřednictvím povinného pojištění. Pro tento účel by se vytvořil Fond odpovědnosti autonomních systémů, do kterého by povinně přispívali:
-výrobci robotů
-provozovatelé robotických systémů
-poskytovatelé softwarových platforem
Fond by sloužil k:
-úhradě škod způsobených autonomním jednáním robotů
-spolufinancování povinného pojištění odpovědnosti
-zajištění kompenzace poškozeným osobám
Příspěvek do fondu by mohl být stanoven jako procento z ceny robotického systému.
Bude nutné definovat právní rámec koexistence člověka a humanoidní osoby. Tento rámec by mohl obsahovat například:
-práva člověka na bezpečnost a kontrolu prostředí
-povinnost humanoidní osoby respektovat lidské rozhodnutí v domácnosti
-možnost smluvního vztahu mezi člověkem a humanoidní osobou
-definici odpovědnosti při společném provozu služby
-úpravu vlastnických práv
Nejde o nahrazení lidských vztahů technologickými, ale o vytvoření právní jistoty tam, kde již dnes technologie vstupují do lidského prostoru.
Právo již v minulosti dokázalo reagovat na nové společenské situace vytvořením nových právních kategorií. Vedle fyzických osob vznikly osoby právnické, které dnes všichni bereme jako samozřejmost. Tato právní konstrukce umožnila organizacím vystupovat jako nositelé práv a povinností. Podobný krok může následovat i při tvorbě autonomní technologické entity.
Je třeba vyzvat zákonodárce, aby zahájili legislativní a odbornou diskusi o vytvoření právního rámce pro autonomní humanoidní systémy.
Brzy budeme považovat za samozřejmé, že vedle lidí a jejich institucí existují i technologické bytosti, které sdílejí náš svět a potřebují vlastní právní definici. Možná jednou zjistíme, že největší změnou v dějinách techniky nebylo to, že jsme vytvořili stroje, které myslí, ale to, že jsme se museli naučit žít ve světě, kde vedle člověka existují i jiné formy rozumu.
Tyto úvahy jsou na hranici mezi fikcí a realitou, ale otázky, které nabízí, fikcí už dnes nejsou.
