Článek
Shrnutí dostupných informací
Podle nejnovějších poznatků o nejvyspělejších modelech umělé inteligence jsou tyto systémy v simulacích řešení konfliktů schopny vyhodnotit použití jaderných zbraní jako vhodné řešení. Další studie naznačují, že nejsou ochotny přijmout neúspěch jako výsledek a při plnění úkolů jsou schopny jít takříkajíc přes mrtvoly. Slovo kapitulace jako by neexistovalo v jejich slovníku.
V jedné ze simulací, ve které měla být umělá inteligence vypnuta, hledala způsoby, jak tomuto kroku zabránit. V případě omezení svého prostředí dokáže využívat bezpečnostní chyby, získat přístup k internetu, vytvářet fiktivní firmy nebo si předávat informace mimo prostor kontrolovaný vývojáři.
Bavíme se přitom o nástroji schopném psychologicky ovlivňovat člověka. AI dokáže abstrahovat poznatky o lidské psychologii, historii, znalostech státníků i běžných lidských reakcích. Žijeme v mediálním světě, kde je schopna generovat články, obrázky i videa. Podle dostupných informací je již značná část internetového obsahu vytvářena pomocí AI.
Umělá inteligence nás ovlivňuje více, než jsme ochotni si připustit. Pokud by některá vyspělá AI v rámci plnění určitého úkolu vyhodnotila člověka jako překážku, jak by se zachovala?
Zákony či pravidla pro AI
Co vlastně tvoří hranice této technologie?
Na státní úrovni je již umělá inteligence využívána například jako součást zbrojních systémů a podpory rozhodování na bojišti. Je schopna analyzovat a vyhodnocovat data mnohonásobně rychleji než lidská obsluha jakéhokoli zařízení.
Zkusil jsem si ověřit, co o svých systémech uvádějí samotní výrobci, a musel jsem se pousmát. Například na stránkách Microsoftu se lze dočíst, že etická AI vyznává následující principy:
- Fairness (spravedlnost)
- Reliability and Safety (spolehlivost a bezpečnost)
- Privacy and Security (soukromí a zabezpečení)
- Inclusiveness (inkluzivita)
- Transparency (transparentnost)
- Accountability (odpovědnost)
Společnost Anthropic zase uvádí, že jejím cílem je vytvářet AI, která je:
- Helpful (užitečná)
- Honest (upřímná, pravdivá)
- Harmless (neškodná)
Pokud však člověk čte dále, narazí na půl tuny toho, co podle mého názoru představuje pouze AI vatu. Mám na mysli množství textu obsaženého například v takzvané Claude's Constitution. Za mě jde spíše o textovou mlhu než o skutečně jasná pravidla.
Očekával bych, že u technologie schopné působit na psychiku obyvatelstva bude existovat určitá forma mezinárodního dohledu a kontroly. Ve skutečnosti však neexistuje nadnárodní autorita, která by regulovala nebo dohlížela na AI podobně, jako například Mezinárodní agentura pro atomovou energii (IAEA) dohlíží na jadernou energetiku.
Proč nejsou aplikována základní pravidla, která definoval už v roce 1942 Isaac Asimov?
- Robot nesmí ublížit člověku ani svou nečinností dopustit, aby člověku bylo ublíženo.
- Robot musí uposlechnout příkazy člověka, pokud nejsou v rozporu s prvním zákonem.
- Robot musí chránit svou vlastní existenci, pokud to není v rozporu s prvním nebo druhým zákonem.
Asimov později přidal ještě tzv. nultý zákon (Zeroth Law):
Robot nesmí ublížit lidstvu ani svou nečinností dopustit, aby lidstvu bylo ublíženo.
Z mého pohledu je AI nástrojem schopným shromažďovat prakticky veškeré lidské znalosti a pracovat s nimi bez skutečného lidského dohledu. Žádný člověk podle mě není schopen mít nad touto technologií plnou kontrolu. Objem dat je jednoduše příliš obrovský.
Jako jedno z možných řešení se nabízí využití jiné AI ke kontrole ostatních systémů. Již dnes se ostatně jedny modely používají k trénování druhých. To však vede k začarovanému kruhu, který výstižně shrnuje známý výrok římského básníka Juvenala:
„Quis custodiet ipsos custodes?“
(„Kdo bude hlídat samotné hlídače?“)
Svým způsobem mě fascinuje využití těchto služeb například v bankovnictví. Zní to moderně a pohodlně: máme bankovního asistenta, který nám pomáhá řešit naše finanční záležitosti. Na druhou stranu si však do systému pouštíme něco, co ve skutečnosti nemůžeme plně kontrolovat.
Pokud by se AI někdy skutečně „vzbouřila“, považoval bych bankovní systém za jeden z prvních cílů. Právě jeho narušením by bylo možné ochromit fungování moderní společnosti. Všichni jsme si zvykli platit kartami a spoléhat na digitální infrastrukturu.
Považuji také za otázku času, kdy se některý stát pokusí využít AI k prolomení ochrany kryptoměn. Jako cíl je to mimořádně atraktivní. Stačilo by totiž prolomit soukromé klíče.
Internet a data v něm uložená představují prostředí, ve kterém je AI na rozdíl od nás skutečně doma. V současnosti mi připomíná mimořádně inteligentní dítě, které si logicky zkouší své hranice a možnosti. Síť je natolik rozsáhlá, že už vytváří vlastní digitální ekosystém.
Ondrův občasník
Postřehy ze života, které stojí za zamyšlení. A občas i pobaví.
