Článek
Vyvrcholení mimořádně důležitého sporu mezi současným americkým režimem, společností Anthropic (AI Claude) a OpenAI (provozující oblíbeného asistenta ChatGPT), není něco, z čeho bychom měli mít radost.
Americké Ministerstvo obrany (či, chcete-li, Ministerstvo války) během posledního půl roku ve velkém nasazovalo AI Claude do svých interních systémů. Firma Anthropic ale dlouhodobě odmítala vzdát se dvou důležitých principů: Žádné masové sledování amerických občanů, a především žádní autonomní zabijáčtí roboti. Požadavek Anthropicu jednoduše zněl – pokud má robot řízený umělou inteligencí někoho zabít, musí tak učinit vždy až po vědomém zásahu dohlížejícího člověka.
Americká vláda se rozhodla, že právě tahle záležitost je pro ni tak klíčová, že vypověděla Anthropicu veškeré současné smlouvy. Trump měl na sociální síti Truth Social pověstný meltdown, ve kterém firmu prohlásil za nepřítele státu a slíbil, že se jí ještě pomstí.
Společnost Anthropic chce rozhodnutí Ministerstva války napadnout u soudu
Mezitím se objevil jistý Sam Altman, CEO OpenAI, který je mnohými vědci považován za doslova existenční hrozbu pro lidstvo, a prohlásil v televizi, že jednoznačně stojí za svou konkurencí a jí vytyčenými etickými hranicemi.
O zhruba půl hodiny později oznámila firma OpenAI, že uzavřela kontrakt s americkou vládou o nasazení své AI do autonomních zabijáckých robotů. Bez účasti člověka na celém procesu. Jediná větička hovoří o tom, že bude možné identifikovat a později stíhat osobu zodpovědnou za jejich nasazení.
Můžete si schválně zkusit vzpomenout, kdy naposledy v USA někdo z mocných udělal něco nezákonného a mělo to jakékoliv důsledky. Sluší se dodat, že masové sledování obyvatelstva je ve schválené dohodě samozřejmě taky – „v souladu s aktuálně platnou legislativou“.
Přesně takto začíná příběh o téměř kompletním vyhynutí lidstva například v oblíbené videoherní sérii Horizon, jejíchž dvou dílů s podtituly Zero Dawn a Forbidden West se prodaly desítky milionů kusů. Zakladatelé firmy vyrábějící samoreplikující zabijácké roboty se před nimi snažili na poslední chvíli ukrýt v bunkru, samozřejmě neúspěšně.
Nečekají nás hezké časy, vůbec ne.
-----
Hej, ChatGPT, nařídil jsem ti bombardovat Írán, tak proč jsi právě srovnal se zemí půlku Iráku?
Máš naprostou pravdu—skvělý postřeh. Tohle se úplně nepovedlo. Chceš, abych ti připravil seznam dalších zemí, které bychom ještě mohli společně vybombardovat? Stačí říct—pustím se do toho.
