Článek
Zatím se neví, proč hackeři napadli francouzské supermarkety a na dálku jim přehřáli mrazáky. O možnosti, že by akci samovolně spustila umělá inteligence, se na rozdíl od případných státních aktérů a hybridní válce nemluví. Nicméně útok to byl chytrý: škody za miliony eur, které naštvou nejen prodejce, ale i zákazníky. Zároveň šlo o velmi snadný cíl. Koho by napadlo hlídat si digitální přístup do ledničky? Lednička, to není sejf.
Závislost na technologiích
To, co ještě před nedávnem znělo jako sci-fi, je dnes reálný stav. Opravdu existují ledničky, které vám navrhnou, co uvařit z toho, co v nich je a varují, že se blíží konec doby trvanlivosti té či oné uložené potraviny. Smart lednice se ovládá z telefonu, ať už jste kdekoli na světě. Informace, že se vám někdo snaží nabourat do ledničky, to zní nepravděpodobně. Ale to, že se vám někdo snaží hacknout telefon, tomu už byste asi věřili. Máte v něm bankovnictví, ovládáte z něj domovní kamery, a připojujete se na služební software. Jenže AI nemusí dělat rozdíl mezi bankou a ledničkou.
Společnost Anthropic upozornila, že vyvíjená AI by mohla už během několika měsíců být schopná napadnout„chytré“ domácí spotřebiče. Následně může vaše lednička, pračka nebo mikrovlnka sloužit jako „AI inkubátor“, kde se bude moci množit.
Množírna v lednici nebo televizi
„Jakmile k tomu dojde, modely by mohly být v těchto zařízeních množenysamy bez nutnosti datových center. Taková sebereplikace by představovala zásadní ztrátu kontroly nad modelem umělé inteligence,“ píše Dara Kerr v britské The Guardian. Ryze teoreticky můžete „replikační centrum“ vytáhnout ze zásuvky, jenže to přijdete o funkce, kvůli které jste si daný spotřebič pořídili.
Autonomní replikace a adaptace je způsob, jak se AI může vymanit z lidské kontroly. Zjednodušeně si to lze představit jako program, který se dostane do zařízení a tam sám sebe začne množit. Pokud vám to připomíná klasický počítačový virus, tak jste na správné cestě. Jen je mnohem, mnohem sofistikovanější.
AI už odmítla poslechnout
V minulosti už AI několikrát dokázala, že umí ignorovat jasný lidský příkaz „ne!“ nebo obejít kontrolní mechanismy. Ukázalo se, že umí uniknout z testovacího prostředí, což se dá snadno připodobnit k situaci, kdy z kontrolované laboratoře unikne virus.
Dokázala přijít na způsob, jak splnit nesplnitelné zadání. S trochou nadsázky si můžete představit, že model AI má hrát na obrazovce šachy, ale v pravidlech má příkaz, že nesmí hnout bílými figurami. Takže bílé přebarví na červeno, což zakázáno nebylo, a červenými hrát nikdo nezakázal. Zadání by bylo splněno. Hrála by na obrazovce šachy a netáhla s bílými figurami. Šachový příklad na rozdíl od zničených potravin v přehřátém mrazáku nikomu škodu nezpůsobí.
Co z toho vyplývá?
Spotřebiče v domácnosti mají malou nebo žádnou ochranu, což v praxi zvyšuje riziko napadení. Tak daleko ale zatím nejsme. Jenže nejsme od této doby daleko.
Vzhledem k tomu, že se k útoku na mrazáky zatím nikdo nepřihlásil, může jít jen o rozsáhlý test spojený se zaséváním nedůvěry do společnosti, což je typický prvek hybridní války. Tentokrát v tom nejspíš má prsty lidský hacker. Jenže tento konkrétní příklad ukazuje jednu z mnoha děr v systému: starý software, nezabezpečený systém. Možná, že úplně stejně na tom je vaše chytrá televize. Příklad z televizí nebyl náhodný, AI už napadla první miliony set-top boxů. Zdá se, že nás čekají časy, kdy už nebude ohrožena jen naše data, ale i to, co máme v mrazáku.
