Hlavní obsah

Umělá inteligence a plánování vražedných útoků

Foto: S Matysova, ilustrační obrázek: AI / Gemini

Ilustrační obrázek: AI / Gemini

Proč nás mediální titulky zbytečně straší a jak nás AI ve skutečnosti chrání

Článek

Zpravodajské weby v čele s Novinkami nás zásobují dramatickými zprávami o tom, jak útočníci využívají umělou inteligenci k přípravě násilných činů

Při bližším pohledu na fungování moderních technologií ale zjistíme, že realita je přesně opačná. Místo aby nám AI přinášela nové nebezpečí, stává se naším nejsilnějším štítem.

Stačí se podívat na hlavní stranu dnešního Seznamu a hned na nás vyskočí titulky jako „S plánováním násilných útoků pomáhala AI. Potvrzeno přes 70 mrtvých“. Takové zprávy vzbuzují v nás, běžných čtenářích, dojem, že nás ohrožuje jakýsi digitální mozek zla, který pachatelům radí, jak páchat zločiny. Ve skutečnosti jde ale jen o novinářskou zkratku zajišťující více kliknutí, protože strach a emoce zkrátka prodávají.

Urychlovač při vyhledávání, nikoliv studnice tajných návodů

Je třeba si ujasnit jednu zásadní věc: jazykové modely umělé inteligence nevlastní žádné tajné vědomosti. Učí se z informací, které už na internetu dávno visí a které jim byly zpřístupněny. Pokud si dnes útočník, např. terorista, aktivní střelec, osamělý vlk apod., něco zjistí pomocí AI, rozhodně to neznamená, že bez ní by to nedokázal.

Rozdíl je čistě v rychlosti a pohodlí. Zatímco dříve by pachatel musel strávit čtrnáct dní prohledáváním internetových informací prostřednictvím vyhledávačů, diskusních fór, odborných článků a podobně, dnes mu umělá inteligence tyto veřejně dostupné střípky poskládá do jím požadované „mozaiky“ během půl hodiny. Napsat do titulku, že „násilní útočníci využili AI“, zní pro čtenáře mnohem děsivěji, než napsat pravdu, tedy že si útočníci vyhledali veřejné informace rychleji než dřív. Jde přitom o totéž, jako kdyby nám sdělovali, že k plánování použili internetový prohlížeč nebo online mapy. To by ale nebyla ta patřičná senzace přinášející lajky.

AI jako digitální past na pachatele

Některá média nám už ale zapomínají říct druhou, mnohem důležitější polovinu příběhu. Umělá inteligence totiž dává mnohem silnější zbraně do rukou provozovatelů technologických platforem, bezpečnostních složek a policie než samotným zločincům.

Pokud se potenciální pachatel obrátí na běžného AI chatbota s nebezpečným dotazem, systém ho okamžitě vyhodnotí. U závažných hrozeb, jako je terorismus nebo příprava násilí, mohou provozovatelé nejenže dotaz zablokovat, ale při vyhodnocení konkrétní aktivity jako skutečně nebezpečné mohou v souladu se svými pravidly a právními povinnostmi předat relevantní informace příslušným orgánům. Sám článek navíc naznačuje zpřísňování těchto pravidel pro detekci nebezpečných aktivit ve virtuálním prostoru. Pachatel tedy může svou vlastní činností sám na sebe upozornit, k čemuž dříve docházelo méně často.

A co když se zločinec komerční AI raději vyhne a začne hledat na běžném internetu?

Ani tam už dnes není v bezpečí. Právě umělá inteligence a pokročilé algoritmy dnes mohou nepřetržitě analyzovat obrovské množství dat v online prostoru. Dokážou zachytit v reálném čase podezřelé vzorce chování, propojit zdánlivě nesouvisející vyhledávané výrazy s podezřelými nákupy a včas upozornit na konkrétní osobu nebo IP adresu, z níž podezřelá aktivita pochází. Taková informace pak může policii nebo bezpečnostním složkám posloužit jako důležitá indicie při zjišťování totožnosti konkrétního uživatele.

Policie tak může zasáhnout s dostatečným předstihem, ještě než k jakémukoliv činu vůbec dojde.

Kde zůstává jediná slepá skvrna

Zcela objektivně je nutno říct, že nebezpečí existuje, ale někde jinde. Jedná se o oblast, kde mají bezpečnostní experti oprávněné obavy. Jsou to takzvané otevřené modely, které si může kdokoliv stáhnout do vlastního počítače a provozovat je zcela bez připojení k internetu. V takovém izolovaném prostředí nemusí existovat žádné filtry ani dohled provozovatele.

Tam už AI neslouží jen jako rychlejší vyhledávač, ale dokáže fungovat jako trpělivý soukromý učitel. Dokáže laikovi přeložit složité odborné texty z chemie či kybernetiky, navést ho prostřednictvím jednoduchých kroků a pomoct mu tak překonat bariéru, na které by třeba dříve ztroskotal. Právě na kontrolu těchto neomezených nástrojů se nyní soustředí pozornost odborníků i zákonodárců v různých částech světa.

Budoucnost patří prevenci, ne panice

Nejdůležitější ale je, že pro nás, běžné lidi, vyznívá celkový obraz optimisticky. Veřejný internet a běžně dostupné digitální služby se díky umělé inteligenci stávají pro zločince mnohem nebezpečnějším prostředím než kdy dříve.Míra odhalitelnosti nekalých úmyslů dramaticky roste.

Až tedy příště narazíme na další poplašný titulek o tom, jak umělá inteligence pomáhala zločincům, zkusme se nad ním pousmát. Stejná technologie totiž ve stejnou chvíli na pozadí tiše pracuje na tom, aby stovky jiných útoků zastavila dříve, než vůbec začnou.

Zdroje:

Máte na tohle téma jiný názor? Napište o něm vlastní článek.

Texty jsou tvořeny uživateli a nepodléhají procesu korektury. Pokud najdete chybu nebo nepřesnost, prosíme, pošlete nám ji na medium.chyby@firma.seznam.cz.

Související témata:

Sdílejte s lidmi své příběhy

Stačí mít účet na Seznamu a můžete začít publikovat svůj obsah. To nejlepší se může zobrazit i na hlavní stránce Seznam.cz