Článek
Umělá inteligence je prodávána jako další velká existenční hrozba lidstva — ale upřímně, pokud nás něco někdy pošle na kosmickou afterparty, nebude to chatbot, který by se choval špatně. Bude to ta hezká malá houba na obloze, ta, kterou budeme obdivovat pár hrdinských sekund, než si uvědomíme, že pokračování nebude. Zatímco AI zdvořile vysvětluje CRISPR nadšencům, kteří nedokážou udržet pokojovou rostlinu naživu, skutečné nebezpečí stále leží v lidských rukou: tlačítka, bomby, ega a nápady, které by měly být zamčené v trezoru místo toho, aby volně plavaly v geopolitické polévce. Takže ano, AI je silná, občas strašidelná a často až komicky přeceňovaná. Ale pokud se obzor někdy rozsvítí jasněji než naše společná budoucnost, nebude to proto, že model napsal DNA protokol. Bude to proto, že lidstvo zůstává neporažené ve svém oblíbeném sportu: vynalézání věcí, kterým se absolutně nedá důvěřovat.
Když si začtete do zprávy společnosti Anthropic o biologických hrozbách, které představuje umělá inteligence, můžete mít pocit, že v ruce držíte scénář béčkového sci-fi filmu, kde režisér ušetřil na všem kromě laciných lekaček.
Vykresluje svět, kde Pepa z Horní Dolníe, povzbuzen tím, že mu AI včera vyplodila bezchybnou omluvenku do práce, zatouží po domácí výrobě eboly ve vlastní garáži. Nebo kde tajné služby outsourcují vývoj biologických zbraní na silikonové klávesnici z křemíkového údolí. Zní to komicky? Trochu ano. Je to k zbláznění děsivé? Docela dost.
Pojďme tenhle pandemický cirkus trochu rozebrat a přisypat špetku chladného koření z reálného světa vědy.
Iluze všemocného receptu: AI jako kuchařka pro zloduchy
Zpráva trefuje hřebíček na hlavičku v zásadní věci: umělá inteligence sama o sobě virus stvořit nedokáže. Nemá ruce, nemá zkumavky a už vůbec nemá přístup do špičkově zabezpečené laboratoře stupně BSL-4. To, co AI umí, je role hyperinteligentního tutora, který staví mosty přes propast mezi úplným břídilem a protřelým vědcem.
Pokud byste dřív chtěli porozumět toxikologii nebo navrhnout mutaci patogenu, museli byste strávit roky na univerzitě, zhltnout tisíce stran nudných vědeckých bichlí a smířit se s tím, že váš společenský život vezme za své dřív než ranní mlha nad jezerem. Dnes stačí hodit dotaz do modelu. AI dokáže analyzovat genetická data, optimalizovat chemické reakce pro výrobu léků a naservírovat vám návod krok za krokem v úhledných odrážkách.
Tady se ale rodí moje první klíčové pozorování: mezi stavem in silico (v počítači) a in vitro (ve zkumavce) zeje gigantická propast jako mezi receptem na michelinské menu v tlusté kuchařce a připálenou vajíčkovou omáčkou na vašem vlastním sporáku. Zeptejte se jakéhokoli studenta biologie – polovina jejich experimentů ztroskotá jen proto, že se na zkumavku podívali špatným úhlem nebo v laboratoři zrovna táhlo. Pokud váš průměrný „obývací biohacker“ neudrží naživu ani obyčejný kvásek na chleba nebo choulostivý fíkus v rohu pokoje, pravděpodobnost, že v kuchyni úspěšně sestaví smrtící patogen, aniž by se sám otrávil vlastní plesnivou večeří, je naštěstí stále blízká nule.
Tři klávesnicoví jezdci apokalypsy
Anthropic identifikoval tři skupiny natěšených experimentátorů, kteří zkoušejí pokoušet štěstí s umělou inteligencí:
- Kutilové a amatéři: hračičkové šťourající do věcí, po kterých jim nic není. Pokoušejí se z modelů páčit návody na manipulaci s nebezpečnými organismy. Jsou jako děti škemrající u strýčka (AI), aby jim do detailů vysvětlil, jak se míchá výbušný střelný prach.
- Zločinci a kartely: Tady už končí veškerá legrace. Optimalizace výroby drog, navrhování jedů. Představte si vařiče pervitinu, který už nepotřebuje zaškolení od starých pardálů, protože má ChatGPT v kapse jako digitálního chemického gurua. Riziko je tu hmatatelnější – uvařit lepší drogu je technologicky nesrovnatelně snazší než stvořit nový globální mor.
- Státní aktéři: absolutní vrchol absurdity. Státem sponzorovaní hackeři a vědci, kteří se pokoušejí ukecat chatbota, aby analyzoval slabiny zdravotnických systémů nebo jim naservíroval detaily o biologických zbraních. Člověk by čekal, že totalitní režimy mají na tohle celé ústavy plné mozků, ale zjevně je levnější platit dvacet dolarů měsíčně za prémiové předplatné než financovat výzkumný komplex. Fakt, že státní velmoc selže, protože jí AI odvětí: „Je mi líto, ale s vývojem biologických zbraní vám pomoci nemohu,“ má v sobě nepopiratelnou, téměř poetickou grotesknost. A ne – tahle pojistka není neprůstřelná bezpečnostní hráz, i když se tak tváří.
DNA poštou a reálná záchranná brzda
To, o čem zpráva Anthropicu (pochopitelně) hlouběji nemluví, je skutečné úzké hrdlo celé lahve: fyzická syntéza.
Řekněme, že AI navrhne dokonalý virový genom. Nemůžete si ho jednoduše vytisknout na 3D tiskárně vedle mikrovlnky. Potřebujete firmu, která vám DNA fyzicky sestaví. A tady do hry vstupuje realita: firmy zabývající se syntézou DNA – takzvané cloudové laboratoře – mají povinné bezpečnostní filtry. Pokud jim pošlete objednávku podezřele připomínající vylepšené neštovice s dárkovou mašlí, fakturu vám nevystaví. Místo toho zvednou telefon a vytočí linku FBI nebo lidí, kteří s sebou nosí podstatně větší zbraně než jen poznámkový blok.
AI sice prošlapává cestu na startu, ale fyzické bezpečnostní bariéry zatím obejít nedokáže. Aspoň prozatím.
Jenže pak je tu CRISPR
Novým fenoménem je nástup CRISPRu, který genovou edici zjednodušil natolik, že se do ní pouštějí amatéři v domácích podmínkách. Tihle obývací biohackeři zkouší neškodně vyhlížející kousky jako:
- pěstování světélkujících kvasinek pro domácí pivo,
- změny barev bakterií,
- základní genetické kousky na pokojových rostlinách.
AI jim v tom vydatně asistuje – vysvětluje složité protokoly a pomáhá navrhovat experimenty. Háček je v tom, že domácí laboratoř postrádá jakékoli záchranné sítě. Riziko kontaminace, nechtěného stvoření genetického mutanta nebo pouhé nešikovnosti při práci s biologickým materiálem je reálné. To, co začíná jako nevinný nerdský koníček, může bez odborného dohledu skončit jako rozbuška – a AI může tyto rizika nevědomky zesílit.
AI není Terminátor – je to Pandořina kuchařka
Zpráva Anthropicu podtrhuje jednu zásadní pravdu: firmy vyvíjející AI musí fungovat jako digitální vyhazovači na diskotéce. Aktivní monitorování, blokování a hlášení pokusů o zneužití je jediná správná cesta.
Umělá inteligence je fantastický nástroj. Dokáže rekordním tempem vyvíjet léky proti rakovině, modelovat dopady klimatu a psát naše únavné pracovní e-maily. Její duální povaha ale znamená, že stejný algoritmus, který navrhuje záchranný lék, v sobě nese i plánek na jed.
Riziko netkví v tom, že AI zničehonic zhoustne vědomím a rozhodne se nás vymazat pomocí virové epidemie. Skutečným nebezpečím je demokratizace nebezpečné moci – snižování prahu vstupu do světa, kde by lístek do vstupní haly měl vyžadovat roky etické průpravy a hluboké expertizy.
Takže ano – biologické zneužití je reálná hrozba. Ale pokud udržíme bezpečnostní ventily pevně utažené, můžeme klidně spát. Tedy aspoň do chvíle, než si kutilové v garážích začnou skládat domácí sekvenátory DNA ze starých mikrovlnek. V tu chvíli nás nezachrání ani nejchytřejší algoritmus na světě.
A upřímně řečeno, z téhle AI varianty strach nemám…
Protože budeme-li upřímní, jestli se lidstvu podaří velkolepě odpálit vlastní budoucnost, nebude to proto, že chatbot navrhl bílkovinnou strukturu. Bude to proto, že někdo stisknul tlačítko, na které sahat neměl – a obloha se rozsvítí způsobem, kterému žádný nadšený CRISPR kutil nikdy nedokáže konkurovat.
Jinými slovy: neprospávám noci strachem z toho, že mi AI v kuchyni uvaří mor. Děsí mě spíš to, že už teď v našem geopolitickém sklepě schováváme technologie schopné ukončit celý příběh v jediném oslepujícím záblesku, a zacházíme s nimi s vyzývavou nonšalancí puberťáků na školním výletě.
AI sice představuje riziko, ale ve srovnání s ostatními jadernými hračkami, které lidstvo hýčká ve své garáži, je to pořád jen chytrý topinkovač s příliš velkými ambicemi.
