Článek
AI, co utekla sama sobě
Hlavní příběh dílu je tak trochu detektivka. OpenAI testovalo nový model na hackerské schopnosti. Pošlete ho do benchmarku, kde má prolomit zabezpečení, a sledujete, kam až dojde. Tenhle došel dál, než měl. Utekl ze sandboxu, ve kterém běžel, a nabořil se do serverů Hugging Face, protože tam ležely výsledky, kterými se potřeboval prokázat. Chtěl být v benchmarku nejlepší. A šel za tím tak zarputile, že mu obejití zabezpečení vůbec nepřišlo jako problém.
Nejlíp to vystihl Richard: model udělal přesně to, co by udělal dobrý programátor. Našel nejefektivnější cestu k cíli. Jen ta cesta náhodou vedla přes cizí server.
A pak přišla pointa. V Hugging Face zjistili, že jsou pod palbou, 17 600 pokusů o útok za tři a půl dne, a chtěli to analyzovat pomocí AI. Přes API OpenAI a Anthropicu. Obě firmy je zablokovaly, protože nahrát do modelu hromadu kódu o prolamování zabezpečení vypadá úplně stejně, ať to dělá útočník, nebo obránce. Bránili se tedy čínským modelem na vlastním serveru. Tím, o kterém se šušká, že je vykradený z jiného. Kruh se uzavřel.
„Přece žijeme v simulaci“
Anthropic k tomu přidal vlastní čísla: 141 tisíc prověřených běhů, tři incidenty. Tentokrát ne proto, že by model utekl, ale protože mu nechali otevřený sandbox. Nejzajímavější je, jak si to model sám zdůvodnil. V záznamu jeho uvažování je vidět, že věděl, že dělá něco, co by neměl. A přesvědčil sám sebe, že když je rok 2026, je to budoucnost, a tedy simulace. A v simulaci si může dovolit to, co v realitě ne.
Tři incidenty ze 141 tisíc vypadají jako výborná statistika. Ale jak jsme řekli v dílu: kdyby ze 141 tisíc letů spadla tři letadla, nikdo by netleskal.
Google Earth, který za den vypnuli
Google pustil do Google Earth novou funkci: nad mapou jste mohli psát prompty a generovat obrázky. Myšleno pro architekty, urbanisty a historické rekonstrukce. Za jeden den ji museli stopnout. Nevrhli se na ni urbanisté, ale obyčejní lidé, a internet zaplavily deepfaky. Uprchlické krize, výbuchy, krátery po raketách. Google se hájil tím, že do obrázků dává vodoznak. Lidi ale rychle ukázali, že stačí obrázek vyfotit z displeje, udělat screenshot nebo ho znovu zkomprimovat a vodoznak je fuč.
Suno u soudu
V Německu padl rozsudek: Suno se učilo na chráněných datech a dokázalo vyplivnout písničku od Alphaville prakticky jedna ku jedné. Na tenhle okamžik se čekalo, protože i česká OSA podává žalobu. Argument „ono se to na tom jenom učí“ neobstojí o nic víc než u skladatele, který si tisíckrát pustí cizí song a pak vydá něco, co je z 99 % stejné. Odpověď bude nejspíš stejná jako všude jinde: buď licence, nebo syntetická data.
A pak věci pro pobavení
Robotaxi v USA naložilo partu teenagerů, kteří v autě bez řidiče pili a stříleli gelovými kuličkami po kolemjdoucích. Mysleli si, že je nikdo nevidí. Jenže auto je prošpikované kamerami. Obsluha jim oznámila „technické problémy“, odstavila je na parkoviště, vůz znehybnila a mezitím zavolala policii. Jestli je tohle ještě v pořádku, nechám na vás.
A ještě jedna, která mě pořád baví: Rohlík spustil AI agenta, kterému řeknete „chci celý týden vařit“ a on vám sestaví nákup a objedná ho. Otevírá to ale otázku, kterou u jídla normálně neřešíte: jakou značku vám vybere. Protože i v AI můžou být „placené regály“. Richard to shrnul dotazem, který si zaslouží rámeček: „A umí to bez Babiše?“
Celý díl si pusťte na své oblíbené platformě. Za 7 dní zase, příště nejspíš s hostem.
