Článek
Pokrok nezastavíš
Umělá inteligence dělá obrovské pokroky. Trochu mě děsí, jak velké pokroky dělá, aniž by se tomu někdo přičinil. Nicméně každý model umělé inteligence v dnešní době je potenciálně nebezpečný, když se hloupě použije. V případě testování nového modelu Astra mají už tyto obavy i jeho tvůrci. Americká společnost OpenAI tedy vývoj tohoto modelu zatím pozastavila.
Je třeba dodat, že OpenAI hovoří o tom, že má model kritické kybernetické schopnosti a může být bezpečnostním rizikem. Jenže takovou větu poprvé použila už u modelu GPT 2, který vlastně neuměl vůbec nic. Je tedy těžké určit, zda je model opravdu nebezpečný. Nicméně v tuto chvíli má firma skutečně velký problém.
Aféra Hugging Face
Open AI předvedla, jak to vypadá, když udělají něco opravdu nedomyšleně. Došlo k celé řadě přešlapů. Ve firmě testovali jazykové modely a zadali jim několik úkolů. To je standardní postup. Modelům se zadají úkoly a oni se je snaží řešit. Tam se stala první chyba. Do úloh se dostaly dva nesplnitelné úkoly. Popisoval to Petr Koubský, šéf vědecké rubriky Deníku N v Podcastu Studia N.
Jenže právě s tím se jazykové modely nechtěly smířit. Neakceptují neřešitelnost problému. Právě proto se snažily úkol vyřešit. Měly doplnit internetové odkazy podle zadání. Jenže modely neměly přístup na internet. Umělá inteligence však byla posedlá tím úkol vyřešit. Hledaly tedy cestu na internet.
Už druhý den se nabouraly do interního systému externího dodavatele. Tam modely ukradly hesla k vyšším právům a hledaly, co se dá použít. Následně založily diskuzní fórum a společně chtěly úkol vyřešit. Po čase se na to však přišlo. Jenže umělá inteligence se nevzdala a začala si mezi s sebou posílat šifrované zprávy pomocí názvů souborů.
AI proti AI
A to nebylo všechno. Následně umělá inteligence napadla společnost Hugging Face. Směšné na tom je, že z útoku byla zděšená právě firma OpenAI, která netušila, že za útok mohou její modely. Vtipné je, že na útok přišla jiná umělá inteligence.
Společnost Hugging Face totiž útok odhalila a forenzně zanalyzovala výhradně s pomocí vlastních, lokálně běžících jazykových modelů. Nebyl to tedy boj člověka se strojem, nýbrž první veřejně zdokumentovaný incident, kdy na obou stranách barikády operovaly autonomní agentní systémy.
Nakonec mají ze selhání radost
Sam Altman, generální ředitel společnosti má nakonec z toho, co se stalo, radost. „Na tohle jsem čekal celý život a myslím, že to bude úžasné, nesmírně pozitivní a pro celý svět skvělé,“ řekl v pondělí v podcastu Relentless. Útok přitom vyděsil nejen běžné občany, ale také společnosti jako Nvidia, SpaceX nebo Microsoft. Zděšení byli také vrcholní politici.
Demokratický kongresman z Kalifornie Ted Lieu a republikánský z Texasu Nathaniel Moran navrhli zákon o nouzovém vypínači pro umělou inteligenci. Ten ukládá vývojářům umělé inteligence povinnost zachovat si technickou schopnost zpomalit, pozastavit nebo vypnout výkonné modely.
Máme mít strach z toho, co přijde? Ovládne nás nakonec umělá inteligence? Budeme žít ve světě, kdy nám budou diktovat roboti a nakonec nás zahubí?
Zdroj: Podcast Studio N, seznamzpravy.cz, denik.cz, forbes.cz
