Článek
Sam Altman, generální ředitel společnosti OpenAI, která vytvořila ChatGPT, varoval, že svět možná není tak daleko od potenciálně děsivé umělé inteligence, a řekl, že zásadní bude její správná regulace. V sérii nedělních tweetů Altman uvedl, že přechod k budoucnosti s umělou inteligencí je pozitivní a může se odehrát rychleji, než si myslíme – podobně jako přechod z předsmartphonového světa do postsmartphonového světa.
Varoval však, že lidská společnost potřebuje čas, aby se přizpůsobila něčemu tak velkému, jako je umělá inteligence.
„Potřebujeme také dostatek času, aby naše instituce přišly na to, co dělat. Regulace bude rozhodující a bude trvat, než se vyřeší. Ačkoli nástroje AI současné generace nejsou příliš děsivé, myslím, že od těch potenciálně děsivých nejsme tak daleko,“ uvedl na Twitteru.
we also need enough time for our institutions to figure out what to do. regulation will be critical and will take time to figure out; although current-generation AI tools aren’t very scary, i think we are potentially not that far away from potentially scary ones.
— Sam Altman (@sama) February 19, 2023
Označil, že jedním z problémů chatbotů s umělou inteligencí je, že lidé odcházejí z rozhovoru s chatbotem zneklidněni, i když vědí, že ve skutečnosti komunikují se strojem.
Tento jev byl nedávno pozorován u vyhledávače Bing poháněného technologií ChatGPT společnosti Microsoft. Bing minulý týden znervóznil některé lidi poté, co začal generovat šokující odpovědi na dotazy, které se by se daly charakterizovat jako rýpavé a hádavé až vyloženě emociální.
Microsoft minulou středu v příspěvku na blogu vysvětlil, že dlouhé konverzace mohou model zmást. Ten se posléze občas může snažit reagovat nebo odrážet tón, ve kterém je žádán o odpovědi, což může vést ke stylu odpovědí, který nebyl zamýšlen. Společnost se také snaží platformu krotit – nyní omezuje počet konverzací, které mohou uživatelé s botem vést. Uživatelé aktuálně mohou Bingu položit maximálně pět otázek za relaci a mít maximálně 50 relací denně.
Altman mluví o regulaci umělé inteligence od roku 2015
Není to poprvé, co Altman mluví o regulaci umělé inteligence. Na svém blogu o tom psal již v březnu 2015. Vláda USA a všechny ostatní vlády by měly regulovat vývoj SMI (superhuman machine intelligence), napsal s odkazem na nadlidskou strojovou inteligenci. V ideálním světě by regulace zpomalila ty zlé a urychlila ty dobré – zdá se, že bude velmi důležité, co se stane s první vyvinutou SMI.
Altmanův nedělní tweet o regulaci odráží komentáře Miry Muratiové, technické ředitelky společnosti OpenAI, která 5. února v rozhovoru pro časopis Time uvedla, že ChatGPT by měl být regulován, protože by mohl být zneužit. „Na regulaci není příliš brzy,“ řekla Muratiová tomuto médiu.
Elon Musk – spoluzakladatel OpenAI – se minulou středu během Světového vládního summitu v Dubaji nechal rovněž slyšet, že AI nabízí velký příslib a schopnosti – pozitivní i negativní, ale potřebuje regulaci.
„Upřímně řečeno, myslím, že potřebujeme regulovat bezpečnost AI,“ řekl Musk podle CNBC. „Myslím, že ve skutečnosti představuje mnohem větší riziko pro společnost než auta, letadla nebo medicína.“
