Článek
Umělá inteligence se vyvíjí rychleji, než jsme ještě před několika lety čekali. Z nástroje, který čeká na pokyny člověka, se postupně stává technologie schopná samostatně plánovat a provádět řadu úkolů. A právě otázka, kam až může tato autonomie zajít, začíná být čím dál naléhavější.
Stručný přehled:
• Dario Amodei, šéf společnosti Anthropic, varuje před příliš rychlým vývojem umělé inteligence.
• Autonomní AI agenti už dokážou samostatně provádět řadu kroků a jejich schopnosti rychle rostou.
• Amodei upozorňuje, že během 6 až 12 měsíců by mohli získat výrazný vliv nad částí internetu.
• Podle něj je potřeba nezávislé hodnocení bezpečnosti AI, spolupráce technologických firem a mezinárodní pravidla.
• Jeho obavy veřejně podpořili také Elon Musk a šéf OpenAI Sam Altman.
Co za varováním stojí
Varování Daria Amodeiho přichází v době, kdy se AI agenti rychle posouvají od jednoduchých nástrojů k systémům, které dokážou samostatně plánovat a provádět složitější úkoly.
Amodei upozorňuje především na tempo tohoto vývoje. Pokud budou schopnosti AI růst rychleji než naše možnosti jejich kontroly, může být stále obtížnější předvídat, co autonomní systémy udělají.
Jeho odhad šesti až dvanácti měsíců je však varovným scénářem, nikoli jistou předpovědí. Právě o tom, jak pravděpodobný takový vývoj je a jak rychle může nastat, se mezi odborníky vedou diskuse.
Nejčastější otázky
Může AI skutečně ovládnout internet?
Zatím to není skutečnost. Dario Amodei upozorňuje na možnost, že autonomní AI agenti mohou v blízké budoucnosti získat výrazný vliv nad částí internetu.
Co jsou AI agenti?
Jde o systémy, které dokážou po zadání cíle samostatně plánovat jednotlivé kroky a provádět úkoly bez nutnosti lidského zásahu u každého kroku.
Je odhad 6 až 12 měsíců jistý?
Ne. Jde o Amodeiho varování a scénář možného vývoje, nikoli o jistou předpověď.
Zdroj
