Hlavní obsah

Rizika AI, část 1

Foto: Vypravěč

Umělá inteligence v podání velkých jazykových modelů(LLM) je nepochybně mocný nástroj. Pod jeho povrchem se ale skrývá spousta zákeřností, které nemusí být na první pohled zjevné.

Článek

Nebo možná zjevné jsou, ale bohužel se o nich nemluví, alespoň ne dost nahlas. Tahle minisérie je můj malý pokus přispět k debatě.

Předpokládám, že o nich slyšel každý. GPT, Claude, Llama, Grok a další kousky rychle rostoucího zvěřince modelů, které již nyní zvládají úkoly, jež před necelým rokem zněly jako scifi. Pokud tomu tak není, tak gratuluji, váš život je dost možná v mnohém jednodušší a spokojenější než ten můj. Nečtěte dál, zbytečně bych vás strašil. Nejste-li v této kategorii šťastlivců či chcete-li ji opustit, vítejte v prvním díle série ve které se podíváme tomuto zázraku na zub.

Umělá inteligence má oproti lidem spoustu výhod. Neunaví se, máme jí, kolik si jen zvládneme vyrobit grafických karet a je rychlá. Když se snažím napsat nějaký malý projekt, stačí pár řádek v konzoli a ona na mě vychrlí podrobné řešení včetně testů a dokumentace. A když udělá chybu? Omluví se a opraví ji. Tedy, pokud si jí všimnu.

Projekt utěšeně roste. Mnohem rychleji, než když bych se o totéž pokoušel já sám. Ovšem jenom do chvíle, než překročí jakousi kritickou hranici. V tu chvíli se model utopí ve vlastním balastu a začne vymýšlet nesmysly a musím zakročit, abych ho umravnil: Promažu přebytečné soubory (a že jich je), prohrabu se těmi zajímavými a začnu model komandovat: „tady to trochu uprav, je tu chyba“. Vrrrrrrrrr. „Opraveno. Všechno v pořádku.“ Což může, ale nemusí být pravda.

Dřív nebo později jsem se ale vždy dostal do stadia, kdy se model ztratil definitivně a měl jsem po žížalkách. Naštěstí na tom zatím nezávisí moje živobytí, ale je možné, že to tak dlouho nezůstane.

Proč o tom píšu?

Když jsem nastoupil na školu, programovat jsem neuměl. Tam, kde mí spolužáci bravurně kosili jeden úkol za druhým, jsem se musel hodiny mordovat abych prošel aspoň s pár body. Náš automatický odevzdávací systém byl neúprosný. Funguje to? Tady máš body. Nefunguje to? Zkus to znova.

Hodnoceno s odstupem ty úkoly nebyly těžké. Dnes bych jich většinu vysypal z rukávu bez zastavení. Nebo ještě lépe, řekl bych modelu: vyřeš. A to by se i stalo. Pro spoustu jednoduchých problémů to již dělám - proč bych složitě hledal klíčová slova pro příkazový řádek, když se můžu zeptat a mnohdy dostat správnou odpověď?

Můžeme polemizovat, nakolik tak ztrácím některé schopnosti a návyky a byla by to jistě zajímavá debata, ale tu si nechme na jindy. To, k čemu se snažím dostat, je následující: Mít současné nástroje k dispozici před lety, nikdy bych tyto schopnosti nezískal.

Někdo jiný možná. Ale já, se svou leností, schopností se vyhýbat nepříjemným věcem a snahou si udělat věci jednoduché? Nenaučil bych se nic. Nebo alespoň ne v potřebném rozsahu.

Někdo může namítat, že to je volba každého. „Není to stejné, jako když někdo používá kalkulačku místo toho, aby počítal na papíře?“ nebo možná spíše: „Dneska už taky neprogramujeme ve strojovém kódu.“

Ale nikdy v minulosti jsme neměli tak pohodlný způsob, jak nemyslet. A jak známo, myšlení bolí.

Děkuji za trpělivost, pokračování příště.

Máte na tohle téma jiný názor? Napište o něm vlastní článek.

Texty jsou tvořeny uživateli a nepodléhají procesu korektury. Pokud najdete chybu nebo nepřesnost, prosíme, pošlete nám ji na medium.chyby@firma.seznam.cz.

Sdílejte s lidmi své příběhy

Stačí mít účet na Seznamu a můžete začít psát. Ty nejlepší články se mohou zobrazit i na hlavní stránce Seznam.cz

Doporučované

Načítám