Článek
Veřejný text není pohozený arch, který si smí kdokoliv odnést. Jakmile jej však čtou lidé, nemůžeme žádat, aby po přečtení předstírali, že text nečetli.
S AI se to má vlastně tak.
Vydám autorský text. Dám jej na internet, opatřím nadpisem, perexem, fotografií a tlačítky pro sdílení. A pak přijde pohroma. Někdo si jej skutečně přečte. A čtenář si z něj něco odnese. Jednu myšlenku. Stavbu věty. Obraz. Otázku, která ho v noci nenechá spát. Za půl roku napíše povídku, báseň nebo scénář a někde hluboko v jeho textu možná stále leží tříska z mého článku.
„On se inspiroval mým textem!“ vykřiknu zděšeně.
Ano. To bývá jeden z vedlejších účinků čtení.
„Ale ten text je můj.“
Samozřejmě. Veřejně přístupné dílo nepřestává být autorským dílem. Internet není popelnice na duševní vlastnictví a zveřejnění není podpis darovací smlouvy. Český autorský zákon nepřestává platit ve chvíli, kdy soubor překročí práh mého počítače. Ani sociální síť se nestává vlastníkem mé fotografie jen proto, že jsem ji vložil na svůj profil. Zpravidla jí uděluji určitou licenci k provozu služby; autorská práva mi zůstávají.
Anebo se to má s AI jako s hospodou.
Otevřu hospodu, vyvěsím ceduli, zaplatím reklamu a potom se rozčiluji, že dovnitř začali chodit lidé. Mohu jim zakázat odnést stůl. Nemohu jim zakázat zapamatovat si rozhovor, který zaslechli u vedlejšího stolu.
Člověk a model: dvě podoby učení
„Člověk je ale něco jiného než AI,“ namítnete.
Je. Člověk má dětství, hlad, stud, tělo, strach ze smrti a ráno ho bolí záda. Jazykový model nic z toho nemá. Když řeknu, že se člověk i model „učí“, používám stejné slovo pro dva odlišné procesy. Podobnost mezi nimi existuje, totožnost nikoliv. To však ještě nedokazuje, že jeden smí zpracovávat veřejně dostupné poznatky a druhý nikoliv.
Člověk přečte tisíc knih, poslechne stovky skladeb, prostuduje cizí kód a postupně si vytvoří zásobu postupů, rytmů, řešení a omylů. Potom napíše vlastní knihu, program nebo píseň. Nezačínal od pazourku. Nepostavil si vlastní abecedu. Neobjevil znovu harmonii ani vedlejší větu.
Stojí na kostech mrtvých a říká tomu vzdělání.
A správně.
AI „přečte“ tisíc knih, poslechne stovky skladeb, prostuduje cizí kód a postupně si vytvoří zásobu postupů, rytmů, řešení a omylů. Tvorba není závod, v němž musí každý účastník nejprve sám vynalézt oheň.
Učení, kopírování a práva autorů
„Jenže AI může vychrlit milion textů. Vy přečtete sotva několik knih za měsíc.“
Ano. Měřítko je skutečný rozdíl. Ne kosmetický. Plastová pistolka a salvový raketomet nejsou totéž jen proto, že oba něco vystřelují. Rychlost, množství a ekonomická síla mění následky. Hromadné strojové zpracování milionů děl může zasáhnout trh, snížit cenu rutinní práce a přesunout peníze od autorů k jiným autorům.
To je vážná otázka. Není to však důkaz, že každé strojové učení je krádež.
Jestliže model bez oprávnění reprodukuje chráněnou melodii, odstavec románu nebo jinou chráněnou část cizího díla, nemá smysl zaklínat se slovem „statistika“. Výstup se posuzuje podle toho, co skutečně obsahuje a jak je použit. I osm taktů může být problém. Ani statistika nevystaví licenci k cizímu dílu.
Ale opačný podvod je stejně průhledný. Pokud model z milionů vstupů vytvoří nový text, který nekopíruje chráněné části žádného konkrétního díla, nelze automaticky tvrdit, že prodává myšlenky původních autorů.
Jenže ani nový výsledek sám o sobě nedokazuje, že cesta k němu byla dovolená. Mohu napsat větu, která dosud neexistovala, a přesto při získávání podkladů porušit cizí práva. U modelu proto musím oddělit dvě otázky: co vydal a za jakých podmínek získal a zpracoval to, z čeho se učil.
A právě tam začíná obtížná debata, před níž oba tábory často utíkají.
Jedni prohlásí: „Bylo to vydáno, zveřejněno, takže si s tím smím dělat, co chci.“
Nesmíte.
Druzí odpovědí: „Vydala, zveřejnila jsem to já, takže se z toho nikdo nesmí bez mého svolení učit.“
Čtenáři nemohu zakázat, aby si z četby odnesl poznání. U strojového vytěžování však existují podmínky, za nichž mohu své dílo z tohoto použití vyhradit. Obecná evropská výjimka pro vytěžování textů a dat předpokládá zákonný přístup a neuplatní se, pokud si nositel práv takové použití řádně vyhradil. U veřejně dostupného online obsahu musí být výhrada strojově čitelná. Pro vymezený vědecký výzkum platí zvláštní režim.
Slovo „učení“ tyto rozdíly nesmaže.
Veřejný prostor není ani bezedná samoobsluha, ani muzeum, ve kterém musí návštěvník před odchodem odevzdat všechny vzpomínky.
Knihtisk dal strachu rychlejší nohy
Kolem roku 1450 začal Gutenbergův lis rozmnožovat text rychlostí, která musela tehdejšímu písaři připadat nelidská. Tiskař nepotřeboval roky, lampu, husí brk a záda mnicha ohnutá nad pergamenem. Kovová písmena seřadil, potřel barvou a stiskl lis.
Stroj nečetl. Stroj neměl duši. Stroj pouze zlevnil rozmnožování.
A tím změnil svět.
Nevytiskl jen Bibli, učené spisy a básně. Roku 1487 se začal šířit také Malleus maleficarum, Kladivo na čarodějnice. Tiskařský lis nedostal morální zábrany, když na něj položili nenávist. Rozmnožil ji stejně ochotně jako modlitbu. Studie zveřejněná roku 2024 našla souvislost mezi tiskem čarodějnických příruček a tím, že procesy přebírala další města.
Knihtisk představy o čarodějnictví nevytvořil. Pomáhal však šířit jejich výklad i postupy pronásledování.
Dal starému strachu rychlejší nohy.
To je mnohem přesnější paralela k AI než pohádka o zlém stroji, proti němuž stáli čistí lidé. Technologie sama neměla úmysl. Úmysl měli ti, kdo do ní vložili text, peníze a moc.
Luddité a cena pokroku
Stejně nepřesná je karikatura dělníků, kteří na počátku 19. století rozbíjeli stroje, protože prý nenáviděli pokrok. Luddité nevedli filozofickou válku proti ozubeným kolům. Útočili také na způsob, jakým majitelé továren používali nové stroje k nahrazování kvalifikovaných lidí a snižování mezd.
Jejich otázka nebyla pouze: „Smí tento stroj existovat?“
Ptali se: „Kdo zaplatí cenu za jeho existenci?“
To je otázka, kterou bychom měli klást i dnes.
Nezastavíme vývoj AI tím, že napíšeme rozzlobený komentář pod článek. Nezastavili bychom jej ani zákazem slova „prompt“, slavnostním spálením grafické karty nebo návratem k psacímu stroji značky Consul. Jestliže určitá práce může být provedena rychleji, levněji nebo přesněji strojem, někdo ten stroj použije.
Dějiny nemají zpátečku. Mají pouze účet.
A ten účet někdo zaplatí.
Proto nechci slyšet jen otázku, zda AI „myslí“. Pro společnost je často důležitější, kdo ji vlastní, kdo určuje její cíle, z čeho se učila, kdo nese odpovědnost za výsledek a komu připadne zisk.
Nástroj, zásluha a odpovědnost
Automobil také nemá touhu dorazit z Prahy do Liberce. Cíl mu dá člověk. Člověk jej natankuje, nastartuje a otočí volantem. Skutečnost, že automobil překoná vzdálenost rychleji než moje nohy, neponižuje lidskou chůzi. Zároveň mi ale nedává právo projet cizím pozemkem jen proto, že automobil je úžasný lidský vynález.
AI může být nástrojem lidské práce. Může objevit nečekanou souvislost, prohledat množství variant, které by člověk za celý život nevyzkoušel, a pomoci vědcům najít řešení. Zásluha tím nepřestává být lidská. Člověk formuloval problém, postavil nástroj, vymezil podmínky a ověřil výsledek.
Ani mikroskop nedostává Nobelovu cenu. Bez mikroskopu by však některé objevy nevznikly.
Každá moje věta má předky
„Takže máme AI bezvýhradně přijmout?“
Ne. Máme přestat zaměňovat odpor k nespravedlivému použití technologie za odpor k technologii samotné. Máme postihovat neoprávněné kopírování, vymáhat práva autorů, požadovat průhlednější zacházení s trénovacími daty a mluvit o tom, komu automatizace bere práci, důstojnost a vyjednávací sílu.
Zároveň bychom si neměli namlouvat, že lidská tvorba vyrůstá v dokonale čisté hlavě, kam nikdy nevstoupil cizí hlas.
Každá moje věta má předky.
Některé znám jménem. Jiní zemřeli před pěti tisíci lety a zůstalo po nich několik znaků vtlačených rákosovým pisátkem do hlíny. Nevlastním jejich jazyk. Oni nevlastní všechny věty, které z něj jednou vyrostou. Přesto jim něco dlužím: přesnost, poctivost a přiznání, že jsem nezačal od nuly.
Totéž budu požadovat od těch, kdo stavějí stroje. Ne aby jejich model nikdy nic nečetl. Takový model by neuměl nic. Chci vědět, zda četl legálně, zda respektoval vyhrazená práva, zda se nesnaží vydávat cizí dílo za nový výstup a zda jeho tvůrci nepoužívají slovo „pokrok“ jako bílý ubrus položený přes účet, který odmítají zaplatit.
Jestli nechci, aby můj text četli lidé, nemám jej věšet na veřejný internet. Jestli jej zveřejním, musím přijmout, že vstoupí do cizích hlav, bude souzen, odmítnut, pochopen špatně, pochopen lépe, rozebrán a možná se stane semenem něčeho, co už nebude moje.
To není krádež. To je úděl zveřejněné myšlenky.
Autorské právo mi dovoluje bránit své dílo před nepovoleným rozmnožováním. Nedává mi však vlastnický list na každou budoucí myšlenku, která se narodí člověku poté, co mě četl.
Postavil jsem hospodu. Lidé přišli. Teď záleží na tom, zda jim budu účtovat vypité pivo nebo je při odchodu obviním, že mi ukradli vyslechnuté rozhovory.
Zdroje
Odborná literatura
ACEMOGLU, Daron a Simon JOHNSON. Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity. New York: PublicAffairs, 2023.
ACEMOGLU, Daron a Pascual RESTREPO. Automation and New Tasks: How Technology Displaces and Reinstates Labor. Journal of Economic Perspectives. 2019, roč. 33, č. 2, s. 3–30. DOI: 10.1257/jep.33.2.3.
BENDER, Emily M. a Alexander KOLLER. Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data. In: Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics. Association for Computational Linguistics, 2020, s. 5185–5198. DOI: 10.18653/v1/2020.acl-main.463.
BINFIELD, Kevin, ed. Writings of the Luddites. Baltimore: Johns Hopkins University Press, 2015.
CARLINI, Nicholas et al. Extracting Training Data from Large Language Models. In: 30th USENIX Security Symposium (USENIX Security 21). USENIX Association, 2021, s. 2633–2650.
DOTEN-SNITKER, Kerice, Steven PFAFF a Yuan HSIAO. Ideational diffusion and the great witch hunt in Central Europe. Theory and Society. 2024, roč. 53, s. 1291–1319. DOI: 10.1007/s11186-024-09576-1.
EISENSTEIN, Elizabeth L. The Printing Revolution in Early Modern Europe. 2. vyd. Cambridge: Cambridge University Press, 2005.
GOODFELLOW, Ian, Yoshua BENGIO a Aaron COURVILLE. Deep Learning. Cambridge, Massachusetts: MIT Press, 2016.
TOMASELLO, Michael. The Cultural Origins of Human Cognition. Cambridge, Massachusetts: Harvard University Press, 2001.
Právní prameny
ČESKO. Zákon č. 121/2000 Sb., o právu autorském, o právech souvisejících s právem autorským a o změně některých zákonů (autorský zákon), ve znění pozdějších předpisů. Zejména § 2 odst. 6, § 12, § 39c a § 39d.
EVROPSKÝ PARLAMENT A RADA EVROPSKÉ UNIE. Směrnice (EU) 2019/790 ze dne 17. dubna 2019 o autorském právu a právech s ním souvisejících na jednotném digitálním trhu a o změně směrnic 96/9/ES a 2001/29/ES. Úřední věstník Evropské unie. 2019, L 130, s. 92–125. Zejména články 3 a 4.
