Článek
Australská policie právě vyšetřuje případ mladíka, který založil několik falešných účtů na sociálních sítích a pak jejich prostřednictvím šířil falešné pornografické fotky studentek, které vytvořil s pomocí technologie deepfake.
Čin studenta zkritizovala i ministryně školství
Případ rozvířil poklidné vody. Vzhledem k tomu, že jde o mladistvé, zapojily se do řešení různé orgány: „Policie Nového Jižního Walesu spolupracuje s komisařem pro elektronickou bezpečnost a ministerstvem školství,“ uvedl mluvčí policie s tím, že probíhá vyšetřování. „Takové chování netolerujeme a podnikneme příslušné kroky,“ dodal.
Student bude s velkou pravděpodobností čelit vážným disciplinárním opatřením. „Naší nejvyšší prioritou je zajistit, aby se naši studenti cítili bezpečně, a na tom bude založeno jakékoli rozhodnutí o budoucím působení tohoto studenta ve škole. Postiženým studentům pomáháme s příslušnou podporou v oblasti dobrých životních podmínek a budeme tak činit tak dlouho, dokud to bude nutné,“ zaznělo z úst mluvčího policie.
K případu se vyjádřila i ministryně školství Nového Jižního Walesu Prue Carová, která médiím sdělila, že incident je „odporný a nebude tolerován“. Incident byl také postoupen komisaři pro elektronickou bezpečnost.
Dobrý sluha, ale špatný pán
Umělá inteligence je nesmírně lákavá. Je prvkem, který zprostředkovává zábavu, informace i pomoc při práci. Bohužel je v souladu se rčením „dobrý sluha, ale zlý pán“. Technologie deepfake patří podle české společnosti ComSource mezi sedm klíčových hrozeb, které budou v roce 2025 formovat digitální bezpečnostní prostředí. Hrozí především její zneužití pro účely dezinformačních kampaní a vytváření realistického audiovizuálního obsahu, který bude těžko rozlišitelný od reality.
Europol varuje
Možných způsobů zneužití je ale mnohem víc. Europol například vloni v červenci varoval před nárůstem počtu snímků zneužívání dětí, které byly vytvořeny prostřednictvím umělé inteligence a kolují na internetu. „Používání umělé inteligence, které umožňuje pachatelům sexuálních trestných činů vytvářet nebo upravovat materiály se sexuálním zneužíváním dětí, se bude v blízké budoucnosti dále šířit,“ uvedla organizace v 37stránkové zprávě o digitálních hrozbách, kterým Evropa čelí. Nárůst počtu snímků generovaných umělou inteligencí navíc podle úřadu ztěžuje identifikaci skutečných obětí.
Umělá inteligence dodává online zneužívání nový rozměr v podobě deepfakových snímků skutečných lidí. „I v případech, kdy je obsah plně umělý a není v něm zobrazena žádná skutečná oběť, materiál generovaný umělou inteligencí stále přispívá k objektivizaci a sexualizaci dětí,“ uvedl Europol.
Zneužití často řeší známé osobnosti
Případů zneužití spáchaného s využitím technologie deepfake je ostatně už nyní víc než dost. Rozhořčený Tom Hanks to nakonec odbyl pouze příspěvkem na svém instagramovém profilu: „Pozor! Na internetu koluje video, na kterém moje AI verze propaguje nějaké dentální pojištění. Já s tím nemám nic společného.“ Inkriminované video využívalo digitální verzi Hanksovy tváře a také jeho hlas. Podobný problém v minulosti řešily i další známé osobnosti. Například Bruce Willis se vymezil proti ruské reklamě na komunikační technologie a potíže se zneužitím řešil i indický herec Anil Kapoor.
Můžeme si za to částečně sami?
Lze zneužívání technologie v případech, jako je ten ze Sidney, zabránit? Můžeme si za to sami tím, že na sociálních sítích bez zábran zveřejňujeme fotografie a osobní údaje? Lidské soukromí pomalu ztrácí cenu, jakkoli se úřady snaží jeho ochranu zajistit pomocí zákonů.
Zdroje: theguardian.com, itbiz.cz, dw.com
