Standa Jonák

V nedávném dílu podcastu Vinohradská 12 se otevřelo palčivé téma zneužívání umělé inteligence k vytváření svlékacích deepfake fotek. Expertka na kyberbezpečnost Lucie Kosová v něm varuje před jednoduchostí, s jakou lze dnes tyto nástroje zneužít, a volá po přísnější regulaci a odpovědnosti vývojářů. I když je morální rozměr problému jasný a zneužití cizí identity odsouzeníhodné, z čistě technického hlediska se obávám, že volání po regulaci je v tomto případě bojem s větrnými mlýny. Snaha omezit tyto nástroje totiž naráží na fundamentální rozdíl mezi uzavřenou službou a otevřenou technologií. Překvapila mě tak i relativní neznalost tématu jak ze strany moderátora, tak pozvaného hosta.

AI nejsou jen komerční chatboty

Běžná veřejnost a legislativci často vnímají AI pouze skrze optiku velkých komerčních chatbotů, jako je ChatGPT, Gemini nebo třeba Grok. U těchto služeb, které běží na serverech provozovatele, skutečně fungují (a často velmi přísné) filtry obsahu – taková „cenzura“ či bezpečnostní pojistka, která vám odmítne vygenerovat nahotu nebo násilí. Jenže to je pouze jedna strana mince. Tyto ochrany fungují jen proto, že nad nimi má kontrolu poskytovatel služby. V momentě, kdy se bavíme o modelech, které nejsou závislé na cloudu, se celá rovnice zásadně mění.

Celá debata o regulaci navíc často opomíjí ten nejdůležitější technologický trend. Nejde totiž jen o to, kdo a jak chce AI zneužít, ale kam se tento obor přirozeně vyvíjí. Směr je jasný: modely se neustále optimalizují, zmenšují a přestávají být tak výpočetně náročné. Už se nebavíme o technologii vyhrazené pro superpočítače, ale o softwaru, který bude běžně fungovat lokálně na našich zařízeních. A netýká se to jen generování ‚svlékacích‘ fotek nebo videí, ale i klasických jazykových modelů pro psaní textu či kódu. Budoucnost patří decentralizované, lokální AI, která z principu nemůže podléhat centrální regulaci. Snaha omezovat pár velkých hráčů na trhu tak zcela míjí realitu toho, kam se svět v nejbližších letech posune.